[디지털비즈온 송민경 기자] 생성형 AI 기술로 구동되는 최초의 정치 전화 뱅커인 애슐리(Ashley)가 미국 선거운동에 처음 도입된다.

사람 대신 유권자에게 전화를 걸어 후보 정책을 설명하고 유권자 질문에 답한다. 애슐리는 일반 자동응답방식(ARS) 전화와 달리 녹음된 문장만 얘기하지 않고 유권자 프로필을 분석해 맞춤형 대화를 진행한다.

미국 민주당 샤메인 대니얼스(Shamaine Daniels)가 2020년 선거에 핵심적인 역할을 한 트럼프와 연계된 공화당 하원의원 스콧 페리(Scott Perry)의 의석을 노리며 의회에 출마했다.

지난해 페리에게 10점 미만 차이로 패배한 대니얼스는 자신의 약자 후보 경선에 도움이 될 핵심전략으로 인공지능 캠페인 자원봉사자 애슐리(Ashley)가 나오기를 바라고 있다.

주로 민주당 캠페인 및 후보자와 함께 일할 계획으로 제작자는 애슐리가 오픈AI의 챗GPT와 유사한 생성형 AI 기술로 구동되는 최초의 정치 전화 뱅커라고 밝혔다. 애슐리는 동시에 무한한 수의 맞춤형 일대일 대화가 가능다.

애슐리는 생성형 AI가 어떻게 후보자들이 기술을 사용하여 점점 더 추적하기 어려운 방식으로 유권자와 소통하는 정치 캠페인의 새로운 시대를 열었는지를 보여주는 사례 중 하나로 볼 수 있다.

어떤 사람들에게는 대규모로 고품질 대화를 수행하기 위한 흥미롭고 새로운 도구지만, 다른 이들은 이미 AI 알고리즘을 사용하여 만들어진 사실적이지만 조작된 비디오와 이미지인 "딥페이크"와 싸우고 있는 미국 정치의 양극화된 환경에서 애슐리가 허위 정보를 악화시킬 것이라고 우려하는 의견도 있다.

주말 동안 애슐리는 대니얼스를 대신해 수천 명의 펜실베이니아 유권자들에게 전화를 걸었으며, 노련한 선거 운동 자원봉사자처럼 유권자의 프로필을 분석하여 주요 이슈에 대한 대화를 적절하게 적용했다. 인간과 달리 애슐리는 항상 출근하고 대니얼스의 모든 직책을 완벽하게 기억한다.

런던에 본사를 둔 애슐리의 회사인 시복스(Civox)의 CEO, 일리아 무시칸츠키(Ilya Mouzykantskii)는 "이것은 빠르게 확장될 것입니다"라고 밝혔다. "우리는 올해 말까지 하루에 수만 건의 전화를 걸고 조만간 여섯 자리 숫자로 늘릴 계획이며, 이것은 2024년 선거를 앞두고 있으며 미래는 바로 지금입니다."라고 언급했다.

애슐리는 여러 언어를 구사하며 AI 도구이며 통화가 녹음되고 있음을 공개하고 있으며, 자원봉사자를 모집하고 캠페인 메시지를 전달할 수 있는 기부금과 피드백을 받고 있다. 대니얼스에 따르면 애슐리가 질문에 대한 답을 가지고 있지 않다면, 실제 사람이 그들에게 연락할 수 있는 옵션을 제공한다.

대니얼스에 따르면 애슐리가 질문에 대한 답을 가지고 있지 않다면, 실제 사람이 그들에게 연락할 수 있는 옵션을 제공한다.

오픈AI CEO 샘 알트만(Sam Altman)은 지난 5월 의회에서 생성형 AI가 "일대일 대화형 허위 정보"를 통해 선거 무결성을 훼손할 수 있는 능력에 대해 "긴장하고 있다"고 증언했다. 무지칸츠키는 잠재적인 단점을 충분히 알고 있으며 윤리보다 이익을 우선시하도록 유인할 수 있는 벤처 캐피털 자금을 받을 생각이 없다고 밝혔다.

오픈AI와 마찬가지로 무지칸츠키는 회사에 대한 우려 사항을 공개적으로 공개하도록 강제할 수 있는 권한을 가진 위원회라는 특이한 지배 구조를 설정하고 있다. 시복스(Civox)는 애슐리에게 로봇처럼 들리는 목소리를 부여하고 법적으로 요구되지 않음에도 불구하고 그녀가 AI임을 공개했다.

스탠포드 대학과 컬럼비아 대학의 컴퓨터 공학을 전공한 무지칸츠키와 그의 공동 설립자 애덤 레이스(Adam Reis)는 자신들이 사용하고 있는 정확한 생성형 AI 모델을 공개하기를 거부했다. 그들은 20개 이상의 서로 다른 AI 모델, 일부는 독점적이고 일부는 오픈 소스라고 말할 것입니다.

대니얼스와 애슐리를 만든 회사들은 이 기술의 경제성을 강조했지만, 어느 쪽도 이 도구의 가격이 얼마인지는 공개하지 않았다. "우리는 인간이 지불하는 전화 뱅커보다 훨씬 저렴하고 멍청한 자동 녹음 전화를 하는 것보다 더 비쌉니다."라고 무지칸츠키는 말했다.

이러한 AI 사용 방식을 규제하는 법적 가드레일은 거의 없으며, "어떤 연방법에 따라 그것이 불법이 될지 모르겠다"고 비영리 소비자 옹호 단체인 퍼블릭 시티즌(Public Citizen)의 회장인 로버트 와이즈먼은 말했다.

미시간주는 선거에서 딥페이크를 규제하는 법안을 통과시켰거나 논의 중인 몇 안 되는 주 중 하나여서 대니얼스가 출마한 펜실베이니아에는 아직 법안이 도입되지 않았다.