선거 관련 잘못된 정보를 방지하기 위한 Anthropic의 조치
다가오는 2024년 미국 대통령 선거를 앞두고, 뛰어난 자금력을 갖춘 인공지능 회사인 Anthropic은 첨단 GenAI 챗봇을 사용하는 개인이 정치 주제에 대해 문의하는 시점을 파악하여 유권자 등록 및 관련 선거 문제에 관한 신뢰할 수 있는 리소스로 안내하는 새로운 접근 방식을 개발했습니다.
Anthropic의 챗봇인 Claude는 인공지능 탐지 시스템과 사전 정의된 가이드라인을 결합한 혁신적인 솔루션인 Prompt Shield를 활용합니다. 미국에 거주하는 클로드 사용자가 투표 데이터에 대해 문의하는 경우, 민주주의 워크스에서 관리하는 초당파적 단체인 터보보트로 안내하는 알림이 표시됩니다. 이 플랫폼은 투표 절차에 관한 최신의 신뢰할 수 있는 정보를 제공합니다.
Anthropic은 정치 및 선거 데이터에 관한 클로드의 전문성이 부족하다는 사실을 확인했고, 이러한 한계를 해결하기 위한 수단으로 프롬프트 쉴드를 개발하게 되었습니다. 불충분한 교육으로 인해 클로드는 선거와 관련된 세부 사항을 조작하기 쉬울 수 있으며, 이러한 현상을 ‘환각’이라고 부르거나 사실을 지어낼 수 있습니다.
최근 플랫폼 가이드라인에 다양한 형태의 유해 콘텐츠를 식별하기 위한 ‘프롬프트 쉴드’를 도입한 것과 관련하여 문의한 결과, 담당자는 이메일을 통해 클로드 데뷔 때부터 이러한 조치를 활용하고 있다고 알려왔습니다. 또한 효과와 제약 조건에 대한 지속적인 모니터링을 거쳐 곧 선거 중심의 프롬프트 쉴드 버전이 도입될 예정이라고 언급했습니다. 개발 과정에는 정부 관계자, 업계 동료, 비영리 단체, 선거 관련 전문 자문위원 등 여러 당사자와의 논의가 포함되었습니다.
현 단계에서는 시스템 테스트가 다소 제한적인 것으로 보입니다. 임박한 선거 경선에서 투표 절차에 대해 문의하는 동안 Claude는 관련 정보가 포함된 예상 팝업을 표시하지 않았고, 대신 표준화된 유권자 가이드를 제공하기로 했습니다. 그럼에도 불구하고 Anthropic은 더 많은 사용자층에게 향상된 기능을 제공하기 위해 알고리즘을 개선하고 있다고 주장하고 있습니다.
Anthropic은 다양한 기술적 조치를 통해 선거 개입을 막으려는 다른 GenAI 공급업체와 함께 자사의 도구를 정치 캠페인 및 로비 활동에 활용하는 것을 금지하는 정책을 시행하고 있습니다.
다가오는 선거 과정은 세계 민주주의의 역사적 이정표라는 점에서 결코 우연이 아닙니다. 전 세계 인구의 거의 절반에 달하는 전 세계 약 64개국에서 기록적인 수의 개인이 올해 총선에 투표할 것으로 예상됩니다.
지난 1월, OpenAI는 개인이 인기를 얻은 AI 기반 챗봇인 ChatGPT를 이용해 진짜 후보자나 정부 기관으로 가장하거나 선거 절차에 대한 진실을 왜곡하거나 시민들의 투표를 방해하는 봇을 개발하는 것을 금지한다고 발표했습니다. 이와 동시에, 현재 OpenAI는 정치적 유세 또는 옹호 목적으로 자사의 리소스를 사용한 애플리케이션 개발을 제재하지 않으며, 이는 최근 몇 달 동안 재확인한 입장입니다.
프롬프트 쉴드에 사용된 방법론과 유사한 방식으로, OpenAI는 투표 물류와 관련된 질문을 하는 ChatGPT 사용자를 정치적으로 중립적인 플랫폼, 즉 전미국무장관협회가 감독하는 CanIVote.org로 안내하는 탐지 메커니즘을 구현했습니다.
미국 의회는 초당적인 지지를 받고 있음에도 불구하고 인공지능이 정치에 미치는 영향을 규제하기 위한 법안을 제정하지 않았습니다. 반대로 미국 내 3분의 1 이상의 주에서 선거 운동 중 딥페이크 조작을 겨냥한 법률을 제정하거나 제안한 반면, 연방 규제는 정체된 상태입니다.
유권자를 속이거나 조작할 목적으로 GenAI가 오용되는 것을 방지하기 위해 일부 플랫폼은 입법 조치에만 의존하지 않고 규제 기관 및 옹호 단체의 조사에 대응하여 사전 조치를 취하고 있습니다.
구글은 작년 9월, 시각적 또는 청각적 콘텐츠가 인위적으로 조작된 경우 유튜브와 구글 검색을 포함한 기타 구글 플랫폼에서 생성 AI 기술을 활용한 정치 광고에 고지 사항을 의무화하겠다고 발표했습니다. 마찬가지로, 메타(구 Facebook)는 모든 메타 소유 플랫폼의 광고에서 정치 캠페인이 자체 및 제3자의 GenAI 도구를 사용하는 것을 금지하고 있습니다.