거대 기술 기업들이 선거 관련 딥페이크 퇴치를 위한 자발적 서약에 서명했습니다.

규제 당국의 조사가 강화되고 행동에 대한 요구가 커지면서 기술 기업들은 선거에서 딥페이크 조작에 맞서기 위해 노력해 왔습니다.

최근 뮌헨 보안 컨퍼런스에서 마이크로소프트, 메타, 구글, 아마존, 어도비, IBM 등 여러 저명한 기술 기업들은 유권자를 속이기 위해 인공지능으로 제작된 딥페이크 조작에 대한 우려가 커지고 있는 상황을 해결하기 위한 통합된 접근 방식을 공동으로 지지했습니다. 또한, 혁신적인 기술 기업인 X(이전의 트위터), 틱톡, 스냅, 반도체 제조업체 Arm, 사이버 보안 업체인 맥아피, 트렌드마이크로와 함께 OpenAI, Anthropic, Inflection AI, ElevenLabs, Stability AI와 같은 업계 선도 기업을 포함한 13개 기관이 이 중요한 협약에 서명함으로써 지지를 보탰습니다.

앞서 언급한 기업들은 디지털 플랫폼에서 유포되는 사기성 정치 딥페이크 이미지 또는 동영상을 식별하고 태그를 지정하는 기술을 사용하기로 약속했습니다. 또한, 이들 기관은 효과적인 전략을 서로 교환하고 이러한 딥페이크가 유포되는 사례를 신속하게 처리할 것입니다. 또한, 이러한 딥페이크가 제공되는 맥락을 특별히 고려하여 교육, 문서, 예술, 풍자, 정치 관련 표현을 포함한 다양한 형태의 표현을 보호하기 위해 노력하는 동시에 기만적인 선거 관련 자료에 대한 정책의 투명성을 보장하고자 합니다.

이 협약은 자발적 준수에 의존하기 때문에 실효성이 없고 실체가 없다는 비판을 받아왔으며, 비평가들은 이 협약이 도덕적 허세에 불과하다고 주장하고 있습니다. 그럼에도 불구하고 이러한 열광적인 반응은 특히 올해 전 세계 인구의 절반 가까이가 총선에 투표할 것이라는 점을 고려할 때 선거 과정과 관련된 잠재적인 규제 조사에 대한 기술 업계의 우려가 커지고 있음을 시사합니다.

“기술 부문이 이러한 새로운 유형의 선거 남용으로부터 선거를 스스로 보호할 수 있는 방법은 없습니다.“라고 Microsoft의 부회장 겸 사장인 Brad Smith는 보도 자료 에서 말했습니다. “미래를 바라볼 때 Microsoft에서 일하는 우리에게는 새로운 형태의 다중 이해관계자 행동도 필요할 것 같습니다… 선거를 보호하려면 우리 모두가 함께 노력해야 한다는 것은 분명합니다.”

미국에서는 선거 관련 또는 기타 이유로 딥페이크 사용을 금지하는 연방법이 없습니다.그러나 미국 내 10개 주에서 딥페이크 범죄를 처벌하는 법령을 제정했으며, 미네소타주는 정치 캠페인에 사용되는 딥페이크에 대한 최초의 법안을 마련했습니다.

다른 관할권에서는 다양한 정부 기관에서 딥페이크 콘텐츠의 확산을 억제하기 위해 가능한 조치를 시행하고 있습니다.

미국 연방거래위원회(FTC)는 영리 기업이나 정부 기관의 모방을 금지하는 현행 규정을 정치인 등 공인을 포함한 모든 개인을 포괄하도록 개정할 것을 제안했습니다. 또한 연방통신위원회(FCC)는 인위적으로 생성된 음성 메시지와 사전 녹음된 음성 메시지를 모두 침입적이라고 간주하는 법령을 개정하여 합성 음성이 포함된 자동 로보 통화를 불법으로 간주하는 방안을 검토하고 있습니다.

유럽연합은 인공지능으로 생성된 모든 콘텐츠가 인공지능인지 여부를 적절히 식별하도록 의무화하는 AI 법이라는 입법 조치를 시행하고 있습니다. 또한 EU는 디지털 서비스법을 활용하여 기술 산업 내 여러 플랫폼에서 딥페이크 기술의 확산을 제한하고 있습니다.

이러한 위조 미디어 콘텐츠를 전문적으로 탐지하는 저명한 기관인 클래리티의 통계에 따르면 딥페이크의 확산은 최근 기하급수적으로 증가했으며, 이는 전년 대비 무려 9배나 증가한 수치에서 알 수 있듯이 놀라운 수치입니다.

지난달 뉴햄프셔주의 대통령 후보 지명 과정에서 진행된 예비선거에서 조 바이든 미국 대통령의 목소리 톤을 모방한 인공지능 기반 자동 전화가 개인이 투표를 하지 못하도록 유도하는 의도로 걸려왔습니다. 이와 유사하게, 지난해 슬로바키아에서 실시된 총선을 불과 며칠 앞두고 컴퓨터로 제작된 오디오 클립에서는 저명한 진보 정치인이 주류 가격 인상 전략을 솔직하게 논의하는 모조품을 은밀하게 사용하면서 동시에 부정한 방법으로 선거 결과를 조작하려는 음모를 꾸민 것으로 알려졌습니다.

YouGov의 최근 설문조사 에서 미국인의 85%는 오해의 소지가 있는 비디오 및 오디오 딥페이크의 확산에 대해 매우 우려하거나 어느 정도 우려한다고 답했습니다. AP통신-NORC 공공문제연구센터의 별도 설문조사 에 따르면 성인의 약 60%가 2024년 미국 선거 기간 동안 AI 도구가 허위 및 오해의 소지가 있는 정보의 확산을 증가시킬 것이라고 생각하는 것으로 나타났습니다.