인공지능이 만들어낸 2024년 선거의 지옥

아래에서 모든 보도를 확인할 수 있습니다.

핀핀됨

이번 주 디코더에서는 중요한 주제를 탐구하는 미니 시리즈의 일환으로, 특히 생성 인공 지능이라는 주제에 초점을 맞춰 시사 이슈에 대한 종합적인 분석 시리즈를 소개합니다.

최근 들어 저작권 소송이 급증하고 있으며, 이는 궁극적으로 우리 산업 전체의 발전을 저해할 수 있습니다. 이러한 소송은 복잡한 사법 절차를 거치기 때문에 그 결과는 아직 불확실합니다. 그러나 더 시급한 문제는 인공지능 시스템이 매우 설득력 있는 위조 시각 및 청각 콘텐츠를 생성하는 능력에서 비롯됩니다. 거짓 시청각 자료를 제작할 수 있는 잠재력을 가진 OpenAI의 Sora와 같은 기술이 등장함에 따라 이러한 발전이 향후 이 분야의 궤도에 어떤 영향을 미칠지 지켜봐야 할 것입니다.

인공지능은 선거 진행 방식을 혁신하고 선거의 공정성을 훼손할 수 있는 잠재력을 가지고 있어 선거 관계자들 사이에서 상당한 불안감을 불러일으키고 있습니다.

먼저 조 바이든 로보콜 가 있었는데, 이 로보콜은 대통령의 목소리를 딥페이크하여 뉴햄프셔 유권자들에게 예비선거 기간 동안 집에 머물러 달라는 메시지를 보냈습니다. 이제 선거 관리자들은 이번 선거 기간 동안 자신들도 사칭 전화를 받을까 걱정하고 있습니다.

작년에 자신의 딥페이크를 테스트한 애리조나 주 국무장관은 Politico 에 “많은 피해를 입힐 수 있는 잠재력이 있다"고 말했습니다.

첨부된 그림은 Amelia Holowaty Krales가 제공한 것으로 이 웹사이트에서 확인할 수 있습니다.

연방통신위원회는 로보콜에 AI가 생성한 음성을 사용하는 것을 불법으로 규정하고 있습니다. 목요일에 발표된 판결( )은 주 법무장관에게 AI 음성 복제 기술을 사용하는 발신자에 대해 조치를 취할 수 있는 권한을 부여합니다.

판결에 명시된 바와 같이 , 이제 AI 생성 음성은 전화 소비자 보호법(TCPA)에 따라 “인공 또는 사전 녹음된 음성"으로 간주됩니다. 이에 따라 발신자는 긴급한 목적이 아닌 경우 또는 사전 동의 없이 AI 생성 음성을 사용하는 것이 제한됩니다. TCPA에는 메시지를 전달하기 위해 “인공 또는 미리 녹음된 음성"을 사용하는 것을 포함하여 다양한 자동 통화 관행을 금지하는 내용이 포함되어 있지만, 여기에 AI 기반 음성 복제가 포함되는지 여부는 명시적으로 언급되지 않았습니다. 새로운 판결은 이러한 녹음이 실제로 법의 적용 범위에 포함된다는 점을 명확히 했습니다.

기사 읽기 &t 이미지: Laura Normand / 이 사이트

링고 텔레콤과 라이프 코퍼레이션은 조 바이든 대통령의 AI 음성 복제품을 사용하여 뉴햄프셔 유권자들에게 투표하지 말 것을 설득하는 로보콜 캠페인과 관련이 있다고 화요일 기자회견에서 뉴햄프셔 법무장관 존 포멜라는 말했습니다. 당국은 두 회사에 대해 중지 명령 과 소환장을 발부했습니다. 두 회사는 모두 텍사스에 본사를 두고 있으며 과거에 불법 로보콜 조사 혐의로 기소된 적이 있다고 FCC는 문서에서 언급했습니다.

FCC는 링고 텔레콤에 대한 중지 명령 에서 이 회사가 “불법 로보콜 트래픽을 발생시켰다"고 비난했습니다. 이 문서에 따르면 로보콜은 뉴햄프셔 예비선거 이틀 전인 올해 1월 21일부터 시작되었습니다. 뉴햄프셔 주의 유권자들은 다가오는 예비선거에서 민주당 잠재 유권자들에게 투표하지 말 것을 권고하는 대통령의 “명백한 딥페이크 사전 녹음 메시지"를 재생하는 전화를 받았습니다. 이 전화는 전 뉴햄프셔 민주당 관계자 캐시 설리반의 배우자가 발신한 것처럼 위장되었습니다.

명백한 행동을 통해 뉴햄프셔 예비선거 결과에 영향을 미치려는 시도는 위의 성명에서 알 수 있듯이 철저하게 조사하고 단호하게 대응해야 합니다.

조셉 모렐 하원의원(D-NY)은 법무부가 유권자에게 허위 정보를 제공한 인공지능으로 추정되는 조 바이든 로보콜 을 조사할 것을 요구하고 있으며, 이는 인공지능으로 생성된 허위 정보가 지속적인 선거 문제가 될 것이라는 최근의 신호입니다. 주 법무부는 이미 를 조사하고 있습니다.

이 이미지는 워싱턴 포스트의 사진작가가 게티 이미지 서비스를 통해 촬영한 줄리아 니킨슨으로 확인된 어린 소녀의 모습을 담고 있습니다.

인공지능이 허위 정보의 확산을 촉진할 수 있는 가능성에 대한 전 세계적인 우려가 커짐에 따라 Microsoft는 전 세계에서 예정된 여러 선거에 대비하여 딥페이크 조작에 대응하고 사이버 공간 보안을 강화하기 위해 AI 콘텐츠 식별자 형태의 전자 서명을 비롯한 다양한 기능을 제공하고 있으며, 이를 통해 전 세계에 걸쳐 다양한 선거 이벤트를 앞두고 있습니다.

Microsoft 사장 Brad Smith와 기본권을 위한 기술 부문 부사장 Teresa Hutson이 공동 작성한 블로그 게시물 에서 Microsoft는 콘텐츠 출처 인증 연합(C2PA)에서 개발한 콘텐츠 자격 증명 워터마킹 시스템을 활용하는 새로운 도구 출시를 비롯하여 선거 무결성을 보호하기 위한 여러 서비스를 제공할 것이라고 발표했습니다. 이 서비스의 목표는 지원자가 자신의 콘텐츠와 초상을 보호하고 허위 정보가 공유되는 것을 방지하는 것입니다.

기사 읽기; 그림: 닉 바클레이 / 이 사이트

메타는 지금부터 광고주가 정치, 선거 및 사회 문제 광고에서 잠재적으로 기만적인 인공지능이 생성하거나 조작한 콘텐츠를 공개하도록 하는 규정을 시행할 것이라고 선언했습니다.

곧 시행될 규정은 개인이나 시나리오를 ‘사실적으로’ 시각적으로 표현한 Facebook 및 Instagram의 멀티미디어 콘텐츠에 적용되며, 이러한 묘사는 조작된 것으로 실제 사건을 정확하게 반영하지 않습니다. 또한, 현실과 매우 유사한 가상 인물이나 상황을 묘사하는 모든 미디어에는 해당 사실을 표시해야 합니다. 이 정책은 다음 연도 중 언젠가 시행될 예정입니다.

기사 보기 삽화: Nick Barclay / 이 사이트

페이스북 감독위원회 은 2024년 대선을 앞두고 ‘조작된 미디어’에 대한 메타의 정책을 바꿀 수 있는 조 바이든 대통령의 조작된 동영상과 관련된 새로운 사건 를 검토하고 있습니다.

문제의 동영상에는 지난해 중간선거 당시 바이든 이 손녀의 가슴에 ‘투표했습니다’ 스티커를 붙이고 볼에 키스하는 장면이 번으로 변조된 클립이 포함되어 있습니다. 이 영상은 래퍼가 “얘들아, 가슴을 문질러"라고 말할 때 파로아에 몬치의 “사이먼 세이즈"에 맞춰 바이든이 소녀의 가슴을 만지는 동작을 반복하도록 편집되었습니다. 이 영상은 바이든을 “병든 소아성애자"라고 부르는 캡션과 함께 페이스북에 게시되었습니다.

기사 읽기 &t 이미지: 알바로 베르니스 / 이 사이트

최근 공화당 전국위원회(RNC)가 제작한 인공지능으로 생성된 정치 광고의 사례는 다가오는 선거 시즌에 이러한 기술의 활용 가능성에 대한 통찰을 국회의원들에게 제공했습니다. 이에 따라 민주당 의원들은 현재 이 강력한 도구에 대응할 준비를 하고 있습니다.

화요일에 이베트 클라크 의원(D-NY) 은 정치 광고에서 AI가 생성한 콘텐츠 를 공개하도록 하는 새로운 법안을 발의했습니다. 클라크 의원은 화요일 워싱턴포스트 와의 인터뷰에서 자신의 법안은 지난 주에 공개된 RNC 광고에 대한 직접적인 대응이라고 말했습니다. 이 동영상은 조 바이든 대통령이 2024년 재선 캠페인을 발표한 직후에 공개되었으며, 바이든이 우크라이나의 전쟁 노력을 돕기 위해 초안을 복원하고 재선되면 중국이 대만을 침공하는 디스토피아적인 미래를 묘사했습니다.

기사 읽기 삽화: Alex Castro / 이 사이트

미국에서 TikTok이 금지될 가능성이 높아짐에 따라 플랫폼은 콘텐츠 중재 지침을 개정했습니다. 업로드 및 승인할 수 있는 자료의 유형에 관한 규정은 대부분 변경되지 않았지만, 최근 애플리케이션에서 사용량이 급증하고 있는 인공지능으로 생성된 딥페이크 동영상의 유포에 대한 보다 엄격한 제한이 포함되었습니다.

규제 프레임워크의 현행 규정(또는 TikTok에서 ‘커뮤니티 기준’으로 표시)은 표준화되고 예측 가능한 상태로 유지됩니다. 금지되는 콘텐츠에는 노골적인 폭력, 혐오 수사, 노골적인 자료가 포함되며, 묘사된 개인의 연령에 따라 다양한 제한이 적용됩니다. 또한 최근 플랫폼 내에서 사용량이 급증하고 있는 딥페이크와 같은 인공 지능 기술을 통해 생성된 ‘조작된 미디어’를 다루기 위해 새로운 세그먼트가 추가되었습니다.

기사 읽기 &t