수백 명의 AI 석학들이 딥페이크 방지 법안을 촉구하는 서한에 서명하다

인공지능 커뮤니티의 수백 명이 인공지능으로 생성된 사칭 또는 딥페이크에 대한 엄격한 규제를 촉구하는 공개 서한에 명이 서명했습니다 . 하원의 새로운 태스크포스에도 불구하고 이것이 실제 입법으로 이어질 가능성은 낮지만, 전문가들이 이 논쟁적인 문제에 대해 어떻게 생각하는지 보여주는 신호탄 역할을 합니다.

공개 당시 인공지능 분야 또는 그 근처에서 활동하는 500명 이상의 개인이 작성한 이 성명서는 딥페이크가 사회 전체에 미치는 위험 증가에 대한 우려를 표명하고 있습니다. 이에 따라 각국 정부가 딥페이크 기술의 확산을 막기 위해 공급망 전체에 걸쳐 구속력 있는 요건을 마련해야 한다고 주장합니다.

가상의 인물이 등장하는 것을 포함한 모든 형태의 딥페이크 아동 성적 학대물(CSAM)을 완전히 범죄화할 것을 제안합니다. 이러한 콘텐츠를 제작하거나 유포하는 개인에게는 묘사된 인물이 실제 인물인지 가상의 인물인지에 관계없이 엄격한 법적 처벌이 내려져야 합니다. 또한, 기술 제공업체는 플랫폼과 애플리케이션을 통해 유해한 딥페이크가 제작되는 것을 막기 위한 적극적인 조치를 취해야 하며, 이러한 책임을 적절히 이행하지 않을 경우 적절한 제재를 가해야 합니다.

이 문서에 서명한 사람들 중에는 다음과 같이 각 분야에서 주목할 만한 직책을 맡고 있는 인사들이 다수 포함되어 있습니다:

자론 라니어, 프란시스 하우겐, 스튜어트 러셀, 앤드류 양, 마리엣제 샤크, 스티븐 핑커, 게리 마커스, 오렌 에치오니, 제네비브 스미스, 요슈아 벤지오, 댄 헨드릭스. 또한 팀 우도 이 저명한 개인 목록에 포함되어 있습니다.

세계 각지의 수많은 학계 인사들 외에도 서명을 통해 지지를 보내준 저명한 인사들도 있습니다. 그중에는 OpenAI, 구글 딥마인드, Anthropic과 같은 조직의 대표와 개인도 포함되어 있습니다. 그러나 현재로서는 아마존, 애플, 마이크로소프트와 같은 기업에서 주목할 만한 서명자가 나타나지 않은 것으로 보이며, 이러한 기업과의 관계는 독특하다고 볼 수 있는 Jaron Lanier를 제외하고는 주목할 만한 서명자가 나타나지 않은 것으로 보입니다.

이러한 조치의 제안은 이달 초 공식적으로 도입되기 몇 년 전부터 유럽연합 내에서 논의가 진행되어 왔기 때문에 최근의 일이 아닙니다. 다양한 분야의 개인이 공개적으로 우려를 표명하도록 동기를 부여한 EU의 지속적인 정책 고려와 실행에 기인한 것으로 보입니다.

아마도 이러한 불행한 사건이 지속되는 이유는 이러한 학대 사례를 해결하기 위한 안전장치가 부족한 상태에서 한국 선거관리위원회의 인식이 점진적으로 진전되고 있기 때문일 것입니다.

우리가 이미 실제로 목격한 바 있는 인공지능을 이용한 사기의 유령이 선거 결과에 영향을 미치거나 의심하지 않는 개인이 힘들게 번 돈을 잃게 만들 수도 있습니다.

아마도 전날의 이니셔티브는 AI로 인한 잠재적 위험과 이를 법적으로 규제하기 위한 방법을 설명하는 문서를 작성하는 것 외에는 구체적인 목표 없이 시작되었을 가능성이 높습니다.

실제로 여러 가지 요인으로 인해 인공지능 분야의 구성원들이 특정 사안에 대해 우려를 표명하고 잠재적인 조치를 촉구하게 된 것으로 보입니다.

인공지능 발전을 중단해 달라는 이전의 호소는 거의 고려되지 않았기 때문에 이 서신의 효과는 아직 불확실합니다. 그러나 이번 서신은 보다 실용적인 접근 방식을 채택하고 있습니다. 선거철의 양극화된 정치 환경 속에서 이 문제를 다루기로 결정한 국회의원이 있다면, 전 세계 AI 학계 및 개발 커뮤니티의 정서를 평가할 때 이 개요를 참고할 수 있습니다.