메타의 감독위원회, 딥페이크 포르노를 겨냥해 2가지 특정 사례에 집중하다

Meta의 운영을 감독하는 관리 기관은 딥페이크 포르노에 대한 회사의 접근 방식에 대한 포괄적인 검토를 시작했으며, 특히 두 가지 특정 사례를 면밀히 조사하는 데 중점을 두고 있습니다.

최근 유명 인물을 묘사한 인공지능이 생성한 음란 이미지가 유포되는 사건이 발생한 후, Meta의 콘텐츠 중재 최고 책임자가 조치를 취했습니다.

해당 이미지는 2021년 10월 28일에 캡처된 것으로, 마크 저커버그 페이스북 CEO가 사명을 ‘페이스북’에서 ‘메타’로 변경한다고 발표하면서 소개한 메타의 엠블럼이 표시되어 있으며, 이는 유비쿼터스 소셜 플랫폼이 직면한 도전을 넘어선 진화를 상징합니다. 이 비주얼은 새로운 지평으로 성장하고 확장하기 위해 노력하는 회사의 정체성 변화를 보여줍니다.

메타, AI로 생성된 노골적인 이미지에 대처하다

메타 위원회는 인스타그램과 페이스북에서 공유된 이미지 관련 사례 두 건을 평가하여 노골적인 AI 생성 이미지를 다루는 메타의 정책 및 집행 관행의 효과를 평가하기로 결정했습니다.

딥페이크 포르노에 관한 메타의 정책 수정에 대한 책임은 해당 문제에 대한 자문 제안을 제공하는 것으로 제한되는 관리 기관이 아닌 기술 회사에 있습니다.

위원회는 광범위한 국제적 파급력을 가지고 있거나, 공적 담론에 기여하는 측면에서 가장 중요하거나, Meta의 기존 가이드라인 및 프로토콜에 주목할 만한 문제를 제기하는 사건에 높은 우선순위를 두고 있습니다.

당면한 문제는 디지털 맥락에서의 여성 묘사, 특히 사용자가 Instagram에서 여성이 등장하는 이미지 삭제를 요청하고 Facebook에서 삭제된 콘텐츠의 복원을 요구한 사례에 관한 것입니다.

감독 위원회는 이러한 사례를 해결하기 위한 통합된 접근 방식을 제공하기 위해 인스타그램과 페이스북 모두에서 메타가 내린 결정을 평가하는 것을 목표로 합니다. 모든 경우에 위원회는 문제의 콘텐츠가 어느 플랫폼에 게시하기에 적합한지 여부를 평가합니다.

또한 포르투갈의 Chega 당이 커뮤니티 기준을 위반한 혐의로 Meta에 대해 10년간 계정 사용 금지 조치를 취했다는 사실도 주목할 필요가 있습니다.이처럼 긴 기간 동안 금지 조치를 취하기로 한 메타의 결정은 논란을 불러일으켰으며, 콘텐츠를 효과적으로 조정하고 자체 정책을 시행하는 회사의 능력에 대한 의문을 제기하고 있습니다.

인스타그램에서 AI가 생성한 누드 여성

인스타그램에 업로드된 나체 여성의 모습이 인도 출신의 저명한 개인과 매우 흡사하게 묘사된 AI가 처음 논란의 중심에 섰습니다.

부적절한 콘텐츠에 대한 사용자들의 수많은 항의가 접수되었음에도 불구하고 메타의 자동 검토 시스템은 이러한 문제를 해결하지 못하고 검토하지 않기로 결정했습니다. 그러나 불만을 제기한 사용자가 추가로 이의를 제기한 후 이 문제는 이사회로 이관되었고, 이후 이사회가 개입하여 커뮤니티 가이드라인을 위반한 해당 자료를 삭제했습니다.

두 번째 시나리오는 인공적으로 생성된 나체의 여성 인물이 남성에게 애무당하는 장면이 소셜 미디어 플랫폼의 AI 생성 콘텐츠 전용 커뮤니티에 업로드된 것을 중심으로 합니다.

메타의 정책 전문가가 검토한 결과, 괴롭힘 및 협박 방지 가이드라인 위반에 따라 해당 콘텐츠를 삭제하기로 한 기존 결정을 유지했습니다. 이후 재검토 요청에도 불구하고 콘텐츠는 복구되지 않았습니다.

이사회가 이러한 특정 사례를 선정한 의도는 인공지능 기술을 통해 생성된 그래픽 콘텐츠의 규제 및 구현과 관련하여 Meta가 취한 조치가 양성 평등 증진이라는 회사의 목적에 부합하는지 평가하기 위한 것입니다.

일반 대중은 딥페이크 포르노 콘텐츠의 확산으로 인해 발생할 수 있는 잠재적 위험에 대한 의견을 제출할 수 있으며, 특히 여성과 사회 저명인사에 대한 영향에 중점을 두고 의견을 제출해 주시기 바랍니다.

일반 대중은 전 세계적으로 널리 퍼져 있는 딥페이크 포르노 콘텐츠의 존재와 활용, 특히 미국과 인도에서의 확산에 초점을 맞춰 자신의 인사이트를 제공하도록 권장됩니다.

메타는 딥페이크 포르노 문제를 해결하기 위해 효과적인 정책을 시행하고 강력한 단속 메커니즘을 구축하는 등 다양한 전략을 추진하고 있습니다.

자동화된 시스템을 활용하여 비속어 및 성적으로 노골적인 자료를 규제하는 Meta의 접근 방식과 이러한 방법과 관련된 내재된 복잡성 및 한계에 대해 현재 공개적으로 피드백을 받고 있습니다.

감독위원회는 메타 코퍼레이션이 시행해야 한다고 생각하는 특정 정책에 대한 대중의 제안과 권고 사항을 제출하도록 초대하고 있습니다. 이러한 권장 사항은 발표 후 2개월 이내에 제출해야 합니다. 이 이니셔티브는 모든 이해관계자의 이익을 고려하는 동시에 의사결정 과정의 투명성과 책임성을 증진하는 것을 목표로 합니다.

다가오는 미국 대선을 고려하여 메타는 딥페이크와 인공 지능을 포함한 기만적인 콘텐츠에 대처하기 위한 개정된 정책을 시행했습니다. 이러한 사전 예방적 조치는 이 중요한 시기에 대중의 담론을 보호하기 위한 것입니다.

토론에 참여하기