FTC, 딥페이크 방지를 위한 규칙 수정 모색

딥페이크의 위협이 증가함에 따라 FTC는 기업이나 정부 기관의 사칭을 금지하는 기존 규정 을 모든 소비자에게 적용하도록 수정할 계획입니다.

개정안의 최종 문구와 일반 대중의 피드백을 기다리는 중이며, 수정된 규정은 유전자 인공 지능(GenAI) 플랫폼이 기만 행위를 통해 고객에게 손해를 끼친다는 사실을 알고 있거나 알고 있어야 하는 경우 상품 제공이나 서비스 제공을 금지할 수 있습니다.

미국 연방거래위원회(FTC)의 리나 칸 위원장은 최근 언론 성명을 통해 사기 행위자들이 인공지능(AI) 기술을 활용하여 광범위한 범위에서 놀라운 정확도로 개인을 모방하고 있다고 밝혔습니다. 음성 모방 및 기타 형태의 AI 기반 사기가 점점 더 널리 퍼짐에 따라 이러한 사기로부터 미국 시민을 보호하는 것이 필수적이 되었습니다. 기존의 사칭 방지 규정에 대한 개선안은 개인을 사칭하는 이러한 AI 기반 사기에 대응할 수 있는 기관의 역량을 강화하여 이와 관련된 소비자 보호 조치를 강화하는 것을 목표로 합니다.

1. 사기범들은 음성 복제 및 기타 AI 도구를 사용하여 섬뜩할 정도로 정밀하고 대규모로 개인을 사칭하고 있습니다. @FTC 은 사칭 규정을 개인 사칭까지 확대하여 이러한 사기꾼들이 막대한 벌금을 내도록 할 것을 제안합니다. https://t.co/8ON0G63ZjL

- 리나 칸 (@linakhanFTC) 2024년 2월 15일

테일러 스위프트 같은 사람들만 딥페이크에 대해 걱정해야 하는 것은 아닙니다. 딥페이크와 관련된 온라인 로맨스 사기가 건 건 증가하고 있습니다. 그리고 기업에서 현금을 빼내기 위해 직원을 사칭하는 사기범이 .

YouGov의 최근 설문조사 에서 미국인의 85%는 오해의 소지가 있는 비디오 및 오디오 딥페이크의 확산에 대해 매우 우려하거나 어느 정도 우려한다고 답했습니다. 별도의 설문조사 에 따르면 성인의 약 60%가 2024년 미국 선거 기간 동안 AI 도구가 허위 및 오해의 소지가 있는 정보의 확산을 증가시킬 것이라고 생각하는 것으로 나타났습니다.

최근 제 동료 중 한 명인 Devin Coldewey는 원치 않는 권유에 해당하는 인공적이고 미리 녹음된 메시지의 사용을 제한하는 기존 규정의 개정된 해석을 통해 흔히 ‘로보콜’로 알려진 AI 생성 자동 전화를 금지하려는 연방통신위원회의 계획에 대해 보도한 바 있습니다. 이번 조치는 최근 한 정치 단체가 선거 기간 동안 뉴햄프셔의 유권자들이 투표를 하지 못하도록 하기 위해 딥페이크 이미지를 포함한 첨단 기술 방법을 사용하여 바이든 대통령을 사칭한 사례를 고려할 때 적절한 시점에 이루어졌습니다. 앞서 언급한 규제 조정과 연방거래위원회의 후속 조치는 국가 당국의

딥페이크 동영상을 금지하는 명시적인 법률은 없지만, 이러한 콘텐츠로 인해 피해를 입은 개인은 다양한 기존 법적 메커니즘을 통해 구제를 요청할 수 있습니다. 여기에는 저작권 침해, 퍼블리시티권 침해, 사생활 침해 또는 고의적인 정신적 고통 유발과 같은 불법행위 청구 등이 포함됩니다. 그러나 이러한 옵션을 선택하는 것은 부담스럽고 시간이 오래 걸릴 수 있습니다.

의회의 조치가 없는 상황에서 미국 내 10개 주에서 딥페이크(대부분 합의되지 않은 포르노)를 범죄화하는 법령을 제정했습니다. 딥페이크 생성 도구가 점점 더 정교해짐에 따라 이러한 법이 더 다양한 딥페이크를 포괄하도록 개정되고 더 많은 주 차원의 법이 통과될 것으로 예상됩니다. (예를 들어, 미네소타주의 법은 이미 정치 캠페인에 사용되는 딥페이크에 대해 규제하고 있습니다.)