유권자에게 전화하는 AI 생성 조 바이든을 담당한 괴짜 마술사

농담이 아닙니다.

더티 트릭

마술사 폴 카펜터는 뉴욕 타임스퀘어에서 무화과 잎만 입고 같은 홍보용 묘기는 말할 것도 없고 포크 구부리기, 줄타기 탈출에서 세계 기록을 보유한 로 이름을 알렸고 는 유명세를 탔습니다.

그러나 뉴햄프셔 프라이머리에서 로보콜에 사용된 조 바이든 대통령의 딥페이크 오디오를 제작하는 대가로 돈을 받고 NBC 뉴스가 보도한 연방 수사를 촉발한 이후, 그는 후디니도 벗어나기 어려운 곤경에 처하게 되었습니다.

정치의 영역에서 단 한 가지 부족한 요소가 있는데, 바로 일루셔니스트의 존재입니다. 다행히도 바로 그 사람이 여러분 앞에 서 있다고 카펜터는 NBC 뉴스와의 인터뷰에서 주장합니다.

알라카잠!

지난 1월, 대통령 후보 딘 필립스의 상대 후보의 정치 컨설턴트로 일하던 스티브 크레이머는 존 카펜터에게 연락해 인공지능 기술을 이용해 조 바이든 전 부통령이 다가오는 예비선거에 민주당 유권자들에게 참여하지 말 것을 촉구하는 가짜 오디오를 만들도록 그의 서비스를 고용했습니다.

AI가 생성한 딥페이크 오디오를 만드는 데 참여한 대가로 150달러를 받은 목수에 따르면, 이들은 벤모 거래 기록, 문자 메시지 교환, 전화 통화 기록 등의 증거를 NBC 뉴스에 제공하여 작업 내용과 마이클 크레이머의 참여 정도를 확인했습니다.

카펜터는 NBC와의 인터뷰에서 특정 행동을 하는 대가로 누군가에게 돈을 건네는 상황에 처한 적이 있다고 밝혔습니다. 그는 이 일을 맡게 된 의도가 악의적인 동기에 의한 것이 아니었으며, 나중에 정보가 어떻게 유포될지 몰랐기 때문이라고 해명했습니다. 또한 카펜터는 아폴로 달 착륙의 진위 여부에 대한 의구심을 포함해 기존 서사에 대한 회의감을 품고 있었다고 인정했습니다.

법 집행 기관에 따르면 딥페이크 바이든 오디오는 결국 5,000~25,000명의 뉴햄프셔 유권자에게 전화를 걸었습니다 .

스파이더 웹

딘 필립스 캠페인의 요원들은 크레이머의 행동을 비난하고 과거에 괴짜 래퍼이자 프로듀서 인 카니예 웨스트의 실패한 2020 대선 캠페인 를 위해 일했던 정치 컨설턴트와 거리를 뒀습니다 .

또한, 텍사스에 본사를 둔 텔레마케팅 회사가 이러한 통화 유포에 관여한 것으로 알려진 딥페이크 바이든 오디오와 관련하여 현재 주 및 연방 당국의 합동 조사가 진행 중입니다. 조사 활동의 주요 초점은 이러한 통신이 유권자 탄압 행위로 간주될 수 있는지 여부를 파악하는 동시에 통신 사기 및 남용과 관련된 법률 위반 가능성을 조사하는 데 있습니다.

문제의 마술사 카펜터는 Reddit과 같은 온라인 플랫폼을 통해 프로보노 변호사의 서비스를 확보하여 아무런 조치를 취하지 않고 있습니다.

미국 연방통신위원회(FCC)는 최근 이러한 자동 전화의 확산을 억제하고 잠재적인 속임수나 사기 행위로부터 소비자를 보호하기 위해 인공지능(AI)으로 생성된 음성을 사용하는 로보콜을 금지하는 조치를 시행하고 있습니다.

이 글 공유하기