딥페이크부터 디지털 후보까지: 인공지능의 정치적 플레이

AI는 과거와 현재 인물의 의견을 대변하거나 잘못 표현하는 데 점점 더 많이 사용되고 있습니다. 최근 사례는 바이든 대통령의 목소리를 복제하여 뉴햄프셔 유권자들에게 로보콜로 사용한 경우입니다. 여기서 한 걸음 더 나아가, AI의 발전된 기능을 고려할 때, 머지않아 AI가 만든 페르소나의 상징적인 ‘후보’가 될 수도 있습니다. 이상하게 들릴지 모르지만 이러한 AI 정치인을 만들 수 있는 기술은 이미 존재합니다.

이러한 결과를 달성할 수 있음을 시사하는 상당한 증거가 있습니다. 역동적이고 몰입감 있는 학습 환경을 조성하는 교육 기술은 역사적 인물과 사상을 생생하게 구현할 수 있는 잠재력을 가지고 있습니다. 또한 이러한 혁신 기술을 신중하게 활용하면 역사를 둘러싼 수수께끼를 풀고 더 많은 지식과 시민적 참여를 가진 대중을 육성할 수 있습니다.

오늘날 사람들은 “Hello History” 앱을 사용하여 마르쿠스 아우렐리우스부터 마틴 루터 킹 주니어까지 다양한 인물의 관점을 반영하는 챗봇 과 상호작용하거나 “Text with History"를 통해 조지 워싱턴과 알버트 아인슈타인을 만나볼 수 있습니다. 는 사람들이 역사적 사건을 더 잘 이해하거나 “좋아하는 역사적 인물과 재미있게 대화할 수 있도록 도와주는” 앱이라고 주장합니다.

마찬가지로 파리의 오르세 미술관 에서 열리는 빈센트 반 고흐 전시회에는 디지털 버전의 고흐가 포함되어 있어 관람객이 고흐의 페르소나와 상호작용할 수 있는 기회를 제공합니다. 관람객이 질문을 하면 빈센트 챗봇이 800개 이상의 편지 데이터 세트를 기반으로 답변합니다. 포브스 제2차 세계대전 박물관에서 관람객이 AI 버전의 참전용사 과 대화할 수 있는 대화형 체험을 비롯한 다른 사례에 대해 설명합니다.

딥페이크의 우려스러운 부상

의심할 여지 없이, 이 혁신은 불순한 동기를 가진 과거와 현재의 저명한 개인을 복제하는 데에도 활용되어 도덕적 딜레마를 불러일으킬 수 있습니다. 예를 들어, 딥페이크가 널리 퍼지면서 조 바이든 위조 사진의 등장에서 알 수 있듯이 진짜와 조작된 사진을 구별하는 것이 어려워졌습니다.

딥페이크 기술은 인공 지능을 활용하여 정적인 시각 이미지, 동영상 및 청각 녹음을 생성하거나 수정하여 얼굴 교체, 음성 에뮬레이션 및 비디오 시퀀스 조작을 원활하게 수행할 수 있도록 합니다. 이 혁신은 실제 미디어 자산에서 파생된 정보를 통합하고 편집함으로써 신뢰도 높은 작품을 제작할 수 있으며, 그 진위를 판별하는 데 점점 더 많은 어려움을 겪고 있습니다.

인공지능 기술의 특정 응용 분야는 교육과 엔터테인먼트에 모두 활용될 수 있지만, 더 사악한 목적으로 악용되는 것에 대한 우려가 커지고 있습니다. 인공지능이 생성한 딥페이크 동영상을 사용하여 저명인사를 사칭함으로써 대중의 정서에 영향을 미치거나 선거 결과에 영향을 미칠 수 있는 가능성은 우려의 대상이 되고 있습니다.

정치 딥페이크의 부상

최근 다양한 목적으로 인공지능을 활용하는 뉴스가 등장하고 있습니다. 예를 들어, 파키스탄의 전 총리였던 임란 칸은 수감 중에 인공지능 기술을 활용하여 자신을 대신해 연설을 작성했습니다. 이 연설은 그의 부재에도 불구하고 최근 선거에서 예상치 못한 성공을 거둔 그의 정당에 대한 지지를 이끌어내는 데 성공했습니다.

뉴욕타임스 : “‘여러분 모두가 투표하러 나올 것이라고 전적으로 확신했습니다. 여러분은 여러분에 대한 저의 믿음을 충족시켰고, 여러분의 엄청난 투표율은 모두를 놀라게 했습니다.” 1분 길이의 영상에서 부드럽고 약간 로봇 같은 목소리는 칸의 역사적 이미지와 영상을 사용했으며 AI의 기원에 대한 면책 조항을 담고 있습니다.”

최근의 사례는 이뿐만이 아닙니다. 인도네시아의 한 정당은 2008년에 서거한 수하르토 전 대통령의 딥페이크 동영상을 AI로 제작했습니다. 이 영상에서 가짜 수하르토는 군부의 지원을 받은 정권의 일원이었던 전직 육군 장군에게 투표하라고 사람들에게 권유합니다. CNN 보도에 따르면, 선거를 불과 몇 주 앞두고 공개된 이 동영상은 363만1828명의 유권자에게 영향을 미치기 위한 것이었다고 합니다. 그리고 실제로 5백만 조회수를 기록했습니다. 전 장군은 선거에서 승리했습니다.

인도에서도 비슷한 수법이 사용되고 있습니다. 알자지라는 영화와 정치의 아이콘인 M. 카루나니디가 최근 대형 프로젝션 스크린을 통해 명의 라이브 청중 앞에 등장했다고 보도했습니다. 카루나니디는 연설에서 “스탈린의 아들이자 현 국가 지도자인 M.K. 스탈린의 유능한 리더십에 대한 찬사를 쏟아냈다"고 말했습니다. 카루나니디는 2018년에 사망했지만, 지난 6개월 동안 AI를 통해 이러한 공개 행사에 ‘등장한’ 것은 이번이 세 번째입니다.

인공지능, 특히 딥페이크가 접목된 정치 영역의 출현은 머지않은 미래에 일어날 것으로 예상되었지만, 이제 현실이 되었습니다.

‘인공’ 정치 후보의 등장

딥페이크 기술은 가상의 인물과 실제 인물을 매우 생생하고 인터랙티브한 디지털 묘사를 가능하게 하는 기술을 사용합니다.이러한 발전은 주목할 만한 역사적 인물과의 시뮬레이션 상호작용이나 녹음된 연설이나 저술 등 개인의 기록 자료에서 파생된 설득력 있는 가상 신원을 생성할 수 있게 해줍니다.

한 가지 가능한 새로운 응용 분야는 누군가(또는 어떤 그룹)가 공직을 위해 AI가 만든 디지털 페르소나를 제시하는 것입니다. 구체적으로는 AI가 만든 이미지, 오디오 및 비디오로 지원되는 챗봇이 될 수 있습니다. “이상하다"고요? 물론입니다. 우스꽝스럽다고요? 그럴 수도 있습니다. 그럴듯한가요? 전적으로요. 결국, 그들은 이미 치료사 , 남자 친구, 여자 친구 로 활동하고 있습니다.

이 개념을 구현할 때 어려운 점 중 하나는 의회나 지방의회 의석을 포함한 정치적 직책에 대한 합법적인 경쟁자는 실제 개인이라는 요건을 충족해야 한다는 것입니다. 따라서 챗봇은 후보자로 등록하거나 투표를 하는 데 필요한 전제 조건을 충족할 수 없습니다.

가능성은 매우 낮지만, 기명 투표 캠페인을 통해 디지털 페르소나 챗봇이 공식적으로 지명된 후보자보다 더 많은 선거인 지지를 받을 수도 있습니다. 이 이론적 상황을 살펴보기 위해 가상의 시나리오를 상상해 보겠습니다.

우유 있어요?

이 담론의 목적을 위해 ‘밀크봇’이 다가오는 샌프란시스코 시장 선거에 출마하는 가상 후보라고 가정해 봅시다. 밀크봇은 샌프란시스코 수퍼바이저 위원으로 작고한 하비 밀크의 저작물, 연설, 비디오 녹화, 소셜 미디어 게시물을 사용하여 학습된 오픈 소스 대규모 언어 모델(LLM)을 사용합니다. 이 말뭉치에는 비슷한 관점을 가진 개인이 저술한 자료가 추가로 포함될 수 있습니다.

밀크봇은 옹호자들과의 협업을 통해 설득력 있는 연설을 만들어낼 수 있는 고도로 발전된 인공 지능 시스템입니다. 또한 여러 소셜 미디어 플랫폼에 게시되는 비디오 및 오디오와 같은 멀티미디어 콘텐츠를 생성합니다. 또한 밀크봇은 빈센트 반 고흐가 소통했던 방식과 유사하게 공개 질의에 응답할 수 있는 기능을 갖추고 있습니다. 유명세가 높아지면서 기자들의 문의가 쇄도하고 있습니다. 이 독특한 캠페인의 혁신은 기존 후보들의 부진한 성적과 맞물려 밀크봇의 시장 출마를 지지하는 모멘텀을 키우는 데 기여하고 있습니다.

DALL-E 2라는 첨단 인공지능 시스템을 사용하여 제작된 디지털 아바타가 선거 유세에서 프레젠테이션을 하고 있습니다.

인공지능 챗봇이 공식적으로 등록된 후보보다 기명 투표 캠페인을 통해 더 많은 지지를 얻는 가상 시나리오에서 이러한 결과가 갖는 의미에 대해 의문을 제기할 수 있습니다. 이 투표가 기존 후보에 대한 불만을 나타내며 “위의 어느 것도 아니다"를 대신하는 역할을 한다고 생각할 수도 있지만, 유권자들이 진정으로 AI 주체의 공직 진출을 원했을 가능성도 있습니다. 어느 경우든 이후 사건은 법적 조항, 정치적 규범, 인공지능의 거버넌스 참여에 대한 사회적 태도 등 다양한 요인에 따라 달라질 수 있습니다.

의심할 여지 없이 선거 당국이 이 결과를 인정할 수 없다고 판단하면 인간 중에서 가장 많은 표를 얻은 사람이 승자로 선언될 것입니다. 그럼에도 불구하고 이러한 결과는 정치적 경쟁에서 경쟁자 또는 승자를 정의하는 기준에 대한 법적 재해석을 불러일으킬 수 있습니다. 대표성, 책임, 선거 절차에서 인공지능의 악용 또는 오용 가능성과 관련된 몇 가지 우려가 제기될 수 있습니다. 이미 현실 정치에서 유사한 문제가 널리 퍼져 있다는 점에 주목할 필요가 있습니다.

상징적인 의미에서 디지털 페르소나를 활용하는 것은 사회 정치적 논평을 전달하는 수단으로 사용될 수 있습니다. 이러한 아바타는 기존 정치적 대안에 대한 불만, 변화에 대한 열망, 미래 거버넌스 모델에 대한 추측과 같은 문제에 관심을 불러일으키고, 민주주의 원칙과 인공 지능과 인간의 상호작용을 둘러싼 질문을 포함하여 사회 내에서 기술이 수행하는 역할에 관한 대화를 장려할 수 있습니다.

이 시나리오의 등장으로 도덕적 심의가 더욱 심화될 수 있습니다. 그러한 문제 중 하나는 ‘후보’로서의 디지털 페르소나를 만드는 것이 혐오스러운 것으로 간주되어야 하는지, 아니면 그것이 인기를 얻는다면 후보가 특정 정책 입장과 특성을 지지할 수 있는 디자인 중심 민주주의의 한 형태를 의미할 수 있는지 여부입니다.

국가 무대에서 더 중요한 직책에 디지털 페르소나가 제안되는 것을 상상해 보세요. 자동화의 시대가 발전하고 정치의 영역을 침범함에 따라 이러한 인공 에이전트가 최고 수준의 윤리적 행동과 도덕성을 구현하도록 프로그래밍될 것이라고 낙관적으로 예상할 수 있습니다.

게리 그로스먼은 에델만 의 기술 실무 부사장 겸 에델만 AI 센터 오브 엑설런스 글로벌 리더입니다.