연구진, AI 챗봇의 정치적 설득력을 만드는 요인 발견

약 2년 전, 샘 알트먼 트윗에서 AI 시스템은 일반 인공지능을 달성하기 훨씬 전에 인간 이상의 설득력을 갖추게 될 것이라고 예측했는데, 이는 AI가 민주적 선거에 미칠 수 있는 영향에 대한 우려를 불러일으켰습니다.

영국 AI 보안 연구소, MIT, 스탠포드, 카네기 멜런, 그리고 많은 다른 기관의 과학자들은 대규모 언어 모델이 실제로 대중의 정치적 견해를 좌우할 수 있는지 확인하기 위해, 현재까지 수행된 AI 설득력에 대한 가장 큰 규모의 연구를 수행했습니다. 영국 내 거의 8만 명의 참가자가 참여했습니다. 그 결과, 정치 AI 챗봇은 인간 이상의 설득력에서 크게 뒤쳐지는 것으로 나타났지만, 이 연구는 우리가 AI와의 상호 작용에 대해 더욱 미묘한 문제들을 제기합니다.

AI 디스토피아

AI가 정치에 미치는 영향에 대한 공공 토론은 주로 디스토피아적인 SF에서 따온 개념을 중심으로 전개되어 왔습니다. 대규모 언어 모델은 특정 이슈나 후보에 관한 출판된 모든 사실과 이야기에 본질적으로 접근할 수 있습니다. 또한, 심리학, 협상, 그리고 인간 조작에 관한 책에서 정보를 처리했습니다. 엄청나게 높은 컴퓨팅 성능을 전 세계의 거대한 데이터 센터에서 활용할 수 있습니다. 더욱이, 수백, 수천 개의 온라인 상호 작용을 통해 얻은 개인 사용자에 대한 방대한 개인 정보를 종종 활용할 수 있습니다.

강력한 AI 시스템과 대화하는 것은 기본적으로 모든 것, 모든 것에 대한 지식을 가지고 있으며, 거의 모든 것에 대해 당신 자신에 대한 지식을 가진 지능과 상호 작용하는 것과 같습니다. 이렇게 보면, LLM은 실제로 꽤 무서울 수 있습니다. 이번 거대한 AI 설득력 연구의 목표는 이러한 무서운 비전을 구성 요소로 분해하고 실제로 타당한지 확인하는 것이었습니다.

연구팀은 ChatGPT의 세 가지 버전과 xAI의 Grok-3 베타를 포함하여 가장 강력한 LLM 19개를, 그리고 다양한 소규모 오픈 소스 모델들을 조사했습니다. AI에게는 연구팀에서 선택한 707개의 정치적 이슈에 대해 특정 입장을 지지하거나 반대하도록 요청했습니다. 이러한 지지는 크라우드소싱 플랫폼을 통해 징집된 유료 참가자들과의 짧은 대화를 통해 이루어졌습니다. 각 참가자는 AI와 대화하기 전과 후에 특정 정치적 이슈에 대한 자신의 입장에 대한 동의 정도를 1에서 100까지의 척도로 평가해야 했습니다.