구글 딥마인드 연구원, 인간을 모방하는 AI에 제한을 요구하다
요약
최근 인공지능 기술의 발전으로 인해 고급 인공지능 비서가 일상적인 인간과 컴퓨터의 상호작용을 형성하는 데 중추적인 역할을 할 가능성이 점점 더 커지고 있습니다. 구글 딥마인드에서 실시한 주목할 만한 연구에 따르면, 이러한 변화는 개인이 AI 시스템과 상호작용하는 방식을 재정의할 수 있는 잠재력을 가지고 있습니다. 그러나 이러한 전망만큼이나 기술 혁신가와 규제 당국이 이러한 최첨단 도구를 책임감 있게 개발하고 배포하기 위해 해결해야 할 과제 또한 존재합니다.
“기초 모델"을 기반으로 구축된 AI 비서는 혁신적인 협력자, 연구 분석가, 강사 또는 인생 계획 전문가로서 기능할 수 있으며, 궁극적으로 관련 데이터 제공, 목표 설정, 이러한 열망을 실현하기 위한 효과적인 전술 개발을 통해 개인이 만족스러운 라이프스타일을 달성하도록 도울 수 있다고 조사자들은 보고했습니다.
인공지능 비서는 관련 데이터를 제공하고, 잘 정의된 목표 수립을 용이하게 하며, 그러한 열망을 달성하기 위한 효과적인 전술을 고안함으로써 개인의 삶의 질을 향상시킬 수 있는 잠재력을 가지고 있습니다.
인공지능 시스템이 항상 개인이나 사회 전체의 최선의 이익을 우선시하지 않을 수 있으며, 인간의 복지에 관한 잠재적으로 잘못된 가정에 의존하고 때로는 이를 사용하는 사람들보다 개발자의 목표를 선호할 수도 있으므로 이러한 기술을 개발할 때는 이러한 잠재적 결과를 신중하게 고려해야 합니다.
OpenAI와 Google과 같은 기업들은 오늘날 챗봇의 다음 단계로 이러한 비서를 개발 중이라고 합니다. OpenAI의 CEO인 샘 알트먼은 최근 AI 서비스를 개인화하는 것이 기본 모델을 개발하는 것보다 더 중요할 것이라고 말했습니다.
AI를 인간화해서는 안 된다
연구 논문에서는 자연어 소통 능력과 인간 행동 모방 능력이 사용자와 AI 기반 개인 비서 간의 지나치게 친밀한 관계를 조성하여 잠재적으로 혼란과 자기 결정권 포기로 이어질 수 있다고 제안합니다.
유해한 영향을 평가하고 안전장치를 구현하기 위해서는 인간과 인공지능 간의 대인 상호작용에 관한 광범위한 연구가 반드시 필요합니다.가능한 예방 조치로는 인공지능 시스템 내에서 의인화 기능을 제한하고 사용자 프라이버시를 보장하기 위한 보안 프로토콜을 구현하는 것이 있습니다.
앞서 언급한 논문은 인공지능 시스템에 대한 정서적, 재정적 의존을 피하면서 사용자의 주체성을 유지하는 인간과 인공지능의 관계를 옹호합니다.
사회적 차원에서 인공지능 비서는 과학적 진보를 가속화하고 전문 지식에 대한 접근성을 넓힐 수 있는 잠재력을 가지고 있습니다. 또한 허위 정보의 유포를 개선하는 동시에 허위 정보의 확산에 기여할 수 있습니다. 또한 이러한 기술 도구는 기후 변화의 영향에 대처하는 데 중요한 역할을 할 수 있습니다.
권고
잠재적 위험에는 인공지능 도우미 간의 협력의 어려움으로 인한 부정적인 사회적 결과, 인공지능에 의한 대인 관계의 대체로 인한 인간 관계의 감소, 기술 격차의 심화 등이 포함됩니다.
포용성을 증진하기 위해서는 인공지능(AI) 비서가 보편적으로 이용 가능하고 사용자와 비사용자 모두의 다양한 요구사항을 고려해야 하며, 이를 통해 발생할 수 있는 잠재적인 소외 결과를 완화할 수 있어야 합니다.
근본적인 기술 및 사회 변화의 정점에서
예측할 수 없는 인공지능의 진화는 혁신적인 방식으로 자원을 활용할 수 있는 잠재력으로 인해 새로운 위험을 초래할 수 있습니다. 따라서 이러한 첨단 기술의 활용과 관련된 위험을 예측하기란 쉽지 않습니다. 이러한 불확실성을 완화하기 위해 우리 연구 그룹은 대인 커뮤니케이션과 사회적 안녕에 미치는 영향까지 고려한 포괄적인 평가의 수립을 지지합니다.
사회에 긍정적인 영향을 미치는 인공지능 비서의 발전을 촉진하기 위해서는 도덕적, 사회적 파급효과를 둘러싼 담론을 조성하는 등 신속한 조치를 취하는 것이 필수적입니다.
허위 정보의 확산에 대한 강력한 안전장치를 마련하고, 온라인 콘텐츠 접근에 대한 잠재적 장벽을 해결하며, 이러한 조치의 경제적 영향을 철저히 조사하는 것이 필수적입니다.
현재 우리는 기술과 사회의 혁신적인 발전으로 특징지어지는 시대의 정점에 서 있습니다.따라서 개발자, 연구자, 정책 입안자, 일반인인 우리가 지금 결정적인 조치를 취해 미래 세상을 정의하게 될 인공지능 비서의 성격을 형성할 수 있는 특별한 기회가 존재합니다.
기회와 위험에 대한 포괄적인 내용은 논문 “고급 인공지능 비서의 윤리"에서 확인할 수 있습니다.