아마존의 AI가 "심각한 환각"과 "기밀 데이터 유출"에 시달린다고 보도된 바 있습니다.

그럴 리가 없죠.

Q아마존

아마존의 클라우드 서비스 사업부는 최근 예상치 못한 선언을 통해 기업용 인공지능 기반 챗봇인 Amazon Q를 공개했는데, 이는 일부에서는 뚜렷하고 강력한 새로운 인공지능 플랫폼으로 여겨지는 OpenAI의 수수께끼 같은 Q*, 즉 Q스타로 착각해서는 안 될 것입니다.

Platformer가 최근 입수한 정보에 따르면 아마존의 기대작인 ‘Q’로 알려진 프로젝트가 관련 핵심 인력이 심각한 환각을 경험했다는 보고로 인해 시작에 어려움을 겪고 있으며, 이로 인해 기밀 유출에 대한 우려가 제기되고 있다고 합니다.

“7급 2호"로 분류된 사건을 해결하기 위해 기술 전문가들이 주말에도 근무해야 할 정도로 상황이 악화되었습니다. 보고서에 따르면 이 시스템은 아직 공개되지 않은 기밀 정보와 함께 아마존 웹 서비스 데이터 센터의 소재지까지 공개했습니다.

기업용으로 특별히 설계된 아마존의 최신 혁신인 챗봇에 대한 전망은 기업들이 전통적으로 OpenAI의 ChatGPT와 같은 고급 AI 시스템과 기밀 데이터를 공유할 때 주의를 기울인다는 점을 고려할 때 그다지 유망해 보이지 않습니다. 또한, 아마존 내부에서도 법률 고문이 직원들에게 인공지능 플랫폼에 독점 정보를 공개하지 말 것을 권고하고 있다는 사실에 주목할 필요가 있습니다.

실제로 많은 사람들에게 Q는 마이크로소프트와 구글과 같은 경쟁자들이 치열하게 경쟁하고 있는 인공지능 경쟁에서 우위를 점하기 위한 아마존의 단호한 노력을 의미합니다.

심한 환각

의심할 여지 없이, 대규모 언어 모델이 부정확한 근거 없는 주장을 ‘인식’하는 현상은 새로운 것이 아닙니다. OpenAI의 GPT 기술을 구현한 것으로 널리 알려진 ChatGPT 대화 에이전트는 현실과 조작을 구분하는 데 어려움을 겪고 있으며, 이로 인해 유해한 우화가 만들어지고 허위 정보가 확산되는 것을 촉진하고 있습니다.

인공지능 발전에서 뒤처진다는 인식을 불식시키기 위해 노력하고 있는 아마존에게도 이러한 노력의 중요성은 매우 큽니다.

특히, 아마존의 한 관계자는 최근 플랫포머와의 커뮤니케이션에서 최근의 발전 상황을 최소화하려고 노력했습니다.

아마존에서는 직원들이 내부 커뮤니케이션 플랫폼과 티켓팅 시스템을 통해 피드백을 전달하는 것이 관례입니다.이 회사는 이 피드백 프로세스의 결과로 보안 문제가 발견되지 않았다고 보고했습니다.

후속 커뮤니케이션에서 담당자는 Amazon Q가 민감한 데이터를 공개하지 않았다고 주장했습니다.

아마존의 웹 서비스 담당 부사장인 아담 셀립스키는 최근 뉴욕타임즈와의 인터뷰에서 개인 정보 침해 및 민감한 정보의 무단 유출에 대한 우려로 인해 ChatGPT의 사용을 금지하는 애플, 버라이즌, 삼성, 노스롭 그루먼과 같은 유명 기업의 정책에 따라 Q를 개발하게 되었다고 공개했습니다.

그렉 셀립스키가 한 지역 신문과의 인터뷰에서 밝힌 바에 따르면 아마존은 보안 및 개인정보 보호 기능이 강화된 AI 기반 가상 비서인 ‘Q’를 설계했습니다.

최근의 정보가 정확하다면, 기업들이 아마존의 엔터프라이즈급 인공지능 기능을 수용함으로써 기업의 이익을 진정으로 위태롭게 할 수 있다는 것을 시사합니다.

많은 사람들의 관심이 아마존으로 향하고 있으며, 아마존의 경쟁사들은 성공을 위해 치열한 경쟁을 벌이고 있습니다.

아마존은 최근 OpenAI에서 개발한 인공지능과 놀라울 정도로 유사한 이름의 챗봇을 선보였는데, 이 챗봇은 회사가 의도적으로 기밀로 유지했습니다. 이러한 움직임은 이것이 단순한 우연인지 아니면 눈에 보이는 것보다 더 많은 것이 있는지에 대한 의문을 불러일으킵니다.

이 기사 공유하기