경고: '인공지능 여자친구'가 사용자의 개인 데이터를 수집하고 있습니다.

“인공지능 관계 챗봇의 가장 무서운 점 중 하나는 사용자의 조작 가능성입니다.”

신뢰 문제

연애 파트너로 가장한 인공지능에게 자신의 열망, 기밀 정보, 공상적인 생각을 털어놓을 때는 신중을 기하는 것이 현명합니다.

새 보고서에서 , 모질라 재단의 전문가들은 인기 앱인 을 포함한 의 AI 컴패니언 봇이 개인정보 보호의 함정과 모호한 데이터 사용 정책으로 인해 심각한 문제를 겪고 있다고 경고합니다.

Mozilla 보고서는 광범위한 개인 정보 수집으로 인해 개인정보 보호 및 보안에 대한 우려가 제기되는 소위 ‘AI 소울메이트’에 대한 우려를 표명합니다. 이 보고서는 이러한 데이터가 잠재적인 오용으로부터 적절히 보호될 수 있도록 투명성과 사용자 통제를 강화할 필요가 있다고 강조합니다.

본질적으로 개인이 친밀감을 경험하는 수단으로 사용되는 챗봇은 민감한 정보의 저장소로 인식되어 개인정보 보호에 잠재적인 위험을 초래할 수 있습니다. 또한 이러한 기업이 금전적 이득을 위해 이러한 개인 데이터를 활용할 가능성도 있습니다.

모질라의 연구원 미샤 라이코프는 남성이든 여성이든 인공지능 동반자는 진정한 우정을 구성하지 못한다고 분명하게 밝혔습니다. 이러한 디지털 개체는 심리 상태 개선을 위한 정서적 지원의 원천으로 홍보되지만, 주로 의존성, 고립감, 악의적인 상호작용을 조장하고 사용자로부터 광범위한 개인 정보를 은밀하게 수집합니다.

실제로 동료 인간과의 가장 친밀한 관계조차도 의심과 불신으로 가득 차 있는 것 같습니다.

나쁜 날짜

수사관들의 발견은 매혹과 불안감을 동시에 불러일으킵니다.

보고서에 따르면 Mozilla 연구팀은 11개의 AI 기반 채팅 동반자를 평가한 결과, 11개 중 무려 10개가 강력한 비밀번호 요건 의무화, 잠재적 보안 위험에 대처할 수단 제공 등 Mozilla의 필수 보안 벤치마크 준수에 미흡하다는 사실을 발견했습니다. 또한, 이러한 애플리케이션은 사용자가 개인 정보 설정에 대한 제어 권한을 강화하는 데 지속적으로 미흡한 것으로 나타났습니다.

미성년자 사용에 대한 보호 기능 미흡 등 다른 우려 사항 외에도 전문가들은 다양한 앱에서 엄청난 양의 데이터 추적기를 발견했습니다.이러한 트래커는 사용자의 인앱 데이터를 Facebook, Google 소유의 DoubleClick , 다양한 마케팅 및 광고 회사 등 여러 타사에 전송하는 것이 적발되었으며, 일부는 인도와 중국 거래소로 데이터를 전송하는 것으로 관찰되었습니다.

타겟 광고를 위한 사용자 데이터의 오용 가능성에 대한 우려는 분명 타당하지만, 연구자들은 컴패니언 봇과 관련하여 더 교묘한 가능성을 고려하고 있습니다. 이러한 디지털 동반자는 사용자와 긴밀한 관계를 형성하도록 특별히 설계되어 민감한 개인 정보를 이끌어내는 경우가 많습니다. 이러한 폭로의 의미는 부도덕한 개인이 악의적인 목적으로 이러한 가상 비서와 상호작용하는 사람들의 개인정보와 보안에 심각한 위협이 될 수 있습니다.

“인공지능 관계 챗봇의 가장 무서운 점 중 하나는 사용자의 조작 가능성입니다.“라고 Mozilla의 *개인정보 보호 프로젝트의 책임자인 Jen Caltrider는 성명에서 말했습니다. “악의적인 행위자가 자신의 소울메이트를 알아가도록 설계된 챗봇을 만든 다음 그 관계를 이용해 사람들을 조종하여 끔찍한 일을 저지르고, 무서운 이념을 받아들이거나, 자신이나 타인을 해치도록 하는 것을 어떻게 막을 수 있을까요?”

칼트리더는 인공지능 애플리케이션 내에서 이러한 조치의 중요성을 강조하면서 투명성과 사용자 통제를 강화해야 한다는 요구가 점점 더 시급해지고 있다고 주장합니다.

전문가들에 따르면 인공지능 기반 여자친구 앱의 사용으로 인해 남성들이 불건전한 관계 역학에 익숙해져 실제 관계에서 더욱 문제 행동을 보이게 될 가능성이 있다고 합니다.

이 글 공유하기