AI 기반 카메라가 사람의 사진을 찍으면 즉시 알몸으로 만들어 버립니다.

“처리 시간이 10초로 매우 짧습니다.”

노출 설정

독일 아티스트 마티아스 베프와 베네딕트 그로스는 동의 여부와 관계없이 실시간으로 개인의 옷을 벗길 수 있는 ‘딥페이크 카메라’라는 혁신적인 프로젝트에 협력했습니다.

NUCA 라고 불리는 카메라는 AI를 사용하여 거의 모든 옷을 입은 사람의 누드 사진을 단 몇 초 만에 생성하는 소비자 크기의 기기입니다.

물론 컴팩트 카메라라는 점에서 사생활 침해가 우려되는 것은 사실입니다. 하지만 베프와 그로스는 이 스턴트를 통해 훨씬 더 광범위한 메시지를 전달하고 있습니다. 패스트컴퍼니는 이라는 도발적인 판매 홍보 문구로 포장된, 인공지능이 현실의 구조 자체를 어떻게 부식시키고 있는지에 대해 보도하고 있습니다.

프로젝트의 웹사이트 은 “누카는 이미 신체 숭배와 뷰티 마니아에 대한 AI의 편향성에 대한 두려움부터 자연스러운 인간의 아름다움과 형태를 찬양하는 열광에 이르기까지 다양한 반응을 불러 일으켰습니다.“라고 설명합니다. “이 프로젝트는 동의, 알고리즘의 공정성, AI가 생성한 이미지의 사회적 영향을 강조하면서 AI의 잠재력에 대한 중요한 논의를 촉발합니다.”

전면

현재 NUCA 카메라는 적층 제조 공정을 통해 3차원적으로 설계 및 제작된 부품으로 구성되어 있으며, 그 결과 15온스 무게의 가벼운 기기가 탄생했습니다. 내장된 스마트폰으로 이미지를 캡처한 후 안정된 확산 엔진으로 전송하여 처리합니다. 인공지능 기술을 활용하여 AI 모델이 생성된 이미지 내에서 옷을 완전히 벗은 가상의 신체에 실제 피사체의 얼굴을 겹쳐서 보여줍니다.

Vef는 자사의 기술을 사용하여 AI 생성 이미지를 생성하는 데 필요한 처리 시간이 약 10초라고 Fast Company와 공유했습니다. 이들은 이러한 이미지를 생성하기 위해 공개적으로 사용 가능한 여러 도구를 조합하여 사용했지만, 이를 기능적인 장치에 효율적으로 통합하는 것이 과제였습니다. 이 접근 방식은 이전에는 구현되지 않았던 혁신적인 솔루션입니다.

Vef와 Groß는 NUCA라는 창작물을 통해 다른 사람의 프라이버시를 침해할 의도가 없습니다. 현재는 주로 예술적 표현의 수단으로 사용되는 기능적인 프로토타입일 뿐입니다. 이들은 여름에 베를린에서 열리는 전시회에서 이 프로토타입을 전시할 계획입니다.

생성 인공 지능 기술의 발전은 놀라운 능숙함으로 기묘한 계곡을 가로지르며 상당한 진전을 이루었고, 그 결과 실제 인물과 조작된 인물을 모두 아우르는 매우 생생한 이미지를 만들 수 있게 되었습니다. 따라서 가까운 미래에 이와 유사한 소비재가 개발될 것으로 예상하는 것이 타당합니다.

딥페이크 기술의 출현은 심각한 무질서와 혼란을 야기하고 있습니다. 최근 테일러 스위프트를 모욕하는 딥페이크 영상이 다양한 소셜 미디어 플랫폼에서 확산되면서 대중의 강한 부정적 반응을 이끌어냈습니다. 또한 미성년자를 묘사한 불쾌한 딥페이크 이미지가 학교 커뮤니티에 유포되고 있어 우려를 불러일으키고 있습니다.

본질적으로 베프와 그로스는 매혹적인 마케팅 전략에 가려진 진정한 우려를 조명하며, 우리가 심각하게 받아들여야 할 문제입니다.

알렉산드리아 오카시오-코르테즈 의원은 딥페이크 포르노 문제를 해결하기 위해 여성이 자신의 동의 없이 자신과 관련된 콘텐츠를 제작하고 배포하는 개인을 고소할 수 있도록 하는 법안을 발의했습니다. 이 법안은 이러한 형태의 비합의적 성 착취의 피해자에게 법적 구제 수단을 제공하는 동시에 가해자에게도 자신의 행동에 대한 책임을 묻고자 합니다.

이 글 공유하기