Contents

EU, AI로 생성된 아동 성 학대 및 딥페이크 범죄화 제안

Contents

/images/eu-proposes-criminalizing-ai-generated-child-sexual-abuse-and-deepfakes.jpg

기술 발전에 발맞춰 기존 법률을 업데이트하려는 계획에 따라 유럽연합에서 아동 성학대(CSA)를 묘사하는 AI 생성 이미지 및 기타 형태의 딥페이크가 범죄화될 수 있다고 집행위원회 가 오늘 발표했습니다.

입법 개정안에는 아동 성 착취물을 실시간으로 방송하는 것과 관련된 새로운 형사 범죄를 신설하는 내용이 포함되어 있습니다. 또한, 이른바 ‘소아 성애자 핸드북’의 유포 및 취득은 이 제도에 따라 불법으로 간주되며, 이는 온라인 위험에 대한 대중의 의식을 높이고 그러한 범죄의 신고를 촉진하고 피해자에게 금전적 보상을 제공함으로써 아동 성학대(CSA) 예방을 강화하기 위한 광범위한 계획의 필수적인 구성 요소로 간주됩니다.

2011년에 제정된 유럽연합의 이 분야 기존 규정에 대한 개정안에는 위반 행위의 강제 공개에 관한 수정 사항이 포함됩니다.

2022년 5월, 유럽위원회는 디지털 서비스 제공업체가 아동 성학대 콘텐츠(CSA)의 기존 및 신규 사례와 미성년자를 대상으로 하는 모든 온라인 그루밍 활동을 식별하고 신고하는 자동 메커니즘을 사용하도록 의무화하는 것을 목표로 아동 안전 온라인 법과 관련된 규제 조치를 제안했습니다.

CSAM 스캐닝 이니셔티브의 시행은 유럽 의회와 유럽 이사회 내에서 상당한 논쟁을 불러일으켰고, 양측 입법자들 사이에 불협화음을 불러일으켰습니다. 또한, 이 제안은 아동 안전 기술 이익 단체가 위원회의 의사 결정 과정에 부당한 영향을 미칠 수 있다는 우려를 불러일으켰습니다. 또한, 제안된 규정의 법적 근거와 타겟 광고에 미치는 영향에 대한 의구심도 여전히 남아 있습니다.

성적 학대 및 착취(CSA) 문제를 해결하기 위한 수단으로 디지털 커뮤니케이션 채널에 집중하려는 유럽위원회의 결정은 이러한 접근 방식이 문제의 다면적인 성격에 효과적으로 대처하지 못한다고 주장하는 국회의원들로부터 상당한 비판에 부딪혔습니다. 이러한 반대는 위원회가 추가적인 정책 제안을 제시해야 할 필요성을 제기하는 데 기여했을 수 있습니다. 위원회는 현재의 이니셔티브가 온라인 스캔 도구에 대한 이전 권고안을 보완하는 것이라고 주장하지만, 이러한 조치가 의도한 목표를 달성하는 데 효과적일지에 대해서는 회의적인 시각이 여전히 존재합니다.

실제로 논란이 많았던 비공개 메시지 스캔 제안이 도입된 이후 비교적 짧은 기간 동안 딥페이크 및 인공적으로 생성된 이미지와 관련된 잠재적 위험성에 대한 인식이 크게 증가했으며, 이러한 기술이 아동 성적 학대물(CSAM) 제작에 악용되고 있다는 우려와 이러한 조작된 콘텐츠의 광범위한 확산이 법 집행 기관의 진정한 피해자 식별 능력을 방해할 수 있다는 우려도 함께 제기되고 있습니다. 결과적으로, 생성 AI의 급속한 성장으로 인해 입법자들은 기존 규제를 재고하게 되었습니다.

“아동의 온라인 활동 증가와 기술 발전은 모두 학대의 새로운 가능성을 창출합니다.“라고 위원회는 오늘 보도 자료에서 제안합니다. 또한 이 제안은 “온라인 아동 성 학대 및 착취의 만연한 면책을 줄이는 것"을 목표로 한다고 말합니다.

인터넷 기반 기술의 확산과 디지털 커뮤니케이션 플랫폼의 발전으로 특히 미성년자 사이에서 아동 성 착취(CSE)가 발생할 가능성이 높아짐에 따라 유럽위원회는 아동 성 착취의 발생 가능성이 높아졌음을 인식했습니다. 또한 EU 회원국 간의 상이한 규제 구조는 이러한 남용에 대한 효과적인 대응을 방해하여 이러한 위협을 완화하고 피해자를 지원하기 위한 제한적이기는 하지만 기존의 이니셔티브를 확대해야 할 필요성이 제기되었습니다.

기술의 급속한 발전은 디지털 수단을 통한 미성년자 착취의 새로운 기회를 창출했으며, 이러한 극악한 범죄를 수사해야 하는 법 집행 기관에 상당한 어려움을 안겨주고 있습니다. 일바 요한손 내무부장관은 지지 연설에서 취약한 청소년을 구출하고 가해자를 체포할 수 있는 강력한 형법을 마련하는 것이 중요하다고 강조했습니다. 이번 법안 개정은 2020년 여름에 발표된 전략에 명시된 바와 같이 이 만연한 문제를 해결하기 위한 유럽연합의 헌신을 보여주는 증거입니다.

미성년자의 인터넷 사용과 관련된 잠재적 위험을 완화하기 위해 제안된 이 법안은 개별 EU 회원국이 이러한 위험에 대한 인식을 높이기 위해 더 많은 자금을 지원하도록 촉구하고 있습니다.

통제된 암호화 서비스의 우회에 대한 제안된 조치의 운명은 의회와 이사회로 구성된 유럽연합 입법 기관의 의사 결정 절차에 따라 달라집니다. 임박한 의회 선거와 예상되는 집행위원회 개편으로 인해 협상 일정에 제약이 있습니다.현재 제안은 논란의 여지가 있는 메시지 스캔 이니셔티브에 비해 반대 의견이 적을 수 있지만, 주어진 기간 내에 협상이 성공적으로 이루어져야 채택될 수 있습니다.

유럽 위원회가 제안한 대로 아동 성 학대(CSA)를 다루는 기존 지침에 필요한 수정에 대한 합의에 도달하면 유럽 연합 관보에 게재된 후 20일 후에 발효됩니다.