인터넷 사용자가 점점 더 젊어지고 있습니다. 이제 영국은 AI가 그들을 보호하는 데 도움이 될 수 있는지 검토하고 있습니다.

인공지능이 사기, 허위 정보 및 기타 악의적인 온라인 활동에 악용될 수 있다는 우려로 각국 정부의 십자선에 오른 가운데, 영국에서는 규제 당국이 특히 어린이에게 유해한 콘텐츠와 관련하여 인공지능이 어떻게 사용되는지 조사할 준비를 하고 있습니다.

Ofcom 영국의 온라인 안전법 의 시행을 담당하는 규제 기관은 온라인에서 불법 콘텐츠를 선제적으로 탐지하고 삭제하기 위해, 특히 유해한 콘텐츠로부터 아동을 보호하고 이전에 탐지하기 어려웠던 아동 성 학대 자료를 식별하기 위해 AI 및 기타 자동화 도구를 현재 사용하고 있으며 향후 사용할 수 있는 방법에 대한 자문을 시작할 계획이라고 발표했습니다.

Ofcom은 현재 온라인 아동 보호를 강화하기 위한 다양한 권고안을 개발 중이며, 가까운 시일 내에 추가 협의를 통해 이를 보완할 예정입니다. 인공지능(AI)과 관련된 공개 협의의 초기 단계는 올해 말에 시작될 예정이지만, 이러한 이니셔티브의 광범위한 범위에 관한 구체적인 세부 사항은 아직 공개되지 않았습니다.

Ofcom의 온라인 안전 그룹은 최근 이사 중 한 명인 마크 번팅이 인공지능 활용에 대한 사전 심사 메커니즘에 대한 조사를 시작하겠다는 의사를 밝혀 주목을 받고 있습니다.

최근 저희 웹사이트와의 대화에서 일부 서비스 제공업체의 대변인은 미성년자를 불쾌한 콘텐츠로부터 탐지하고 보호하기 위해 특정 도구를 활용하고 있다는 사실을 밝혔습니다. 그러나 이러한 조치의 정확성과 효과에 관한 데이터는 제한적입니다. 저희의 목표는 업계가 이러한 조치의 효과를 평가하는 동시에 언론의 자유와 프라이버시에 대한 잠재적 위험을 적절히 해결할 수 있는 방법을 모색하는 것입니다.

이 검토의 결과물로 다양한 플랫폼에서 콘텐츠 중재를 평가하는 방법과 기준에 관한 Ofcom의 가이드라인이 발표될 가능성이 있습니다. 이러한 권고는 이러한 플랫폼이 유해한 콘텐츠를 필터링하거나 청소년 사용자가 유해 콘텐츠에 노출되지 않도록 보호 장치를 구현하는 데 상당한 진전을 보이지 않는 경우 재정적 처벌과 같은 결과를 초래할 수 있는 보다 진보된 기술과 조치를 채택하도록 유도할 수 있습니다.

온라인 보안과 관련된 수많은 규제 요건에 따라 사용자를 보호하기 위해 적절한 조치와 리소스를 활용하고 있는지 확인하는 것은 필수적이며, 이러한 책임은 일차적으로 기업에게 있습니다.

이러한 움직임에 대해 비판적인 입장과 지지하는 입장이 모두 존재할 것입니다. AI 연구자들은 AI를 사용하여 예를 들어 딥페이크 를 탐지하고 온라인 사용자를 확인하는 등 더욱 정교한 방법을 찾고 있습니다. 그러나 AI 탐지가 완벽하지 않다고 지적하는 회의론자 명 명도 그에 못지않게 많습니다.

Ofcom은 최근 영국 내 미성년자의 디지털 습관에 관한 최신 연구 발표와 동시에 인공지능 기술 활용에 관한 자문 절차를 시작했습니다. 조사 결과, 인터넷에 접속하는 청소년의 수가 전례 없이 증가함에 따라 Ofcom은 점점 더 젊은 인구층의 사용 패턴을 파악할 필요가 있다고 판단했습니다.

최근 미국 부모를 대상으로 실시한 연구에 따르면 5~7세 어린이 중 약 24%가 휴대전화를 소유하고 있으며, 태블릿까지 포함하면 소유율이 76%에 달하는 것으로 나타났습니다. 또한, 음성 및 영상 통화와 같은 다양한 목적으로 이러한 전자 기기를 광범위하게 활용하고 있으며, 이러한 활동을 한 경험이 있는 비율은 65%에 달해 작년의 59%에 비해 크게 증가했습니다. 또한, 스트리밍 비디오의 보급률이 크게 증가하여 이 연령대의 어린이 중 거의 절반이 이러한 엔터테인먼트 옵션에 빠져들었는데, 이는 1년 전에는 39%에 불과했습니다.

일부 주류 소셜 미디어 플랫폼에서는 연령 제한을 완화했지만, 영국에서는 이미 5~7세 어린이 상당수가 이러한 서비스를 이용하고 있어 이러한 가이드라인이 지켜지지 않고 있는 것으로 보입니다. Ofcom이 최근 실시한 조사에 따르면 이 연령대의 미성년자 10명 중 4명(38%)이 소셜 미디어를 활발하게 사용하고 있는 것으로 나타났습니다. 흥미로운 점은 이 연령대의 37%가 선호하는 메시징 애플리케이션인 WhatsApp이 같은 연령대의 22%와 30%를 각각 차지한 Instagram과 TikTok과 같은 다른 경쟁사들을 제치고 1위에 올랐다는 점입니다. 또한, Discord는 이 젊은 층의 사용률에서 최하위를 차지했지만 채택률은 4%로 상대적으로 낮은 수치를 기록했습니다.

이 연령대의 청소년 중 약 1/3(32%)이 독립적으로 인터넷에 접속하고 있으며, 약 30%의 부모가 미성년 자녀가 소셜 미디어 계정을 관리하는 것에 대해 편안하다고 답했습니다. 가장 많은 어린이 사용자를 끌어들이는 플랫폼은 48%의 시장 점유율을 차지하고 있는 YouTube Kids입니다.

어린이들의 영원한 즐거움인 게임은 5~7세 어린이들 사이에서 인기가 급증했으며, 약 41%가 어떤 형태로든 게임 활동에 참여하고 있는 것으로 나타났습니다. 흥미롭게도 이들 중 약 5분의 1(15%)이 폭력적인 콘텐츠와 공격적인 행동을 수반하는 슈팅 게임을 즐기고 있는 것으로 나타났습니다.

부모 응답자의 76%가 인터넷 안전과 관련하여 자녀와 대화를 나눈다고 답했지만, Ofcom은 미성년자가 관찰한 콘텐츠와 보호자에게 전달한 정보 사이에 불일치가 있음을 지적했습니다. 8세에서 17세 사이의 청소년을 대상으로 한 조사에서는 청소년과 직접 인터뷰를 실시했습니다. 연구 결과, 청소년의 32%가 웹에서 불온한 콘텐츠를 접한 사실을 인정했지만, 부모 중 20%만이 자녀로부터 그러한 신고를 받았다고 답했습니다.

신고 방법의 다양성에도 불구하고 Ofcom의 조사 결과는 청소년이 접하는 유해한 디지털 콘텐츠의 정도와 보호자에게 그러한 콘텐츠에 대해 공개하는 수준 사이에 차이가 있음을 나타냅니다. 또한 사이버 공간에서 딥페이크의 확산에 대한 우려가 커지고 있습니다. Ofcom이 최근 실시한 조사에 따르면 16~17세 청소년의 25%가 조작된 디지털 자료에서 진품을 식별하는 데 자신감이 부족하다고 고백했습니다.