아이들이 부모도 모르게 유튜브에서 두뇌를 녹이는 AI 제작 동영상을 시청하고 있습니다.

“전국 곳곳에서 아이패드 앞에 엎드린 유아들이 합성 유출을 당하고 있습니다.”

선을 넘다

인공지능의 공급자들은 급하게 부를 축적하려는 노력을 재개했고, 이제 그들은 우리 청소년들의 발달하는 정신에 눈을 돌리고 있습니다.

AI 사기꾼들이 생성 도구를 사용하여 기괴하고 말도 안 되는 YouTube 어린이 동영상을 제작하고 있다고 문제가 되는 Wired 보고서에 따르면 . 이러한 동영상은 종종 중독성 있는 인기 유튜브 및 넷플릭스 쇼인 코코멜론과 유사한 스타일로 제작되며, AI가 생성한 것으로 표시되는 경우는 매우 드뭅니다. Wired가 지적했듯이 콘텐츠의 보편성과 스타일을 고려할 때, 바쁜 부모는 이미 YouTube에서 수백만 명의 조회수와 구독자를 확보하고 있는 이 AI가 만든 동영상이 백그라운드에서 재생되고 있어도 눈치채지 못할 수도 있습니다.

태블릿을 자주 사용하는 젊은 층은 보호자가 인지하지 못한 채 잠재적으로 해로운 인공지능 콘텐츠를 상당량 섭취하고 있는 것으로 보입니다.

코코멜론 지옥

Wired의 보도에 따르면, 간단한 유튜브 검색으로 동영상 동영상 AI 현금 갈취꾼 스크립트용 OpenAI의 ChatGPT 조합 사용법을 알려주는 동영상을 찾을 수 있습니다, ElevenLabs의 음성 생성 AI, Adobe Express AI 제품군 등 다양한 AI 프로그램을 조합하여 몇 분에서 한 시간 이상 길이의 동영상을 제작하는 방법을 교육합니다.

어떤 사람들은 자신의 동영상 콘텐츠에 교육적인 측면이 있다고 주장하지만, 그러한 자료의 수준은 상당히 유동적일 수 있습니다. 또한, 이러한 자동화된 인공지능 제작자가 콘텐츠를 배포할 때 유아 발달 전문가와 협력할 가능성은 매우 희박해 보입니다. 금전적 이득이 주된 목적이라면, 특히 이러한 유형의 콘텐츠를 소비할 수 있는 미디어 문맹 유아의 잠재적 취약성을 고려할 때 이러한 AI가 생성한 악몽이 교육적 목적이라는 주장은 다소 근거가 약해 보입니다.

Wired의 보고서에 따르면 터프츠 대학교의 에릭 호엘 박사와 같은 전문가들은 어린이가 왜곡된 정보와 함께 AI가 생성한 콘텐츠에 노출되고 화면 시청 시간이 길어질 경우 발생할 수 있는 잠재적 결과에 대해 우려를 표명했습니다.

과학자 은 최근 자신의 서브스택인 ‘내재적 관점’에 “전국 곳곳에서 유아들이 아이패드 앞에 엎드려 합성 유출을 당하고 있다"는 글을 썼습니다.“디스토피아라는 말 외에는 다른 단어가 없습니다.”

YouTube는 플랫폼에서 인공지능(AI)으로 제작된 콘텐츠의 확산에 대응하기 위해 제작자가 자신의 콘텐츠에 사실성이 높은 조작 또는 합성 자료가 포함된 경우 이를 공개하도록 하는 정책을 시행한다고 발표했습니다. 또한 YouTube는 현재 다양한 자동 필터링 시스템, 사람의 감독 및 사용자 의견을 통해 YouTube 키즈 앱에서 발견되는 콘텐츠를 규제하고 있다고 언급했습니다.

의심할 여지없이 상당량의 자동화된 아동용 콘텐츠가 자체 신고 시스템의 한계를 벗어나고 있습니다. 또한 일부 전문가들은 이러한 접근 방식이 당면한 문제를 완전히 해결하는 데 효과적일지에 대해 회의적인 시각을 갖고 있습니다.

Wired의 요청에 따라 미디어 리터러시 단체인 Common Sense Media의 수석 AI 고문으로 활동하고 있는 트레이시 피조 프레이는 인공지능과 관련하여, 특히 생성 모델과 관련하여 의미 있는 인간 감독의 중요성을 강조했습니다. 그녀는 이러한 책임이 전적으로 가족에게만 주어져서는 안 된다고 주장했습니다.

저명한 인공지능 연구 기관인 OpenAI의 최고기술책임자가 올해 최신 프로젝트인 ‘소라’를 출시할 계획이라고 발표했습니다. 이 성명은 회사의 향후 계획과 첨단 AI 기술 개발 진행 상황에 대해 논의하는 인터뷰에서 발표되었습니다.

이 기사 공유하기