Contents

어린이 안전을 연구하는 새로운 팀을 구성한 OpenAI

Contents

/images/openai-forms-a-new-team-to-study-child-safety.jpg

옹호 단체와 학부모들의 비판에 따라, OpenAI는 미성년자의 잠재적인 오용이나 악용으로부터 자사의 인공지능 기술을 보호하기 위한 방법을 모색하는 전담 팀을 설립했습니다.

OpenAI는 채용 페이지의 새 채용 공고에서 아동 안전 팀의 존재를 공개하며, 이 팀은 미성년자 사용자와 관련된 “프로세스, 사건 및 검토"를 관리하기 위해 OpenAI 내 플랫폼 정책, 법률 및 조사 그룹은 물론 외부 파트너와 협력하고 있다고 밝혔습니다.

이번 채용은 아동 안전 감독 전문가를 확보하는 데 초점을 맞추고 있으며, 주요 업무는 아동과 관련된 인공적으로 생성된 미디어와 관련하여 OpenAI가 수립한 가이드라인을 이행하고 미성년자와 관련된 잠재적으로 민감한 콘텐츠와 관련된 평가 관리를 담당할 것입니다.

OpenAI가 향후 상당한 수의 미성년자를 사용자로 유치할 것으로 예상되는 상황에서 아동 안전 전문가를 고용하려는 것은 예상할 수 있는 일이 아닙니다. 이 단체의 현재 서비스 약관은 13세에서 18세 사이의 개인에 대해 부모의 승인을 요구하고 있으며, 이 연령대 미만은 사용을 금지하고 있습니다. 예를 들어, 상당한 규모의 기술 기업은 청소년이 액세스할 수 있는 인터넷 콘텐츠와 기업이 수집할 수 있는 정보 유형에 대한 제한을 규정하는 미국 아동 온라인 개인정보 보호법과 같은 규정을 준수하는 데 상당한 자원을 할당해야 합니다.

어린이에게 적합한 인공지능 매개변수를 고안하고 초기 교육 고객을 확보하기 위한 목적으로 OpenAI가 커먼센스 미디어와 제휴를 선언한 지 약 2주 후에 이루어진 이 새로운 협력의 성립은 미성년자의 인공지능 활용에 관한 규정 위반 가능성과 그에 따른 불리한 홍보와 관련하여 OpenAI 측에서 어느 정도 주의를 기울이고 있는 것으로 보입니다.

어린이와 청소년은 학업 뿐만 아니라 개인적인 문제에도 도움을 받기 위해 점점 더 GenAI 도구를 찾고 있습니다. 민주주의와 기술 센터의 설문조사 에 따르면, 어린이의 29%는 불안이나 정신 건강 문제를 해결하기 위해, 22%는 친구와의 문제, 16%는 가족 갈등을 해결하기 위해 ChatGPT를 사용한 적이 있다고 답했습니다.

일부는 이를 점점 더 큰 위험으로 보고 있습니다.

지난 여름, 표절과 잘못된 정보에 대한 우려로 학교와 대학은 서둘러 ChatGPT를 금지했습니다.그 이후로 명이 건의 차단을 취소했습니다. 그러나 모든 사람이 GenAI의 선한 잠재력을 확신하는 것은 아니며, 영국 인터넷 안전 센터의 설문조사 에 따르면 절반 이상의 어린이(53%)가 또래의 사람들이 믿을 만한 거짓 정보나 이미지를 만들어 누군가를 화나게 하는 등 부정적인 방식으로 GenAI를 사용하는 것을 본 적이 있다고 답했습니다.

9월에 OpenAI는 교실에서 GenAI를 교육 도구로 사용하는 방법에 대한 교육자의 지침을 제공하는 안내문과 FAQ가 포함된 ChatGPT용 문서를 발표했습니다. 지원 문서 중 하나에서 , OpenAI는 자사 도구, 특히 ChatGPT가 “모든 대상 또는 모든 연령대에 적합하지 않은 결과물을 생성할 수 있다"고 인정하고 연령 요건을 충족하는 경우에도 어린이에게 노출할 때 “주의"할 것을 권고했습니다.

인공지능 시스템의 적절한 사용에 관한 가이드라인, 특히 어린이와 GenAI 기술의 상호작용에 맞춘 가이드라인에 대한 요구가 증가하고 있습니다.

유엔 교육과학문화기구(UNESCO)는 작년 말 을 통해 각국 정부에 사용자 연령 제한과 데이터 보호 및 사용자 개인정보 보호에 대한 가드레일을 구현하는 등 교육 분야에서 GenAI 사용을 규제할 것을 촉구했습니다. 오드리 아줄레 유네스코 사무총장은 보도자료를 통해 “생성 AI는 인류 발전에 엄청난 기회가 될 수 있지만, 해악과 편견을 초래할 수도 있습니다.“라고 말했습니다. “대중의 참여와 정부의 필요한 안전장치 및 규제 없이는 교육에 통합될 수 없습니다.”