페이스북은 AI가 아우슈비츠 박물관 게시물을 불쾌하다고 신고한 것에 대해 유감이라고 밝혔습니다.

“메타는 알고리즘이 왜 진짜 홀로코스트 역사를 의심스럽게 취급하는지 설명해야 합니다.”

너무 늦었다

최근 페이스북의 알고리즘이 플랫폼의 커뮤니티 가이드라인을 위반한 아우슈비츠 박물관의 콘텐츠 21건을 적발해 소셜 미디어 대기업의 모기업인 메타 코퍼레이션의 공개 사과를 이끌어냈습니다.

페이스북 게시물에서 폴란드에 위치한 이 기념관은 메타의 콘텐츠 중재 알고리즘이 커뮤니티 기준을 위반했다는 이상한 주장으로 인해 피드에서 일부 게시물을 내린 후, 메타가 직접적이지는 않지만 오류에 대해 사과했다고 말했습니다.

메타 대변인 은 텔레그래프 에 “아우슈비츠 박물관에 박물관이 게시한 콘텐츠 몇 개가 강등되었다는 공지를 실수로 보냈습니다.“라고 말했습니다. “사실 해당 콘텐츠는 정책을 위반한 것이 아니며 실제로 강등된 적이 없습니다. 이번 오류에 대해 진심으로 사과드립니다.”

4월 12일 게시물 에서 박물관은 잘못된 깃발을 발표하고 소셜 네트워크에 “알고리즘에 의한 역사 삭제"를 고발했습니다.

유감스럽게도 아우슈비츠에서 사망한 개인에게 경의를 표하는 특정 게시물이 ‘성인 누드 및 성행위’, ‘왕따 및 괴롭힘’, ‘혐오 발언’, ‘폭력 선동’ 등의 허위 근거로 이 플랫폼의 콘텐츠 조정 프로토콜에 의해 부당하게 불이익을 받은 것으로 보입니다.

실제로 제공된 스크린샷에서 알 수 있듯이 앞서 언급한 게시물 중 홀로코스트나 그 희생자를 비하하거나 모욕적인 표현을 담은 게시물은 단 한 건도 없었습니다. 오히려 아우슈비츠에서 사망한 사람들의 이미지와 함께 나치 정권의 학살을 당하기 전 그들의 배경을 강조하는 간략한 신상 정보가 포함되어 있었습니다.

아우슈비츠 박물관/페이스북 이미지

공통 문제

이러한 깃발의 철수에도 불구하고, 인공지능 기반 시스템을 활용하여 중요한 커뮤니케이션을 위한 큐레이터 프로세스에서 인간의 개입이 배제되는 것에 대한 우려가 지속되고 있습니다.

박물관이 깃발을 공개한 직후 폴란드 디지털 담당 장관인 크쉬슈토프 가코프스키(Krzysztof Gawkowski)는 게시물을 번역한 트위터 에서 “스캔들이자 자동 콘텐츠 조정의 문제를 보여주는 예"라며 이러한 심각한 실수를 저지른 사이트를 비난했습니다.

반유대주의 반대 캠페인은 텔레그래프에 보낸 성명에서 알 수 있듯이 메타의 이전 성명에 대한 추가 해명을 요구하며, 제공된 설명 수준에 불만을 표하고 당면한 문제에 대해 보다 광범위한 세부 사항을 촉구했습니다.

메타는 진정한 홀로코스트 내러티브에 대한 알고리즘의 회의론에 대한 이유를 밝히고 이러한 계정의 지속적인 유포를 보장하기 위한 잠재적 조치를 설명하는 것이 필수적입니다.

Meta의 AI 모더레이션 문제의 광범위한 범위를 고려하면 상황은 더욱 심각해집니다. 이 플랫폼은 ‘팔레스타인인’을 ‘테러리스트’로 부적절하게 번역하고 미성년자와 관련된 불쾌한 자료를 홍보했다는 비난을 받아왔습니다. 이러한 추가적인 우려에 비추어 볼 때, Meta의 콘텐츠 알고리즘에 의해 중요한 역사적 데이터가 의심스러운 것으로 간주되었다는 점은 특히 불안한 일입니다.

Meta의 인공 지능이 사용자에게 미성년자를 보유하고 있다고 알려주면서 아동 보호법 및 규정과 관련된 윤리적, 법적 영향에 대한 우려가 제기되고 있습니다. 이 폭로로 인해 연구자와 당국 모두 이 문제에 대한 추가 조사를 시작했습니다.

이 기사 공유하기