Contents

틱톡, 허위 정보 위험에 대처하기 위해 유럽 사용자를 위한 앱 내 선거 센터 오픈

/images/tiktok-to-open-in-app-election-centers-for-eu-users-to-tackle-disinformation-risks.jpg

유럽연합 내에서 다가오는 지역 선거와 관련된 허위 정보로 인한 잠재적 위협에 대응하기 위해 TikTok은 다음 달 중 27개 회원국 전체에 국가별로 선거 관련 전문 콘텐츠를 배포할 계획을 발표했습니다. 이 이니셔티브는 사용자에게 신뢰할 수 있는 정보 출처에 대한 액세스를 제공하여 선거 과정에서 발생할 수 있는 오해의 소지가 있거나 허위 주장으로 인한 잠재적 영향을 완화하는 데 도움을 주기 위한 것입니다.

곧 출시될 틱톡 앱에는 27개 유럽연합 회원국의 고유한 요구 사항을 충족하기 위해 통합 선거 센터가 도입될 예정입니다. 이 이니셔티브에는 지역 선거관리위원회 및 비영리 단체와 긴밀히 협력하여 사용자에게 선거에 관한 신뢰할 수 있고 검증된 정보를 제공하는 것이 포함됩니다.

“유럽 선거와 관련된 동영상에는 관련 선거 센터로 안내하는 라벨이 부착됩니다. 또한 광범위한 선거 청렴성 노력의 일환으로 해시태그에 알림을 추가하여 사람들이 규칙을 준수하고 사실을 확인하며 커뮤니티 가이드라인을 위반한다고 생각되는 콘텐츠를 신고하도록 장려할 것입니다.” 2024년 유럽 선거 준비를 논의하는 블로그 게시물에서 덧붙였습니다.

페이스북은 잘못된 정보에 대처하는 것 외에도 교묘한 속임수를 통해 여론을 조작하려는 표적 캠페인에 대응하기 위한 조치를 취하고 있습니다. 이러한 캠페인에는 종종 복잡한 가짜 계정 네트워크를 만들어 선거 결과에 영향을 미칠 의도로 허위 정보를 유포하고 확대하는 데 활용되는 경우가 많습니다. 이와 관련하여 투명성을 강화하기 위해 Facebook은 ‘은밀한 영향력 운영 보고서’를 도입할 계획이며, 이를 통해 이러한 유형의 은밀한 활동에 대한 업계 관계자들의 개방성, 책임감, 협업을 강화할 수 있을 것으로 기대하고 있습니다.

새로운 은밀한 영향력 운영 보고서는 “앞으로 몇 달 안에” 출시될 예정이며, 아마도 기존의 투명성 센터 에 내부적으로 호스팅될 것으로 보입니다.

작년에 시작한 18개의 미디어 리터러시 캠페인에 더해, 틱톡은 지역 내에서 9개의 이니셔티브를 추가로 도입하여 기존의 부족한 부분을 채우고 모든 유럽연합 회원국에 걸쳐 포괄적인 범위를 보장할 것입니다.

현재 총 18개 언어 그룹을 다루는 9개 기관과만 협력하고 있는 현지 팩트체크 파트너 네트워크를 확대할 계획입니다.특히 유럽연합 내에는 일반적으로 사용되는 이민자 언어를 고려하지 않은 16개의 추가 인정 언어 외에도 24개의 공식 언어가 있습니다.

저명한 동영상 공유 플랫폼인 YouTube가 선거 보안 문제와 관련하여 인공지능으로 생성된 딥페이크 콘텐츠의 잠재적 위협을 해결하기 위한 추가 계획을 아직 공개하지 않았다는 점에 주목할 필요가 있습니다.

최근 유럽연합은 인공지능과 정치적 딥페이크 생성에 대한 관심을 높이며 온라인 플랫폼에 이러한 허위 콘텐츠의 확산을 방지하기 위한 조치를 시행할 것을 촉구하고 있습니다.

유럽, 중동 및 아프리카 지역 안전 및 청렴성 책임자인 Kevin Morgan이 작성한 최근 블로그 게시물에서 TikTok은 생성 인공 지능 기술 사용과 함께 잘못된 정보와 관련된 새로운 과제의 출현을 인정하고 있습니다. 이 플랫폼은 속이거나 오도할 가능성이 있는 조작된 콘텐츠를 금지하고 있지만, 특정 정치적 입장을 지지하는 것처럼 보이는 공인의 AI 생성 묘사도 여기에 포함된다는 점을 명확히 하고 있습니다. 그럼에도 불구하고 이 블로그 게시물은 일부 사용자가 금지된

을 무시할 수 있다는 사실에도 불구하고 정치적 딥페이크 식별 및 제거와 관련하여 TikTok의 탐지 및 제거 메커니즘의 효과에 대한 통찰력을 제공하지 못하며, 사실적인 AI 생성 콘텐츠의 라벨링에 관한 정책을 시행하기 위해 TikTok이 취한 구체적인 조치를 자세히 다루지 않고 설명하는 데 그치고 있습니다, 성명서는 크리에이터에게 이러한 요건이 존재한다는 사실을 인정하고 사용자가 딥페이크에 수동 라벨을 적용하는 데 도움이 되는 도구의 개발을 간략하게 언급하고 있을 뿐입니다. 그러나 이러한 노력이 얼마나 효과적으로 시행되고 있는지 또는 선거 조작과 관련된 잠재적 위험을 해결하는 범위를 넘어서는지에 대한 정보는 제공되지 않습니다.

앞으로 기술 발전에 대응하여 콘텐츠 계보 제휴를 통해 업계와 협력하는 등의 노력을 강화할 계획입니다.

다가오는 유럽 선거에 대비하기 위한 전략과 관련하여 유럽 연합 내에서의 지리적 초점, 언어 능력, 검증 프로세스, 미디어 리터러시 이니셔티브 등의 분야를 아우르는 다양한 질문이 있어 해당 회사에 연락을 취했습니다. 이후 업데이트에는 앞으로 있을 수 있는 모든 피드백이 포함될 예정입니다.

허위 정보에 대한 EU의 새로운 조치 요건

6월 초에 실시될 예정인 유럽의회 선거를 앞두고 유럽연합은 소셜 미디어 플랫폼, 특히 온라인 거버넌스 규정집의 엄격한 규제 대상에 해당하는 플랫폼에 대한 압박을 강화하기 위한 노력을 강화할 예정입니다. 유럽연합은 2019년 8월부터 새로운 법적 메커니즘을 도입하여 더 엄격한 감독이 필요하다고 판단되는 약 25개의 대형 플랫폼에 대해 이러한 규정을 준수하도록 강제할 수 있게 되었습니다.

이 시점 이전까지 유럽연합은 허위 정보에 맞서기 위한 업계의 행동을 장려하는 수단으로 자율 규제 조치, 특히 허위 정보 방지 실천 강령에 대한 믿음을 가지고 있었습니다. 그러나 유럽 연합은 지역 선거 과정에 대한 허위 정보로 인한 위협이 고조되고 있는 상황을 해결하기 위해 TikTok과 거의 모든 주요 소셜 미디어 기업(작년에 탈퇴한 트위터 제외)을 포함한 이 자발적 이니셔티브의 서명자들이 보여준 노력이 미흡하다는 불만을 표명해 왔습니다.

2018년에 시작된 유럽연합의 허위정보 강령은 처음에는 허위정보와 관련된 위험에 일반적으로 대응하겠다고 서약한 소수의 이해관계자만이 지지하는 선택적 가이드라인으로 구성되었습니다. 그러나 이 강령은 이후 2022년에 더욱 구체적인 추가 약속과 프로토콜을 포함함으로써 더욱 강화되었으며, 허위 정보 환경에서 기술 자원이나 제품을 제공할 수 있는 다양한 행위자를 포괄하는 참여자 명단이 확대되었습니다.

강화된 강령은 그 자체로는 법적 구속력이 없지만, 유럽연합의 집행 기관이자 대형 디지털 플랫폼에 대한 규제 당국인 집행위원회는 선거 조작과 같은 기술 자원의 활용에서 발생하는 시스템적 위험을 식별하고 관리해야 하는 의무를 포함하는 디지털 서비스법(DSA)의 특정 조항의 적합성 평가 요소로 강령 준수를 고려할 것이라고 밝혔습니다.

위원회가 정기적으로 강령 서명자 성과를 평가하는 과정에서, 특히 언어 장벽으로 인해 어려움을 겪을 수 있는 인구가 적은 유럽연합 회원국에서 온라인 플랫폼이 일관된 중재 기능을 제공하고 사실 확인을 위한 자원을 할당하는 데 더 노력할 것을 촉구하는 위원회 위원들의 긴 연설이 종종 관찰되고 있습니다.이러한 플랫폼은 EU의 비판에 대응하여 이러한 문제를 해결하기 위해 새로운 조치를 시행하고 추가 자원을 투입하고 있다고 자주 주장합니다. 그러나 이러한 약속과 지지부진한 진전의 사이클은 반년에서 1년마다 반복되는 경향이 있습니다.

구글, 페이스북, 트위터와 같은 기업에게 허위 정보 확산에 대한 조치를 취하도록 하는 허위정보사회법(DSA)의 시행으로 인해 허위정보 퇴치를 위한 유럽연합의 접근 방식이 곧 변화할 수 있습니다. 이에 따라 EU 집행위원회는 현재 이러한 ‘초대형 온라인 플랫폼’(VLOP/VLOSE)을 대상으로 허위 콘텐츠 유포에 대한 책임을 줄이기 위한 구체적인 가이드라인을 개발 중입니다.

허위 정보 위험 완화에 소홀히 하는 디지털 서비스 제공업체는 디지털 서비스법(DSA) 미준수로 인해 전 세계 연간 매출의 최대 6%에 달하는 과징금을 물게 될 수 있는 잠재적 영향력을 갖게 됩니다. 유럽연합은 이 규제 조치로 인해 거대 기술 기업들이 사용자 참여를 늘리고 고객 기반을 확대하려는 동기 때문에 전통적으로 광고 플랫폼이 회피해온 만연한 사회 문제 해결에 상당한 자원을 투입하게 될 것으로 예상하고 있습니다.

규제 기관은 동영상 공유 플랫폼 운영자 및 범위 외 소셜 미디어 플랫폼과 관련하여 디지털 서비스법을 준수할 책임을 지며, 허위 정보 위협을 완화하기 위한 TikTok의 노력의 효과성에 대한 최종 중재자 역할을 합니다.

최근의 상황에 대응하여 틱톡은 정보 보안 및 선거와 관련된 지역의 우려를 해소하기 위한 보다 철저한 전략을 실행하고 있는 것으로 보이며, 유럽 위원회가 이전에 불만을 표명했던 부분인 전반적인 보도 범위를 개선하기 위해 노력하는 것으로 보입니다. 그러나 이러한 자료를 제공하기 위해 외부 출처와 협력하려는 플랫폼의 노력에도 불구하고 EU의 모든 공식 언어를 지원하는 사실 확인 서비스가 없다는 점은 여전히 주목할 만합니다.

유럽연합 27개 회원국 각국의 언어에 맞춘 선거 센터의 설립이 임박하면 선거 조작과 관련된 위험에 대응하는 데 상당한 이점을 얻을 수 있습니다. 예를 들어, 신뢰할 수 있는 데이터 출처를 탐색하여 검증된 정확성을 추구하도록 장려하는 등 이러한 센터가 사용자가 애플리케이션 내에서 마주치는 정치적으로 모호한 자료에 대해 보다 분별력 있는 접근 방식을 채택하도록 설득할 수 있다면 그 효과는 크게 향상될 수 있습니다.그러나 이러한 이니셔티브의 궁극적인 성공 여부는 디자인과 표현의 사려 깊음과 명확성에 달려 있습니다.

유럽연합의 모든 회원국을 아우르는 미디어 리터러시 이니셔티브의 확장은 유럽연합 집행위원회가 제기한 공통의 불만을 해결하면서 주목을 받고 있습니다. 그러나 다가오는 6월 유럽 선거 전에 이러한 캠페인이 모두 실시될지는 아직 불확실합니다(문의가 들어오고 있음).

또한, 틱톡의 최근 이니셔티브는 허위 정보 해결에 있어 진전이 부족한 것으로 보입니다. 가장 최근에 유럽위원회에 제출한 허위 정보 강령 보고서에서 알 수 있듯이, 틱톡은 합성 미디어 정책을 AI가 생성하거나 수정한 콘텐츠까지 포함하도록 확장했습니다. 그러나 이후 반년 동안 집행 노력을 강화하겠다는 의사를 밝혔음에도 불구하고 현재 성명서에는 이러한 조치에 대한 추가 정보가 제공되지 않았습니다.

이전에 위원회에 제출한 보고서에서 회사는 합성 미디어 관련 규정을 식별하고 집행하는 능력을 개선하기 위한 혁신적인 솔루션을 개발하는 데 관심을 표명했습니다. 여기에는 사용자에게 이러한 콘텐츠를 인식하고 유포하지 않도록 하는 방법에 대한 교육 리소스를 제공하는 것도 포함됩니다. 그러나 현재 딥페이크가 플랫폼을 통해 확산되는 것을 제한하려는 TikTok과 같은 기업의 노력에도 불구하고 딥페이크 식별을 위한 보편적으로 인정되는 방법은 아직 없습니다.

AI 관련 위험에 대처하는 데 있어 비대칭성이 발생할 가능성이 있으므로 이러한 문제를 효과적으로 관리하기 위해서는 정책 개입에 대한 대안적인 접근 방식이 필요할 수 있습니다.

틱톡이 사용자 계몽을 강조한다고 공언한 것과 관련하여, 향후 몇 년간 계획된 일련의 지역 미디어 리터러시 이니셔티브가 인공지능이 생성한 콘텐츠로 인한 잠재적 위험을 식별하는 방법을 사용자에게 교육하는 데 집중할지 여부는 명확히 밝히지 않았습니다. 그럼에도 불구하고 이 측면에 대한 자세한 정보는 아직 파악하기 어렵습니다.

2020년 6월 유럽연합의 허위정보 규약에 서명하면서, 저희 플랫폼은 중국에 기반을 둔 모기업과 관련된 보안 문제가 증가함에 따라 점점 더 많은 회의론과 조사에 직면하게 되었습니다. 또한, 지난 여름 디지털 서비스법(DSA)이 시행되고 유럽연합의 중요한 선거가 임박함에 따라 TikTok 및 기타 유사한 플랫폼은 향후 잠재적인 허위 정보 위험과 관련하여 집행위원회로부터 집중적인 조사를 받을 것으로 예상됩니다.

엘론 머스크가 소유한 X는 규제 당국 사이에서 우려를 불러일으킨 몇 가지 추가 요건뿐만 아니라 DSA 위험 관리 전제 조건 준수와 관련하여 공식 조사를 받은 최초의 기업이라는 부러울 수 없는 타이틀을 가지고 있습니다.