설계를 통한 안전
W
주간 스타트업 및 시장 뉴스레터인 이 사이트 익스체인지에 오신 것을 환영합니다. 매일 이 사이트\\+ 칼럼에서 영감을 받아 이름이 붙여졌습니다. 매주 토요일마다 받은 편지함에서 받아보고 싶으신가요? 여기에서 신청하세요.
바퀴를 재발명하는 테크의 능력에는 단점도 있습니다: 다른 사람들이 이미 알고 있는 명백한 진실을 무시할 수 있다는 것입니다. 하지만 좋은 소식은 새로운 창업자들이 때때로 전임자보다 더 빨리 이를 스스로 알아낸다는 것입니다. - 안나
AI, 신뢰와 안전
올해는 올림픽의 해이자 윤년의 해이며, 선거의 해이기도 합니다. 하지만 미국 디폴트주의 , 저는 바이든 대 트럼프의 속편만 생각하고 있는 것은 아닙니다: 60개국 이상에서 총선이 실시되고 있습니다 , EU 의회는 말할 것도 없고요.
인공지능(AI)에 대한 규제 조치에 대해 정당마다 다른 견해를 가지고 있기 때문에 다양한 정당과 관련된 투표 결과는 기술 기업에 큰 영향을 미칠 수 있습니다. 또한, 선거의 공정성을 유지하는 것이 무엇보다 중요하므로 선거가 진행되기 전에 기술 업계의 적극적인 참여가 필요합니다.
마크 저커버그가 페이스북을 설립할 당시에는 선거의 공정성을 회사 설립 목적의 필수 요소로 고려하지 않았을 것이며, 10년 전 WhatsApp을 인수한 것도 이 문제에 대한 우려에서 비롯된 것 같지는 않습니다. 그러나 창업 후 20년이 지나고 WhatsApp을 인수한 지 10년이 지난 지금, 메타를 비롯한 거대 기술 기업은 허위 정보, 사기, 혐오 발언, 아동 성적 학대 자료, 자해 등의 유해 콘텐츠로부터 신뢰성을 확보하고 사용자를 보호해야 하는 부담을 안고 있지만, 이러한 책임을 지는 것을 꺼려하고 있습니다.
그러나 AI는 딥페이크나 더 많은 수의 악의적 행위자에게 권한을 부여함으로써 이 작업을 더욱 어렵게 만들 가능성이 높습니다. 로탄 레브코위츠, Grove Ventures의 제너럴 파트너 :
이러한 모든 신뢰 및 안전 플랫폼에는 이 해시 공유 데이터베이스 가 있으므로 나쁜 일이 무엇인지 업로드하고 모든 커뮤니티와 공유하면 모두가 함께 막을 수 있지만, 오늘날에는 모델을 훈련하여 이를 피하도록 노력할 수 있죠. 따라서 AI 세대로 인해 신뢰와 안전이라는 고전적인 작업조차도 알고리즘이 이 모든 것을 우회할 수 있기 때문에 점점 더 어려워지고 있습니다.
후발주자에서 선두주자로
Facebook은 창립 당시 소셜 네트워크에 대한 가이드라인이 확립되지 않아 콘텐츠 규제를 위한 기존 프레임워크가 부족했습니다. 플랫폼이 콘텐츠 규제와 관련된 문제를 효과적으로 해결하는 데 다소 시간이 걸린 것은 당연한 일입니다. 그러나 2017년까지도 내부 문서에서 미성년자를 유해한 콘텐츠로부터 보호하기 위한 안전장치를 구현하는 데 주저한 사실이 드러난 것은 실망스러운 일입니다.
최근 어린이 온라인 안전에 관한 미국 상원 청문회에서 마크 저커버그는 주요 소셜 미디어 플랫폼의 다른 4명의 기술 CEO와 함께 증언에 나섰습니다. 이전에도 이러한 청문회에는 Facebook의 전신인 Meta가 참여한 적이 있지만, 이번 청문회에는 원래 게임을 중심으로 사업을 확장한 Discord도 참석했다는 점이 주목할 만합니다. 이는 신뢰와 안전의 위험이 특정 온라인 플랫폼에만 국한되지 않으며, 소셜 게임처럼 무해해 보이는 앱도 피싱이나 그루밍과 같은 잠재적인 위협이 될 수 있다는 사실을 상기시켜 줍니다.
신생 기업이 FAANG보다 더 빠르게 성장할 수 있을까요? 장담할 수 없습니다: 창업자들은 종종 첫 번째 원칙에 따라 운영하며, 이는 좋든 나쁘든 콘텐츠 조정 학습 곡선 은 현실입니다. 하지만 OpenAI는 메타보다 훨씬 젊기 때문에 어린이 안전을 연구하는 새로운 팀을 구성하고 있다는 소식은 고무적입니다 - 비록 그것이 면밀한 조사의 결과일지라도 말입니다.
그러나 일부 스타트업은 문제의 징후를 기다리지 않고 조치를 취하고 있습니다. AI 기반 신뢰 및 안전 솔루션 제공업체이자 그로브 벤처스 포트폴리오의 일부인 ActiveFence 은 더 많은 인바운드 요청을 받고 있다고 CEO 노암 슈워츠는 말했습니다.
최근에 설립된 조직의 개인들이 기획 단계에서 제품의 안전성에 대한 우려를 표명하면서 우리 그룹과 소통하고 있습니다. 이러한 접근 방식을 ‘설계에 의한 안전’이라고 하는데, 이는 새로운 기능을 개발할 때 보안 및 개인 정보 보호를 우선적으로 고려하는 현대의 관행과 유사하게 제품 개발 프로세스 내에 안전 조치를 통합하는 방식입니다.
액티브펜스는 유선 이 “서비스로서의 신뢰와 안전"이라고 설명한 이 분야의 유일한 스타트업은 아닙니다. 그러나 특히 9월에 Spectrum Labs를 인수한 이후 가장 규모가 큰 회사 중 하나이기 때문에 PR 위기와 정치적 조사를 두려워하는 대기업뿐만 아니라 이제 막 시작한 소규모 팀도 고객으로 확보하고 있다는 점은 반가운 소식입니다. 기술 분야에서도 과거의 실수로부터 배울 수 있는 기회가 있습니다.