OpenAI의 폭발 이후, 'AI 안전'은 실체가 없다는 것이 분명해졌습니다.

인공지능 분야의 최신 개발과 발전상을 살펴보는 ‘이번 주 인공지능’ 특집에 오신 것을 환영합니다.

최근 인공지능 개발 및 구현과 관련된 기업에 대한 법적 소송이 증가하는 추세인 것으로 보입니다. 이러한 소송의 이유는 다양할 수 있지만 과실, 계약 위반 또는 개인정보 보호권 침해와 같은 문제와 관련된 경우가 많습니다. 인공지능 기술은 큰 가능성을 가지고 있지만, 책임에 대한 복잡한 윤리적 문제와 우려도 함께 제기한다는 점에 유의하는 것이 중요합니다. 이 기술을 계속 개발하고 의존함에 따라 이러한 문제를 해결하고 개인과 사회 전반을 보호하기 위한 적절한 조치를 취하는 것이 중요해질 것입니다.

실제로 최근 기술 분야에서 발생한 사건들은 놀라움을 금치 못할 정도입니다. 실리콘밸리 역사상 샘 알트먼의 해임과 이후 OpenAI 이사회의 복직을 둘러싼 극적인 사건과 비교할 수 있는 사건이 있을지 지켜봐야 할 것입니다. 이러한 발전으로 인해 즉각적인 관심을 끌 수는 있지만, 궁극적인 결과는 훨씬 덜 매력적일 가능성이 높습니다.

많은 사람들이 ‘쿠데타’라고 부르는 이 사건은 주로 회사의 기술 개발 속도에 대한 샘과 OpenAI 이사회 사이의 이념적 균열에 기인한 것입니다. 조직의 방향에 대해 최종 결정권을 가져야 하는 이사회가 알트먼이 기술 상용화를 추진하는 속도에 대해 우려했고 극단적인 편견을 가지고 그를 퇴출시키기로 결정했다는 이야기입니다. 이후 OpenAI의 강력한 파트너이자 자금 지원자인 마이크로소프트와 스타트업 직원 대다수의 지원을 받은 알트먼은 반란을 주도하여 배신자들을 몰아내고 다시 회사의 리더로 복귀했습니다.

이 에피소드의 핵심 갈등은 “AI 안전"에 관한 알트만과 이사회 간의 의견 차이에서 비롯된 것으로 보입니다. 이 의견 불일치는 과학적 탐구와 윤리적 혁신에 대한 헌신과 금전적 이익 추구 사이에 놓인 조직 내 광범위한 긴장을 상징하는 것으로 보입니다. 이 사례에서는 후자가 지배적인 것으로 판명되었습니다.

다른 필자들은 이미 분석 을 통해 OpenAI의 독특한 조직 구조가 어떻게 스스로를 충돌의 길로 내몰았는지에 대한 분석을 제공한 바 있습니다.웹에서 이 스타트업의 조직도 를 보셨을 수도 있지만, 혹시 못 보신 분들을 위해 간단히 요약해드리겠습니다: 현존하는 거의 모든 다른 기술 비즈니스와 달리 OpenAI는 실제로는 영리 회사를 운영 및 통제하는 이사회가 전적으로 관리하는 비영리 기업입니다. 이러한 설계는 돈보다 공익을 추구한다는 조직의 사명을 우선시하기 위한 것입니다. OpenAI의 자체 자기 설명 은 돈을 버는 것이 아니라 세상을 더 나은 곳으로 만드는 것이 주요 목표라는 이상주의적 개념을 홍보합니다:

비영리 재단과 수익 한도가 있는 유한책임회사 간의 협력으로 구성된 OpenAI의 아키텍처 프레임워크는 안전 매개변수를 준수하는 동시에 광범위한 사회적 이점을 제공하는 인공 일반 지능(AGI)을 개발하려는 조직의 목표를 실현하는 데 필수적인 기반이 되도록 고안되었습니다.

실제로 이사회의 헌장은 주주가 아닌 ‘인류’에 대한 충성심에 빚을 지고 있습니다. 따라서 Microsoft가 OpenAI에 막대한 자금과 자원을 쏟아 부었음에도 불구하고, 이 스타트업의 이사회는 여전히 (가상적으로) 제품과 기술에 대한 최종 결정권을 가지고 있어야 합니다. 즉, 조직의 일부인 은 수백억 달러의 가치가 있는 것으로 보고되었습니다 . 이미 많은 사람들이 지적했듯이, 조직의 윤리적 사명은 조직에 투자한 사람들의 경제적 이익과 직접적으로 충돌하는 것으로 보입니다. 평소와 같이 돈이 이겼습니다.

이 모든 것을 감안하더라도 알트먼이 축출된 실제 이유가 아직 공개되지 않았기 때문에 주말의 사건에 대한 이러한 해석을 완전히 지지해서는 안 된다는 주장을 할 수도 있습니다. 대부분의 경우, 회사 구성원 명은 샘이 쫓겨난 이유에 대해 명에 대해 이야기하지 않거나 명은 그의 축출이 AI 안전과 관련이 없다는 명을 단호하게 부인하고 있습니다. 그 사이 알트먼이 공격적으로 퇴진하게 된 진짜 이유는 그가 독재적인 중동 정권을 통해 추가 자금 조달을 추구했다는 비난과 같이 훨씬 더 다채로운 이유가 있었다고 주장하는 등 여러 가지 설이 나돌았습니다.

OpenAI를 둘러싼 최근의 사건은 기술 업계에서 ‘AI 안전’이라는 개념에 관한 극명한 현실을 드러냈습니다. 겉으로 보기에는 탄탄한 조직 프레임워크와 책임감 있는 AI 개발을 위한 노력을 기울이고 있지만, 궁극적으로는 재정적 고려사항이 윤리적 영향에 대한 우려보다 우선하는 것으로 보입니다.따라서 ‘AI 안전’이라는 개념이 단순한 수사나 마케팅 전략 이상의 실질적인 의미를 지니고 있는지 의문을 가질 수밖에 없습니다.

분명히 말하지만, AI 안전은 매우 중요한 분야이며, 실제로 기업에서 이를 실천한다면 그것은 한 가지 문제일 것입니다. 그렇긴 하지만, ‘안전’ 지향 모델을 추구하기 위해 가장 많은 을 수행한 회사 중 하나인 OpenAI에 존재했던 버전은 기술 업계의 현실 정치적인 계략과 크게 일치하지 않는 것처럼 보입니다. 더 솔직히 말하자면, 인공지능의 폭주로부터 우리를 보호해야 할 사람들(즉, 이사회 구성원들)은 이 강력한 기술에 대한 책임 있는 청지기 직분을 부여받은 사람들이 자신이 무엇을 하고 있는지 몰랐던 것 같습니다. 그들은 샘이 업계 인맥과 높은 지위에 있는 친구들을 모두 가지고 있었고, 호감도도 높았으며, 그런 종류의 사회적 자본이 모든 것이 되는 세상에서 그를 반대하는 것은 경력 자살에 해당한다는 사실을 이해하지 못한 것 같습니다. 왕을 노린다면 놓치지 않는 것이 최선입니다.

최근 기업의 인공지능 안전 조치가 자체 개발자의 퇴사를 예측하고 예방하지 못한 것은 첨단 인공지능 시스템을 감독할 책임이 있는 사람들에게 맡기는 것이 얼마나 위험한 일인지 잘 보여줍니다. 주주들의 대응처럼 예측 가능한 상황을 헤쳐나가지 못하는 이들의 무능력은 잠재적으로 재앙적인 기술 발전을 관리할 수 있는 능력에 대한 우려를 불러일으킵니다. 또한, 재무에 초점을 맞춘 경영진이 다시 권력을 잡는다는 것은 의사 결정에 윤리적 고려가 부재하다는 것을 의미하며, 이는 강력한 기업의 발전을 다룰 수 있는 능력에 대한 신뢰를 더욱 약화시킵니다. 결과적으로 인류는 신뢰할 수 없는 두 진영 사이에 끼어 있는 것처럼 보이며, 어느 진영도 AI의 안전한 배치를 보장할 준비가 되어 있지 않은 것으로 보입니다.

OpenAI 분쟁으로 인한 갈등이 해결되면서 회사는 평소처럼 사업을 재개할 수 있는 좋은 위치에 있는 것 같습니다. 이사회에서 유일한 두 명의 여성인 을 쫓아낸 후, 회사는 재정 전문가인 래리 서머스를 영입했습니다. 알트먼은 회사로 돌아왔고(알트먼과 연대하여 사임한 그렉 브록맨 전 사장도 마찬가지입니다), 마이크로소프트의 최고 경영자인 사티아 나델라 는 “OpenAI 이사회의 변화에 고무되어 있다"며 “보다 안정적이고 정보에 입각한 효과적인 지배구조를 위한 첫 번째 필수 단계"라고 말했습니다.

이사회의 실패로 OpenAI의 선한 일을 하는 사람들이 자신들의 “안전” 사명을 저버렸을 뿐만 아니라 AI 윤리 운동 전반에 대한 반발을 불러일으켰을 수도 있다는 것은 분명해 보입니다.좋은 예입니다: 이번 주말의 드라마는 이미 업계에 퍼져 있던 꽤 급진적인 반안전 이데올로기를 더욱 급진화시킨 것 같습니다. “효과적인 가속화론자”(약칭 “e/acc”)는 추가 정부 규제, “기술 윤리”, “AI 안전” 등이 진정한 기술 개발과 기하급수적인 수익 창출에 걸림돌이 된다고 생각합니다. 주말 동안 ‘AI 안전’에 대한 이야기가 나오자, 이 신념 체계를 더 열렬히 지지하는 사람들 중 일부는 이 에피소드의 진정한 피해자( 자본주의, 물론 )에 대한 공격 으로 인식되는 것을 비난하기 위해 X에 로 이동했습니다.

기술 부문에서 “윤리적” 및 “안전한” 관행을 강조하는 것은 기업과 고객 모두에게 일종의 위안이 됩니다. 기업은 자신이 제공하는 제품이 사회의 불안과 불안정성을 유발할 수 있음을 인식하고 소비자와 지역사회를 보호하기 위한 노력을 보여줌으로써 대중의 우려를 완화하기 위해 노력합니다. 그러나 조직의 윤리적 원칙이 금전적 이익과 충돌할 경우 이러한 노력은 궁극적으로 무용지물이 될 수 있다는 점을 인식하는 것이 중요합니다. 역사적으로 이러한 갈등은 지속적으로 발생해 왔는데, 오늘날에는 왜 달라질 것이라고 기대해야 할까요?

오늘의 질문: OpenAI 드라마에서 나온 최고의 밈은 무엇인가요?

이번 주 전례 없는 임브로글리오는 너무 많은 밈과 비꼬는 테이크에 영감을 주었기 때문에 좋아하는 것을 고르는 것이 거의 불가능해 보였습니다. 사실, 이번 스캔들로 인해 여러 장르의 밈이 탄생했습니다. 알트먼이 축출된 직후, 기술 업계가 정확히 무엇을 목격했는지 이해하기 위해 분주하게 움직이면서 개의 러스트 콜 음모 밈 이 많이 유포되었습니다. 알트먼을 대체할 와 권력 투쟁의 원인이 될 수 있는 에 대한 농담도 있었습니다. 그러다가 축출된 CEO의 뒤에 마이크로소프트가 서 있다는 것이 분명해지자 이야기와 밈의 흐름이 바뀌었습니다. 개의 사티아 나델라 관련 밈 개와 마찬가지로 수많은 개의 사티아 나델라 관련 밈 장르가 인기를 끌었습니다. 물론 개의 계승 밈 도 있었습니다. 그리고 마지막으로, X 사용자 가 알트만 쿠데타를 완전히 날려버린 OpenAI 보드 를 공개적으로 조롱하는 피할 수 없는 장르의 밈이 등장했습니다. 저는 개인적으로 알트만의 얼굴을 더 울프 오브 월스트리트의 조던 벨포트의 얼굴로 바꾼 딥페이크 동영상 이 재미있다고 생각했습니다. 가장 마음에 드는 딥페이크가 있다면 댓글로 알려주세요.

이번 주 헤드라인 더보기

정말 안 좋은 한 주를 보낸 또 다른 AI 회사. 이번 주에 어려움을 겪은 기술 기업은 OpenAI 뿐만이 아닙니다. 제너럴 모터스가 소유한 로봇택시 회사인 크루즈도 꽤 힘든 한 주를 보냈습니다. 이 회사의 설립자이자 CEO인 카일 보그트는 월요일 캘리포니아 주에서 보행자와의 폭력 사건과 관련된 주요 세부 사항을 공개하지 않았다는 이유로 회사를 고발한 후 사임했습니다. 보그트는 2013년에 회사를 설립하여 자동화된 여행 업계에서 주목받는 기업으로 성장시켰습니다. 하지만 지난 8월 샌프란시스코에서 발생한 우버의 엉뚱한 차량 출시로 인해 시민들과 공공 안전 당국으로부터 광범위한 우려와 불만이 쏟아졌습니다. 크루즈는 이러한 스캔들로 인해 10월에 캘리포니아의 모든 차량을 도로에서 철수시켰고, 결국에는 전국에서 영업을 중단했습니다. MC 해머는 OpenAI의 열렬한 팬인 것으로 알려져 있습니다. 이번 주에는 “U Can’t Touch This"의 래퍼인 MC Hammer가 OpenAI의 팬이라는 사실도 밝혀져 놀라움을 더했습니다. 수요일, 이번 주 권력 투쟁의 혼란이 끝나자 래퍼 는 트윗을 통해 “이 위험한 시기에 @sama 와 @gdb 에 대한 충성심, 사랑, 헌신을 보여준 710명과 @OpenAI 팀원들에게 경의와 축하를 보냅니다.“라고 전했습니다. AI 저작권 전쟁에서 크리에이터가 패배하고 있습니다. 사라 실버맨이 OpenAI와 Meta를 상대로 제기한 소송은 순탄치 않습니다. 이번 주에는 이 코미디언이 거대 기술 기업을 상대로 제기한 소송(저작권 위반 혐의로 기소)이 실패로 돌아갔다는 사실이 밝혀졌습니다. 실버맨은 혼자가 아닙니다. 여러 시각 예술가들이 미드저니와 스테이블리티 AI를 상대로 제기한 소송은 지난달 판사에 의해 건이었으나 건으로 기각되었습니다. 즉, 이러한 소송이 실패하고 있는 것처럼 보이지만 소송이 성공하기 위해서는 적절한 법적 논거를 찾는 것이 관건일 수 있습니다. 현재 청구가 충분히 강력하지 않을 수 있지만 사건을 수정하여 다시 .