전 OpenAI CEO: 내 임무는 끝났다
55시간 32분에 걸친 긴 시간 동안 에멧 시어는 전 세계 최고의 인공지능 기업인 OpenAI를 능숙하게 탐색하여 지금까지 가장 중대한 곤경에 처한 상황을 헤쳐나갔습니다. 그 후 이 경험은 AI 안전에 대한 시어의 우려가 모든 관련 당사자들에게 무시당했음이 명백히 드러나면서 마무리되었습니다. 전 Twitch의 CEO였던 그는 이러한 문제를 해결할 수 있는 충분한 역량을 갖추고 있었습니다. 그가 회사를 떠남에 따라 현 CEO인 샘 알트먼은 그 어느 때보다 OpenAI의 수익성 극대화에 집중할 수 있는 유리한 입장에 서게 되었습니다.
최근 인공지능 개발 및 구현과 관련된 기업에 대한 법적 소송이 증가하는 추세인 것으로 보입니다. 이러한 소송의 이유는 다양하지만 개인정보 침해, 일자리 감소, 사회 전체에 대한 잠재적 피해에 대한 우려 등이 포함될 수 있습니다. 기술이 기하급수적인 속도로 발전함에 따라 개발자와 정책 입안자는 자신의 행동이 윤리적 영향을 신중하게 고려하고 책임감 있는 혁신을 촉진하는 솔루션을 위해 노력하는 것이 중요해질 것입니다.
“약 72시간의 매우 격렬한 작업 끝에 얻은 이 결과에 대해 매우 기쁘게 생각합니다.“라고 셰어는 자신의 임기를 약간 마무리하는 게시글에서 말했습니다. “OpenAI에 입사했을 때만 해도 어떤 길이 옳은 길인지 확신할 수 없었습니다. 이 길은 관련된 모든 이해관계자가 옳은 일을 하는 동시에 안전을 극대화하는 길이었습니다. 이 솔루션의 일부가 된 것을 기쁘게 생각합니다.”
시어가 OpenAI의 올바른 길이 무엇인지 몰랐던 것은 분명하며, 아무도 그에게 물어보지 않았던 것 같기도 합니다. 전 GitHub CEO 냇 프리드먼과 ScaleAI의 공동 설립자 알렉스 왕을 포함한 많은 기술 임원들이 OpenAI의 거친 주말을 위한 ‘고통 스펀지’ 역할을 거절했다고 합니다. 하지만 에멧 시어는 그 일을 해낼 수 있었습니다. 그렇다면 그가 채용된 다음 날 750명의 직원이 모두 그만두겠다고 위협했다면 어떻게 되었을까요? 그리고 OpenAI 직원들이 그의 CEO 발표에 Slack에서 집단적으로 “엿 먹어라” 이모티콘으로 반응한 것이 정말 중요할까요? 중요한 것은 그가 조용히 임시로 CEO가 되었다는 사실입니다.
실제로 Twitch를 공동 창업하고 CEO를 역임한 존경받는 인물이 인공지능에 대한 깊은 신념으로 인해 안목 있는 OpenAI 이사회 구성원들의 만장일치로 선정되었다는 것은 높은 수준의 신뢰를 유추할 수 있습니다. 이 관점은 인공지능이 너무 발전된 단계에 이르렀기 때문에 인류의 멸종이나 더 치명적인 결과를 막기 위해 인공지능의 끊임없는 발전을 억제해야 한다고 가정합니다.
“인간 수준의 멸종뿐 아니라 빛의 원뿔에 있는 모든 가치가 잠재적으로 파괴될 수 있습니다.“라고 4개월 전 로건 바틀렛 팟캐스트 에서 시어는 인공지능의 파멸 시나리오에 대해 논의하면서 5~50%의 가능성을 제시하며 말했습니다. “우리뿐만 아니라 폭발의 여파에 휩싸인 모든 종에게 해당되는 이야기입니다. 마치 우주를 파괴하는 폭탄과도 같습니다.”
시어는 자신의 첫 업무가 전임자인 샘 알트먼이 해고된 이유를 조사하는 것이라고 말했습니다. 블룸버그 에 따르면 그는 심지어 이사회가 알트먼이 해고된 이유를 말해주지 않으면 그만두겠다고 협박했는데, 이는 그가 회사가 직면한 가장 큰 문제를 완전히 모른 채 자리를 수락했음을 암시합니다.
지난주에는 AI 연구원 Eliezer Yudkowsky가 쓴 ‘합리적 사고’에 관한 해리 포터 팬픽션에 카메오로 등장하는 등 시어의 과거가 수면 위로 떠올랐습니다. 이 팬픽션은 실리콘밸리의 효과적인 이타주의자들, 즉 인간의 선을 극대화하기 위해 인공지능이 개발되어야 한다고 믿는 사람들에게 인기가 있습니다. 이 책에서 합리적 사고는 주로 인공 지능에 대한 은유이며, 시어의 언급은 생일 선물 404 미디어 에 따르면.
시어의 이상한 트윗 기록은 로 을 끌어올렸는데, 여기에는 “모든 가치가 끝날 때 동전을 던지는 것보다 실제 문자 그대로의 나치가 세계를 영원히 장악하는 것이 낫다"는 인공지능 파멸 시나리오를 언급하는 내용도 포함되어 있습니다. 그는 또한 개의 CEO 일자리 개를 자동화할 수 있으며 기업에는 필요하지 않다는 트윗을 올렸습니다. 이번 주말의 성과를 보면 그 이유를 알 수 있습니다. 또 다른 트윗에서는 OpenAI의 대규모 파트너인 Microsoft에서 인턴으로 일하는 것은 자신의 영혼을 파는 것과 같다고 말했습니다 . 이 트윗은 신임 임원의 타임라인에 대한 기본적인 스윕 앤 삭제 접근 방식이 필수적인 CEO를 검증하는 데 있어 OpenAI 이사회가 실사를 제대로 하지 않았음을 반영합니다.
에멧 시어는 이제 샘 알트먼이 다시 책임자가 되었기 때문에 OpenAI에서 더 이상 필요하지 않은 것으로 보입니다. 특히 수익 극대화 전문가인 래리 서머스와 브렛 테일러가 이사회에 합류한 지금, AI 파멸 시나리오에 대한 그의 우려는 회사의 방향성에 아무런 영향을 미치지 않은 것으로 보입니다. 샘 알트먼은 시어의 재임 기간 중 처음으로 임시 CEO를 공개적으로 언급했는데, 수요일인 일에 시어의 트윗 중 하나인 “사랑해요 에밋"에 로 답글을 달았습니다.
에멧 시어의 개인적 이득은 논쟁의 여지가 있으며, 사회에 미치는 영향은 아직 불확실합니다. 그가 솔루션의 일부로 간주될 만한 자격이 있는지에 대한 의문이 제기됩니다.