Por que a missão sem fins lucrativos da OpenAI de construir AGI está sob ataque — de novo | A batida da IA

No novo processo movido por Elon Musk na semana passada contra a OpenAI, seu CEO Sam Altman e seu presidente Greg Brockman, a palavra “sem fins lucrativos” aparece 17 vezes. “Board” aparece 62 vezes. “AGI”? 66 vezes.

As alegações legais levantadas pelos demandantes abrangem uma variedade de queixas centradas na noção de que a OpenAI priorizou ganhos financeiros e considerações comerciais em detrimento da sua obrigação como organização sem fins lucrativos de salvaguardar o interesse público ao desenvolver inteligência artificial geral (AGI). Especificamente, estas acusações envolvem acusações de violação de acordos contratuais, violação de deveres fiduciários e envolvimento em práticas de concorrência desleal.

O incidente acima mencionado relativo à decisão da OpenAI de demitir o seu CEO, Sam Altman, em 17 de novembro de 2023, gerou considerável controvérsia entre as partes interessadas, especialmente a Microsoft e vários funcionários da OpenAI que expressaram o seu apoio ao Sr. com sua causa. Consequentemente, o Sr. Altman foi rapidamente reintegrado, enquanto alguns membros do Conselho da OpenAI enfrentaram demissão como resultado desta dramática reviravolta nos acontecimentos.

Muitas pessoas apontaram que Musk, como cofundador da OpenAI que agora compete com a empresa com sua própria startup X.ai, dificilmente é um partido objetivo. Mas estou muito mais interessado numa questão importante: como é que as questões nerds de governação das organizações sem fins lucrativos ligadas à ascensão da inteligência artificial geral desencadearam uma tempestade jurídica?

A estrutura incomum sem fins lucrativos da OpenAI está em maus lençóis – novamente

No início da OpenAI, conforme delineado pela ação legal de Elon Musk, uma colaboração entre Musk, Greg Brockman e Ilya Sutskever foi formada em 2015 com o objetivo de promover a inteligência artificial geral (AGI) para a melhoria da sociedade, e não apenas para fins monetários. ganhos de uma empresa com fins lucrativos.

Em 2023, de acordo com a ação, Altman, Brockman e OpenAI foram acusados ​​de violar seus deveres fiduciários e descumprir obrigações contratuais, principalmente no que diz respeito a eventos ocorridos após a demissão de Altman pelo conselho da organização sem fins lucrativos em 17 de novembro de 2023, e seu posterior reintegração.

A origem de muita controvérsia reside na natureza distintiva da Open AI como uma organização sem fins lucrativos com um componente lucrativo intrincado e restrito. Na verdade, apenas alguns dias antes da demissão de Altman, publiquei um artigo destacando este aspecto único da estrutura organizacional da IA ​​aberta.

Nesse artigo, apontei para a página “Nossa estrutura” no site da OpenAI que diz que a subsidiária com fins lucrativos da OpenAI é “totalmente controlada” pela organização sem fins lucrativos OpenAI. Embora a subsidiária com fins lucrativos tenha “permissão para obter e distribuir lucros”, ela está sujeita à missão da organização sem fins lucrativos.

Após uma análise mais aprofundada, a disputa legal de Elon Musk iluminou uma intrincada rede de entidades corporativas envolvidas no caso. Parece que a OpenAI, Inc., uma organização sem fins lucrativos, dá origem a várias subsidiárias com fins lucrativos, como a OpenAI, LP; OpenAI LLC; OpenAI GP, LLC; OpenAI Opco, LLC; OpenAI Global, LLC; OAI Corporation, LLC e OpenAI Holdings, LLC.

A Microsoft agora é membro sem direito a voto do conselho sem fins lucrativos da OpenAI

Como escrevi em novembro, de acordo com a OpenAI, os membros do conselho de administração da organização sem fins lucrativos determinarão quando a empresa “alcançou AGI” – que define como “um sistema altamente autônomo que supera os humanos na maioria dos trabalhos economicamente valiosos”. Graças ao braço com fins lucrativos que é “legalmente obrigado a cumprir a missão da organização sem fins lucrativos”, assim que o conselho decidir que a AGI, ou inteligência artificial geral, foi alcançada, tal sistema será “excluído das licenças IP e outros termos comerciais com a Microsoft”. , que se aplicam apenas à tecnologia pré-AGI.”

Como não existe uma definição universalmente aceite de Inteligência Artificial Geral (AGI), como pode ser confiada a um grupo de seis indivíduos a tarefa de determinar se tal conquista foi alcançada? Além disso, considerando o potencial momento e as circunstâncias que rodeiam este hipotético veredicto, que implicações isto poderá ter para a Microsoft-que, como membro sem direito a voto do órgão de governo, detém a distinção de ser o principal financiador da organização em questão? Parece razoável questionar se tal relação pode dar origem a um conflito de interesses substancial.

Musk certamente parece pensar assim. O processo diz: “Sr. Altman e Brockman, em conjunto com a Microsoft, exploraram a influência significativa da Microsoft sobre a OpenAI, Inc. e forçaram a renúncia da maioria dos membros do conselho da OpenAI, Inc., incluindo o cientista-chefe Ilya Sutskever. Altman foi reintegrado como CEO da OpenAI, Inc. em 21 de novembro. Com base em informações e crenças, os novos membros do Conselho foram escolhidos a dedo pelo Sr. Altman e abençoados pela Microsoft. Os novos membros do Conselho carecem de experiência substancial em IA e, com base em informações e crenças, estão mal equipados desde o início para determinar de forma independente se e quando a OpenAI atingiu a AGI – e, portanto, quando desenvolveu um algoritmo que está fora do escopo da licença da Microsoft.”

Outros rejeitaram o status de organização sem fins lucrativos da OpenAI

Musk não é o primeiro a recuar no status de organização sem fins lucrativos da OpenAI. “Acho que a história que Musk conta em sua denúncia valida e aprofunda o caso que estamos defendendo na Califórnia”, disse Robert Weissman, presidente da Public Citizen, uma organização sem fins lucrativos de defesa do consumidor que escreveu uma carta em 9 de janeiro solicitando que o procurador da Califórnia Geral investiga o status de organização sem fins lucrativos da OpenAI. A carta levantou preocupações de que a OpenAI “pode ter falhado em cumprir seus objetivos sem fins lucrativos e, em vez disso, estar agindo sob o controle efetivo de sua afiliada subsidiária com fins lucrativos”.

Os profissionais jurídicos com quem conversei concordam com a afirmação de Elon Musk sobre este assunto. Especificamente, James Denaro, advogado e tecnólogo-chefe da CipherLaw com sede em Washington D.C., reconheceu que o Sr. Musk apresenta uma postura política robusta em relação às ramificações potenciais de permitir que organizações iniciem operações como organizações sem fins lucrativos isentas de impostos, solicitando doações antes de qualquer geração de lucro e, subsequentemente, transição dos direitos de propriedade intelectual para uma entidade com fins lucrativos. Este cenário, segundo Denaro, constitui uma transformação notável no cenário da indústria de tecnologia.

O processo de Musk não é surpreendente por causa das questões estruturais sem fins lucrativos versus fins lucrativos que atormentaram a OpenAI, acrescentou Anat Alon-Beck, professora associada da Escola de Direito da Universidade Case Western, que se concentra em direito corporativo e governança e escreveu recentemente um artigo sobre “sombra governança” observando os membros do conselho de empresas de tecnologia.

Até Novembro de 2023, a ideia de observadores do conselho recebia pouca atenção dos principais meios de comunicação social. No entanto, isso mudou quando a OpenAI, organização responsável pelo desenvolvimento do ChatGPT, concedeu à Microsoft uma posição de observador do conselho após conflitos internos dentro do seu próprio conselho. Embora as reportagens da comunicação social tenham explorado as implicações desta nomeação, ignoraram o facto de que os cargos de observador do conselho não têm direito a voto e, portanto, carecem de influência significativa na tomada de decisões. Apesar disso, a mudança indicou uma parceria crescente entre a OpenAI e a Microsoft, o que acabou atraindo o interesse de órgãos reguladores como o Departamento de Justiça (DOJ) e a Comissão Federal de Comércio (FTC), além de destacar o papel crucial desempenhado pelo empreendimento corporativo. capital (CVC) em financiamento e governança na OpenAI.

O litígio surgiu como consequência da configuração organizacional da OpenAI”, observou ela, enfatizando que a OpenAI deveria se preocupar com este assunto.

É importante permanecer cauteloso devido à natureza imprevisível de estruturas únicas, como exemplificado pela escolha feita pela OpenAI. Em contextos jurídicos que envolvem grandes corporações, os nossos objectivos principais incluem eficiência, redução de custos de transacção e previsibilidade. O sistema judicial ainda não estabeleceu precedentes relativamente aos deveres fiduciários, tornando esta estrutura específica incerta. Uma abordagem mais convencional pode ter sido mais eficaz na consecução dos objectivos pretendidos.

*️⃣ Link da fonte:

novo processo, própria startup X.ai , Nossa estrutura , alcançou AGI , parece pensar assim , carta em 9 de janeiro , escreveu um artigo,