Por que a carta aberta para “construir IA para um futuro melhor” fracassa

No cânone das cartas abertas da indústria de IA – lembra-se da carta de “pausa” de março passado? — Atrevo-me a dizer que aquele que foi publicado hoje, intitulado “Construir IA para um Futuro Melhor”, pode levar a melhor. Um bolo achatado e vazio, claro.

A carta, iniciada pelo capitalista de risco Ron Conway e sua empresa SV Angel, tem mais de 300 signatários, incluindo empresas como OpenAI, Salesforce, Google, Meta e Microsoft. O CEO da OpenAI elogiou o “espírito desta carta”, enquanto outras empresas ficaram “orgulhosas” em assiná-la.

Mas a carta, que apela “a todos para que construam, implementem amplamente e utilizem a IA para melhorar a vida das pessoas e desbloquear um futuro melhor”, não é apenas curta (apenas quatro breves parágrafos), mas também curta em termos de especificidade e contexto. Isto é especialmente preocupante num momento em que o Google continua a ser arrastado pelo fracasso do seu Gemini; A estrutura sem fins lucrativos da OpenAI e a missão AGI foram criticadas novamente; e os novos modelos Claude 3 da Anthropic estão sendo aclamados como tendo habilidades “quase humanas”.

Carta aberta oferece pronunciamentos vagos sobre benefícios e riscos da IA

À luz de declarações como “O objectivo final da inteligência artificial reside em promover o florescimento humano numa extensão que supere as nossas capacidades anteriores” e “A IA deve ser acessível a todos, com cada indivíduo possuindo uma parte para contribuir para o seu desenvolvimento para melhorar a qualidade de vida da sociedade em geral”, torna-se um desafio discernir a mensagem pretendida transmitida por esta correspondência. Além disso, ainda não está claro quanto ao público-alvo, a razão por detrás da sua divulgação e como estas declarações servem para abordar quaisquer preocupações existentes ou oferecer soluções práticas.

Dado o estado actual de avanços acelerados na inteligência artificial, tornou-se evidente que a população em geral-abrangendo tanto consumidores individuais como empresas-necessita de esclarecimentos sobre várias questões cruciais relativas à transparência, responsabilidade e respeito pela privacidade, imparcialidade e equidade social. Além disso, as preocupações legítimas em torno das consequências da IA ​​na sustentabilidade ambiental, na dinâmica do emprego, nos processos eleitorais e nos assuntos militares também são prioridade para o público.

As preocupações e dúvidas acima mencionadas não recebem qualquer atenção no conteúdo de “Construir IA para um Futuro Melhor” e, infelizmente, o texto não fornece qualquer progresso significativo no sentido de mitigar a crise existencial conhecida como “penhasco da desilusão” que foi anteriormente destacado por mim em meu artigo datado de outubro de 2023. Naquela época, eu havia expressado que, embora a IA continue a avançar a um ritmo surpreendente, ela enfrenta simultaneamente vários dilemas intrincados, que vão desde disputas legais até fabricações digitais manipulativas conhecidas como deepfakes.

Embora a inteligência artificial tenha potencial para beneficiar enormemente a humanidade, parece que as empresas não estão a transmitir eficazmente as razões por detrás da sua procura por tal tecnologia. Ainda não está claro como o desenvolvimento da IA ​​generativa trará vantagens para indivíduos, funcionários, empresas e a sociedade como um todo. Além disso, deve-se considerar se os ganhos prospectivos superam quaisquer inconvenientes concebíveis associados à sua implementação.

Embora a IA tenha feito progressos significativos nos últimos anos e seja uma grande promessa para melhorar as nossas vidas, o mero reconhecimento deste potencial não consegue captar toda a extensão do seu poder transformador.

Outros criticaram a carta aberta

Não sou o único que critica a carta aberta “Construa IA para um futuro melhor”. Emily Bender, professora de linguística da Universidade de Washington, parodiou a carta com a sua própria versão, “Construir’IA’para um futuro mais explorador”, escrevendo “apelamos a todos que desistam dos seus dados e concordem com empregos mais precários, para que que os barões da tecnologia possam desfrutar de um futuro ainda mais rico.”

Durante minha conversa com Meredith Whittaker, presidente da Signal Foundation, ela achou a carta bastante peculiar e parecia um pedido para que o ChatGPT produzisse declarações banais.

A quem ou a que entidade se dirigem estes pronomes?", perguntou ela retoricamente. “Eles são bastante abrangentes-‘apelamos a todos’.

Ao contrário da série de cartas abertas de 2017-2021, destacou Whittaker, nas quais os trabalhadores exigiam mudanças das grandes empresas de tecnologia – protestando contra o trabalho do Google com o Pentágono, por exemplo – a nova carta reaproveita o formato de “carta aberta” em um formato “estéril”. caminho para o “marketing corporativo”.

Parece que a sua declaração pretendia transmitir uma mensagem de benevolência por parte das empresas com capacidade para implementar mudanças, ao mesmo tempo que renunciava a qualquer autoridade ou influência directa que possam possuir na realização de tais alterações.

Em essência, a sua perspectiva é que a correspondência incorpora uma natureza “extremamente condescendente”, desprovida de compromissos concretos e explícitos para avaliar e divulgar os avanços.

*️⃣ Link da fonte:

Construa IA para um futuro melhor , carta , orgulhoso , Gemini falha , parodiou a carta , protestando ,