Dinheiro e política continuam a se fundir na segurança da IA ​​– incluindo um novo Super PAC | A batida da IA

Em janeiro, conversei com Mark Beall, cofundador e CEO da Gladstone AI, uma empresa de consultoria que divulgou ontem um relatório bombástico, encomendado pelo Departamento de Estado. O anúncio foi coberto pela primeira vez pela TIME, que destacou as recomendações do plano de acção de segurança da IA ​​do relatório – isto é, “como os EUA devem responder ao que argumentam ser riscos significativos à segurança nacional representados pela IA avançada”.

Quando falei pela primeira vez com Beall, conversamos sobre uma história que eu estava escrevendo sobre o debate entre a IA e os líderes políticos sobre uma “rede” de adeptos do altruísmo eficaz nos círculos de segurança da IA ​​em Washington, DC. Não havia dúvida de que Beall, que me disse ter sido antigo chefe de política de IA no Departamento de Defesa dos EUA, tinha uma forte convicção sobre a necessidade de gerir as potenciais ameaças catastróficas da IA. Em uma postagem no X que compartilhou minha história, Beall escreveu que “são necessárias urgentemente salvaguardas de bom senso antes de obtermos um 11 de setembro de IA”.

Para muitos, o termo “segurança da IA” é sinónimo de lidar com os riscos “existenciais” da IA ​​– alguns podem ser atraídos para essas preocupações através de sistemas de crenças como o altruísmo eficaz (EA), ou, como afirma o relatório, de trabalhar em’laboratórios de IA de fronteira como OpenAI, Google DeepMind, Anthropic e Meta. Os autores do relatório da Gladstone AI disseram que conversaram com mais de 200 funcionários públicos, especialistas e trabalhadores de empresas fronteiriças de IA como parte de sua pesquisa de um ano.

No entanto, outros rejeitaram as conclusões do relatório nas redes sociais: o pesquisador de comunicação Nirit Weiss-Blatt apontou que o coautor da Gladstone AI, Eduoard Harris, opinou sobre o que muitos consideram um cenário “condenador” improvável e distante, chamado de “clipe de papel”. problema do maximizador”. No blog da comunidade LessWrong, Eduoard Harris escreveu que o maximizador de clipes de papel é “uma questão muito profunda e interessante”.

O CEO e cofundador da Cohere, Aidan Gomez, optou por não fazer quaisquer comentários sobre o relatório em questão. No entanto, ele compartilhou uma declaração que resumia sua perspectiva – aparentemente relacionada à metodologia não confiável do estudo. Várias respostas foram publicadas em resposta a esta observação, sendo uma delas de um indivíduo que afirmou que “uma enquete no Twitter produziria resultados mais precisos.

E William Falcon, CEO da plataforma de desenvolvimento de IA de código aberto Lightning AI, escreveu no X que “De acordo com a TIME, a IA de código aberto causará um ‘evento de nível de extinção para os humanos’. mas se você realmente quiser usar seu chapéu de lata, é mais provável que a IA de fonte próxima cause isso.”

Beall deixou Gladstone para lançar ‘o primeiro Super PAC de segurança de IA”

Ao ler sobre a discussão em andamento em torno de X, achei digno de nota descobrir no artigo da TIME que Beall, um dos três autores do relatório Gladstone AI, que foi encomendado por US$ 250.000, desde então deixou seu cargo na empresa para estabelecer o que ele me descreveu como “até onde sabemos, o Super PAC de segurança de IA inicial”. Este comité de acção política, que iniciou oficialmente as suas operações no mesmo dia em que o relatório Gladstone foi divulgado, pretende lançar uma campanha nacional de sensibilização dos eleitores centrada nas políticas de IA. Dado que o público em geral pode ser significativamente influenciado por este assunto, Beall expressou o seu desejo de garantir que eles sejam adequadamente educados e informados sobre o assunto.

Na verdade, garantir recursos financeiros é um aspecto crucial para iniciar a operação de um Super PAC, como evidenciado pela declaração do Sr. Beall sobre o assunto. Informou-me que já obtiveram os fundos necessários para iniciar as actividades deste comité de acção política, com planos para acumular ainda mais quantias substanciais de dinheiro num futuro próximo.

É digno de nota mencionar que Brendan Steinhauser, cofundador do Beall’s Super PAC, tem uma vasta experiência na colaboração com iniciativas conservadoras, como a promoção da escolha da escola e o envolvimento nas fases iniciais do movimento Tea Party. Como consultor republicano, o seu envolvimento neste comité de acção política acrescenta outra camada de complexidade ao debate em torno dos motivos e objectivos da organização.

Beall destacou o carácter bipartidário do Super PAC, afirmando que “pretendemos reunir legisladores de ambos os extremos do espectro político para promover a inovação e salvaguardar a segurança da nossa nação”. Brendan, que passou quase vinte anos trabalhando na política e na política nacional, mantém um ponto de vista conservador, mas formou com sucesso alianças interpartidárias eficazes em questões como educação e reforma da justiça criminal.

Super PAC lançado no mesmo dia do relatório Gladstone

Ainda assim, parecia estranho que o Super PAC, chamado “Americanos pela segurança da IA”, fosse lançado no mesmo dia do que parecia ser um relatório apolítico, que o cofundador de Gladstone, Jeremie Harris, me disse ter sido encomendado pelo Bureau do Departamento de Estado. de Segurança Internacional e Não Proliferação em Outubro de 2022.

O procedimento habitual para gerar tais relatórios envolve que sejam iniciados por instituições de segurança governamentais, especialmente quando se trata de questões tecnológicas em rápida evolução, nas quais a administração pode não ter a compreensão necessária. Neste caso específico, o Departamento de Estado dos Estados Unidos solicitou que funcionemos como uma fonte imparcial de avaliação especializada. De referir que a nossa organização não aceitou qualquer financiamento externo e não mantém associações com entidades que possuam uma participação pré-determinada na conclusão do nosso exame.

Em relação ao Super PAC de Beall, Harris expressou a sua satisfação pelo seu estabelecimento bem-sucedido, ao mesmo tempo que enfatizou que opera separadamente de Gladstone e não esteve envolvido na determinação do momento do seu início.

‘Agora, o verdadeiro trabalho começa’

Beall reconheceu a importância do relatório Gladstone na sensibilização para as potenciais consequências dos avanços da IA ​​nos direitos humanos. No entanto, enfatizou que muito mais precisa ser feito para traduzir este conhecimento em ações políticas concretas. Em particular, apelou ao Congresso para aprovar legislação que estabeleça um quadro regulamentar flexível e adaptável, capaz de acompanhar os rápidos desenvolvimentos tecnológicos na inteligência artificial.

Quando perguntei a Beall de quem ele solicitaria doações – organizações de altruísmo eficazes? Líderes de IA como Geoffrey Hinton e Yoshua Bengio, que notoriamente apelaram a “acções políticas para evitar riscos extremos” da IA?-ele disse “pretendemos construir uma coalizão tão grande quanto possível”.

Uma gama diversificada de fontes de financiamento é antecipada devido ao seu interesse comum em garantir a segurança e proteção da IA, o que suscitou preocupação significativa entre o público americano em relação a potenciais riscos catastróficos”, afirmou.

Embora possa haver alguma incerteza em relação a certos riscos associados à inteligência artificial, tais como deepfakes e desinformação eleitoral, que embora não sejam catastróficos, continuam a ser uma preocupação significativa para muitos indivíduos, uma coisa que pode ser afirmada com segurança é que a intersecção entre finanças e influência política permeará persistentemente as discussões em torno das políticas de IA relacionadas à segurança e proteção da IA.

*️⃣ Link da fonte:

Gladstone AI , abordado pela primeira vez por TIME , relatório , Em uma postagem no X , existencial , apontou , clipe de papel maximizador , uma questão muito profunda e interessante.” , escreveu no X , Bureau de Segurança Internacional e Não Proliferação, ação política para evitar riscos extremos ,