O Google suspende a capacidade do Gemini de gerar pessoas após inúmeras imprecisões de ‘acordar’

À luz do recente alvoroço desencadeado pela revelação de que nosso recém-introduzido chatbot de IA, Gemini, tem produzido conteúdo visual anacrônico e errôneo, incluindo representações dos fundadores dos EUA com cores de pele diferentes e dos cofundadores do Google retratados como asiáticos, decidimos tomar medidas imediatas desativando a capacidade do bot de criar retratos de indivíduos até novo aviso.

Já estamos trabalhando para resolver problemas recentes com o recurso de geração de imagens do Gemini. Enquanto fazemos isso, pausaremos a geração de imagens de pessoas e relançaremos uma versão melhorada em breve. https://t.co/SLxYPGoqOZ

— Comunicações do Google (@Google_Comms) 22 de fevereiro de 2024

O Google indicou que está empenhado em responder às preocupações expressas pela sua base de utilizadores em relação ao recurso descontinuado e pretende restaurá-lo no futuro.

O que deu errado com Gêmeos?

De acordo com capturas de tela de interações compartilhadas por líderes tecnológicos, escritores e usuários em geral do Gemini, o chatbot gera imagens de pessoas de cor e etnias diferentes, mesmo em casos de contexto histórico em que não são aplicáveis, como gerar papas católicos negros (nunca houve foi um deles), dando aos vikings uma pele escura (a maioria não a tinha) e fazendo os soldados alemães nazistas parecerem asiáticos (a maioria não era).

Vários modelos de inteligência artificial de geração de imagens são comumente ajustados para minimizar preconceitos e promover a inclusão, embora a geração padrão de diversidade excessivamente extensa do Google com seu projeto Gemini tenha gerado polêmica entre alguns críticos que questionaram o compromisso da gigante da tecnologia em lidar com preconceitos, enquanto outros recorreram ao ridículo e assédio on-line.

À luz das inúmeras bandeiras levantadas pelos usuários na plataforma, Jack Krawczyk, Diretor Sênior de Produto do Google, emitiu uma declaração via X, reconhecendo o problema e assegurando ao público que esforços estão em andamento para corrigi-lo.

Reconhecemos que certos aspectos das nossas imagens geradas podem não refletir com precisão as suas contrapartes históricas e estamos abordando ativamente essas discrepâncias com urgência.

Como parte de nossos princípios de IA https://t.co/BK786xbkey, projetamos nossos recursos de geração de imagens para refletir nossa base global de usuários e…

-Jack Krawczyk (@JackK) 21 de fevereiro de 2024

O indivíduo expressou que a organização pretende levar em conta as características únicas de casos passados, mantendo ao mesmo tempo a ênfase na variedade na geração de respostas para informações mais ambíguas, como representações de indivíduos interagindo com seus animais de estimação, a fim de representar com precisão a composição demográfica diversificada de sua comunidade mundial de usuários.

De acordo com nossas diretrizes de Inteligência Artificial, desenvolvemos nossos recursos de geração de imagens para representar com precisão a composição diversificada de nossa população de usuários internacionais. Além disso, reconhecemos a importância da justiça e da imparcialidade a este respeito e esforçamo-nos por minimizar quaisquer potenciais distorções que possam surgir nos nossos algoritmos.

Ainda assim, a questão atraiu uma avalanche de críticas de usuários e líderes tecnológicos proeminentes, incluindo os capitalistas de risco Marc Andreessen e Paul Graham, e levantou um debate mais amplo sobre se os chatbots de IA, como o Gemini, poderiam ser confiáveis ​​para serem verdadeiros ou se eram excessivamente censuradores no nome. de padrões modernos de diversidade e igualdade. A questão penetrou até mesmo além da indústria de tecnologia, aparecendo hoje na primeira página do jornal local da cidade de Nova York, The this site:

Não é a ‘era de Gêmeos’ que o Google esperava

Deve-se mencionar que, embora o Google se esforce para resolver o assunto em questão, é importante notar que este incidente com Gemini não é uma ocorrência isolada e também rendeu manchetes desfavoráveis ​​no passado.

A estimada empresa anunciou a introdução da sua linha inovadora Gemini em meio a uma expectativa significativa em dezembro de 2023, embarcando posteriormente em uma campanha ambiciosa para estabelecer a “era Gemini” na vanguarda da inovação. Notavelmente, o Google elogiou os modelos Gemini como precursores em inteligência artificial, fazendo comparações favoráveis ​​com a tecnologia de ponta GPT-4 da OpenAI, líder do setor, que também sustenta nosso próprio sistema ChatGPT.

A Gemini inicialmente enfrentou críticas por seu vídeo promocional, que deturpava suas habilidades como um assistente digital avançado equipado para lidar com conversas complexas e facilitar as tarefas diárias. No entanto, avaliações subsequentes conduzidas por analistas imparciais revelaram que o desempenho do Gemini ficou atrás do modelo anterior da Open AI, GPT-3.5.

A empresa passou recentemente por uma reformulação de marca, renomeando seu popular chatbot de Bard para Gemini, estreando uma iteração mais robusta do aplicativo, disponível exclusivamente para membros pagantes. Além disso, renovou e reintroduziu o Duet AI com um novo nome, Gemini for Workspace, atendendo especificamente às necessidades de colaboração no local de trabalho.

As versões mais recentes do Gemini, 1.5 e Advanced, prometiam ser muito mais poderosas. Exemplos anedóticos de usuários indicam que a versão mais recente do chatbot possui recursos impressionantes, especialmente com análise e resumo de vídeo, bem como análise de vários documentos usando seu contexto extremamente longo. No entanto, estas capacidades podem ser ofuscadas pela controvérsia actual e contínua.

Numa declaração escrita por Krawczyk, ele enfatizou a importância de identificar e resolver imprecisões na geração de imagens como parte do processo de feedback iterativo. Embora esta abordagem possa ser benéfica, a recorrência contínua de tais problemas pode dificultar a capacidade do Google de afirmar que a sua oferta de inteligência artificial Gemini é superior em comparação com outras da mesma categoria.

*️⃣ Link da fonte:

https://t.co/SLxYPGoqOZ, 22 de fevereiro de 2024 , nunca foi um , a maioria não tinha , a maioria não era , https://t.co/BK786xbkey , 21 de fevereiro de 2024 , Marc Andreessen , Paul Graham , Exemplos anedóticos de usuários , analisando vários documentos ,