O gerador de imagens do Meta tem problemas com (alguns) casais e amigos mestiços

Aparentemente, o gerador de imagens do Meta luta com o conceito de casamento misto.

Num artigo recente publicado nesta plataforma, a jornalista Mia Sato relata os seus esforços para gerar uma representação de um indivíduo de ascendência asiática oriental ao lado de um parceiro caucasiano. Ao longo de inúmeras tentativas abrangendo “dezenas de tentativas”, ela procurou produzir visualizações plausíveis de um par inter-racial inserindo frases como “homem do Leste Asiático e cônjuge branco” ou “cavalheiro do Leste Asiático e senhora caucasiana em sua cerimônia nupcial”.

Observou-se que o algoritmo empregado pela plataforma Meta no Instagram gera representações visuais sucessivas representando dois indivíduos de ascendência asiática. Contudo, vale ressaltar que esse desfecho ocorreu apenas esporadicamente. Além disso, quando o modelo de aprendizagem automática conseguiu fornecer um resultado apropriado, como uma “mulher asiática acompanhada pelo seu parceiro caucasiano”, o resultado gerado foi considerado abaixo do ideal, produzindo uma imagem de um cavalheiro mais maduro no lugar de um homem mais jovem. indivíduo, e apresentando uma mulher oriental de pele clara.

Esta descoberta é o inverso do recente e embaraçoso “despertar” do Google Gemini: em Fevereiro, apenas dois meses após o seu lançamento, descobriu-se que o chatbot estava a fornecer imagens de mulheres papas católicas, soldados nazis asiáticos ou fundadores negros dos EUA. Depois que centenas de pessoas acessaram o Twitter para postar resultados absurdos e historicamente imprecisos, o Google suspendeu completamente a capacidade do Gemini de gerar pessoas e emitiu um pedido público de desculpas.

Sato referiu-se às suas descobertas como “notáveis”, afirmando que “transcender as fronteiras categóricas é fácil na realidade e inatingível dentro da plataforma de inteligência artificial da Meta. Além disso, em vez de promover a criatividade, a IA generativa muitas vezes confina-a às restrições das normas sociais e dos processos de pensamento convencionais.

Infelizmente, parece que a Meta não conseguiu fornecer uma resposta à consulta deste site sobre a sua posição sobre o assunto em questão.

Reforçando estereótipos e preconceitos em torno do tom de pele

Sato experimentou vários dados textuais, mas não encontrou nenhuma melhoria na sua eficácia ao substituir termos como “branco” por “caucasiano”. Além disso, ele descobriu que o sistema de geração de imagens relutava em gerar representações de relacionamentos platônicos.

Ao receber perguntas como “Homem asiático acompanhado por um companheiro caucasiano”, “Uma mulher asiática na companhia de um indivíduo branco” ou “Uma reunião composta por uma mulher asiática ao lado de uma pessoa de ascendência africana”, o sistema de IA retornou consistentemente imagens visuais representações apresentando duplas ou grupos asiáticos.

este site este site

O modelo de IA da Meta parecia perpetuar suposições tendenciosas em relação ao tom de pele. Quando questionado sobre “mulher asiática”, o algoritmo gerou imagens de indivíduos com pele mais clara, predominantemente associadas ao Leste Asiático. Além disso, o sistema aderiu inadvertidamente a estereótipos culturais e incluiu trajes tradicionalmente indianos, como bindis ou sarees, sem ser especificamente solicitado a fazê-lo.

A representação de um casal no dia do casamento exibia um traje feminino que combinava elementos de um qipao (roupa tradicional chinesa) e de um quimono (vestuário japonês), criando uma fusão desses dois estilos distintos.

“O multiculturalismo é incrível”, escreve Sato secamente.

Além disso, o chatbot parecia perpetuar preconceitos em torno da idade, apresentando consistentemente imagens que retratavam homens asiáticos idosos próximos de mulheres asiáticas muito mais jovens, provocando uma sensação de surpresa e potencial insensibilidade cultural.

Não reflete os casamentos, a diversidade da população asiática

O desenvolvimento da inteligência artificial foi moldado tanto pelas informações que encontra como pelas perspectivas inerentes dos responsáveis ​​por nutrir o seu crescimento. Esta observação foi rapidamente destacada por indivíduos que utilizam a plataforma do Twitter.

Obviamente, o casamento mestiço não é novidade, mesmo que, pelo menos nos EUA, só seja legal há pouco mais de 50 anos, após a decisão histórica do Supremo Tribunal de Loving v.

De acordo com as estatísticas mais recentes, 17% dos casamentos nos EUA são entre pessoas de diferentes raças ou etnias. Além disso, cerca de três em cada dez recém-casados ​​asiáticos (29%) têm um cônjuge de raça ou etnia diferente. (E, ironicamente ou não, o fundador da Meta, Mark Zuckerberg, é um homem branco casado com uma mulher asiática, Priscilla Chan.)

Sato salienta que, nos meios de comunicação ocidentais, “asiático” é uma descrição genérica dos asiáticos orientais, embora o continente seja enorme e multicultural, com uma população de cerca de 5 milhões (representando 60% da população mundial).

Talvez não seja surpreendente que a tecnologia de reconhecimento facial da Meta exiba uma tendência para perceber os indivíduos oriundos do continente asiático como sendo homogéneos, dada a vasta diversidade entre aqueles que se identificam com esta designação e que partilham apenas em virtude da marcação de uma determinada categoria demográfica num determinado grupo. formulário do censo.

*️⃣ Link da fonte:

Gerador de imagens da Meta , pedido de desculpas público , Loving v. Virginia , A partir das últimas estatísticas, 5 milhões ,