10 ‘turcos mecânicos’ modernos: quando a automação é apenas um ser humano disfarçado

A implementação da tecnologia “Just Walk Out” pela Amazon foi descontinuada na terça-feira, apesar do fato de o sistema de checkout automatizado depender dos serviços de 1.000 indivíduos localizados na Índia. Este incidente serve como ilustração de casos em que os avanços tecnológicos foram revelados como sendo apenas um disfarce para a utilização do trabalho humano-um conceito referido como “O Turco Mecânico”.

O ilustre Turco Mecânico de 1770 foi um engano notório, disfarçado como uma avançada engenhoca automatizada de jogo de xadrez, capaz de derrotar até mesmo os oponentes humanos mais habilidosos na competição. Esta maravilha atraiu imenso fascínio e admiração em vários continentes, cativando o público com as suas habilidades aparentemente mágicas. Infelizmente, depois de muita investigação, foi revelado como um estratagema astuto, em que um campeão de xadrez altamente proficiente foi secretamente escondido dentro da engenhoca, manipulando os seus movimentos nos bastidores.

Esta ideia surgiu novamente no início de 1800 na Inglaterra, mas de uma forma diferente. Como Brian Merchant descreve em seu livro Blood in the Machine, os fabricantes de roupas na Inglaterra foram substituídos por novas máquinas “automatizadas” introduzidas por seus empregadores. No entanto, embora estas máquinas não exigissem um artesão qualificado, ainda precisavam de crianças pequenas (órfãs) para operá-las. Portanto, eles não eram totalmente automatizados, embora tenham criado um produto barato e pior, que exigia o trabalho de fabricantes de roupas qualificados, que ficaram conhecidos como “luditas”.

Na contemporaneidade, a era da inteligência artificial testemunhou exemplos notáveis ​​de automação. Por outro lado, também surgiram uma infinidade de automações ilusórias. No meio da corrida pela inovação, as empresas tecnológicas esforçam-se por se posicionar na vanguarda, implementando prematuramente tecnologias de IA. Como resultado, inúmeras organizações recorrem ao emprego de sistemas de IA falsos, aumentados por trabalho humano.

Na verdade, existem dez casos contemporâneos em que o disfarce da automação desmente o envolvimento de seres humanos, o que pode ser considerado como uma manifestação moderna do conceito de “Turco Mecânico”.

A Amazon descontinuou recentemente o serviço “Just Walk Out” em sua rede de supermercados, que anteriormente era oferecido pela Amazon Fresh. Este conceito inovador contou com sistemas tecnológicos avançados compostos por scanners e câmeras que calculavam automaticamente as compras dos clientes quando eles entravam na loja, retiravam seus itens e saíam, sem nunca ter que interagir com o caixa ou passar pelos caixas tradicionais. A implementação desta solução de ponta marcou um marco significativo na evolução das experiências de compras no varejo, oferecendo conveniência perfeita para os consumidores e ao mesmo tempo mostrando o potencial das tecnologias emergentes para revolucionar a forma como fazemos compras.

Na verdade, a Amazon aproveitou os esforços de uma força de trabalho substancial composta por mais de 1.000 associados baseados na Índia para alcançar este feito notável. Notavelmente, durante o ano de 2022, aproximadamente 70 por cento das transações Just Walk Out exigiram o escrutínio destes associados humanos. Contrariamente à sua imagem pública avançada como uma tecnologia autónoma, parece que todo o processo poderia ser essencialmente reduzido a um grupo de trabalhadores offshore monitorizando e catalogando itens colocados nos sacos de compras dos clientes através de videovigilância.

A Presto Voice, empresa especializada em serviços de “automação drive-thru”, forneceu recentemente suas soluções inovadoras para importantes redes de fast food, como Carl’s Jr., Chili’s e Del Taco. Por meio de seus recursos avançados de inteligência artificial, os clientes agora podem experimentar processos de pedidos contínuos, evitando os tradicionais atendentes de drive-thru. Essa abordagem inovadora busca agilizar as operações e otimizar a satisfação do cliente.

Arquivos recentes da Securities and Exchange Commission (SEC) revelaram que aproximadamente 70% dos pedidos processados ​​pelo Presto envolveram intervenção humana. A empresa utilizou funcionários externos localizados nas Filipinas para transcrever as solicitações dos Clientes e inseri-las frequentemente no sistema informático dos Restaurantes. No entanto, isto representou mais um exemplo de táticas de marketing enganosas, em que estes funcionários remotos foram falsamente retratados como personificações de uma automação genuína.

Em 2015, o Facebook introduziu um assistente digital alimentado por inteligência artificial chamado M, que foi integrado à sua plataforma de mensagens, permitindo aos usuários interagir com o sistema através de comandos de linguagem natural. Este assistente virtual tinha a capacidade de realizar diversas tarefas como reservar lugares de cinema, fornecer informações sobre as condições meteorológicas atuais e encomendar refeições em restaurantes próximos. O desenvolvimento deste agente conversacional de IA não envolveu qualquer forma de tecnologia generativa; em vez disso, baseava-se apenas em algoritmos e entradas de dados predefinidos.

Havia um sistema de IA muito antigo em desenvolvimento em torno de M, mas principalmente o assistente era apenas operadores humanos intervindo e executando tarefas para as pessoas. A ideia era que, eventualmente, M se tornasse inteligente o suficiente para operar de forma independente, mas isso nunca aconteceu. M só foi lançado para um pequeno grupo de testadores beta porque o Facebook não podia “se dar ao luxo de contratar operadores para o mundo inteiro para serem seus assistentes pessoais”.

Você deve se lembrar daquela impressionante demonstração do Gemini em dezembro de 2023. Ela mostrou como a IA do Gemini poderia supostamente decifrar entradas de vídeo, imagem e áudio em tempo real. Foi uma demonstração impressionante que quatro meses depois ainda não está nem perto da realidade. Então o que aconteceu?

O referido vídeo foi manipulado através de alterações como aceleração e edição. Além disso, a intervenção humana desempenhou um papel importante ao fornecer longas dicas textuais e visuais para gerar respostas de Gêmeos. Apesar de ter sido lançado oficialmente, as capacidades do Gemini são limitadas e incapazes de resolver questões controversas como fez durante a demonstração.

A plataforma Amazon referida como “Turco Mecânico” serve como uma alusão ao conceito histórico de autómatos humanos, refletindo adequadamente o seu propósito de facilitar a terceirização de tarefas que desafiam as capacidades computacionais contemporâneas. Estas tarefas abrangem uma vasta gama de atividades, incluindo a anotação de imagens e o desenvolvimento de inteligência artificial, ao mesmo tempo que abordam a necessidade crítica de moderação de conteúdos.

Os indivíduos podem receber apenas um cêntimo pela execução de determinadas tarefas, predominantemente aquelas que envolvem o envolvimento humano num processo que de outra forma seria automatizado. Lamentavelmente, houve casos relatados de indivíduos envolvidos em tais trabalhos que foram submetidos a conteúdos perturbadores ou obrigados a transcrever informações confidenciais, incluindo imagens gráficas e números de segurança social.

Em 2017, a renomada plataforma online Amazon Mechanical Turk passou por uma utilização notável pela Expensify, uma conceituada entidade de relatórios de despesas. Este aplicativo inovador facilitou aos usuários capturar imagens de seus recibos e enviá-los para reembolso. O aspecto marcante deste processo reside no seu mecanismo de verificação automática, que garantiu que as despesas apresentadas obedecessem às diretrizes predefinidas estabelecidas pela organização do usuário. Além disso, o sistema categorizou e armazenou perfeitamente esses relatórios no repositório designado, agilizando assim todo o processo.

A Expensify utilizou um grupo de profissionais qualificados de seu departamento de segurança para lidar com despesas que não podiam ser processadas automaticamente. No entanto, houve casos em que estes especialistas humanos foram substituídos por indivíduos recrutados através da plataforma Mechanical Turk da Amazon. Esta revelação foi trazida à luz por vários utilizadores do Twitter que descobriram recibos indicando que dados sensíveis, incluindo detalhes de cartão de crédito, identificação pessoal, informações de endereço e pedidos de refeições, tinham sido potencialmente visualizados por pessoal não autorizado. Até que ponto isso ocorreu permanece incerto no momento.

Antes de X.ai ser a empresa de IA de Elon Musk, a startup de IA tinha uma história difícil. Em 2016, a X.ai ofereceu assistentes virtuais que tinham acesso à sua agenda e podiam se corresponder com você por e-mail. No entanto, por trás de cada e-mail estava um ser humano, incluindo um jovem de 24 anos que conversou com Bloomberg.

Num caso em que os indivíduos se disfarçavam de inteligência artificial, trocavam correspondência através de e-mails, marcavam compromissos em plataformas de agendamento e, além disso, obtinham pedidos de alimentos para os clientes. Notavelmente, a organização afirmou que o sistema de IA ainda estava em desenvolvimento, mas na realidade exibia funcionalidade mínima, com operadores humanos executando os feitos mais notáveis.

O Google já havia utilizado seus recursos computacionais para analisar a correspondência dos usuários no Gmail, a fim de gerar anúncios direcionados por meio de um processo conhecido como digitalização. Apesar de ter assumido o compromisso de cessar esta prática, a organização continuou a delegar a tarefa de extrair dados dos utilizadores a operadores humanos externos que estavam contratualmente obrigados a respeitar os padrões de confidencialidade e privacidade.

Funcionários da Edison Software contaram ao Wall Street Journal em 2018 como revisaram pessoalmente centenas de e-mails de usuários para criar novos recursos. Outras empresas permitiram que os funcionários lessem e-mails para treinar software e desenvolver outras ferramentas de marketing.

Um especialista referiu-se à prática como uma verdade tácita dentro da indústria, em que os seres humanos estão envolvidos no ato de examinar as correspondências eletrônicas dos indivíduos. Este é considerado um fenômeno prevalente por aqueles que estão familiarizados com o assunto e é reconhecido como “uma realidade” na área.

Elizabeth Holmes, ex-CEO e fundadora da Theranos, foi presa devido ao seu envolvimento em um ato significativo de fraude relacionado à tecnologia de exames de sangue de sua empresa. A Theranos afirmou ter desenvolvido um sistema automatizado inovador capaz de avaliar com precisão o bem-estar de uma pessoa através da análise de uma pequena quantidade de sangue obtida por picada no dedo.

Em retrospectiva, o tão alardeado avanço tecnológico na automatização dos testes sanguíneos revelou-se uma falácia, desprovido de qualquer substância tangível. Apesar de realizarem apresentações perante líderes da indústria farmacêutica, os supostos inovadores por trás da Theranos recorreram secretamente ao uso de equipamento de laboratório externo durante estas exposições. Esta charada monumental está entre os casos mais flagrantes de fraude corporativa já documentados, levando a sua fundadora, Elizabeth Holmes, a ser condenada e presa por onze anos em 2023.

Mesmo as empresas modernas de IA não estão isentas desse comportamento. Por trás da Scale AI, a startup de US$ 7 bilhões com sede em São Francisco, estão 10.000 trabalhadores remotos nas Filipinas treinando seus modelos, de acordo com o The Washington Post. Esses trabalhadores garantem que os modelos de inteligência artificial funcionem com precisão. Eles rotulam milhares de imagens como vários políticos e celebridades, editam trechos de texto e treinam modelos de vídeo para identificar vários objetos.

A formação de plataformas contemporâneas de inteligência artificial (IA) necessita de um elemento humano substancial, que pode ser simultaneamente trabalhoso e exigente em termos das condições de trabalho suportadas pelos envolvidos. Muitos indivíduos que contribuem para este processo são compensados ​​a taxas abaixo do padrão, apesar do seu papel crucial na definição do desenvolvimento de tecnologias de IA utilizadas por organizações proeminentes como Meta, Microsoft e OpenAI.

*️⃣ Link da fonte:

Blood in the Machine, o assistente era apenas operadores humanos intervindo e realizar tarefas para pessoas, demonstração impressionante do Gemini , falou com Bloomberg. , Wall Street Journal em 2018, The Washington Post ,