Milhares de pessoas em todo o mundo estão a vender as suas identidades para treinar IA, mas qual é o preço?

Autor: The Guardian

Compilação: Deep潮 TechFlow

Deep潮 leitura: Esta reportagem de investigação revela uma indústria cinzenta em rápido crescimento: milhares de pessoas em todo o mundo ganham dinheiro vendendo a sua voz, rosto, registos de chamadas e vídeos do dia a dia para treinar IA.

Não se trata de uma discussão genérica sobre privacidade, mas de uma investigação com pessoas reais, valores reais e consequências reais — um ator que vendeu o seu rosto viu no Instagram que o seu “eu” estava a promover produtos médicos desconhecidos, e na secção de comentários alguém comentava sobre a sua “aparência”.

Quando a sede de dados das empresas de IA se combina com a disparidade económica global, está a criar-se uma troca desigual.

O texto completo:

Numa manhã do ano passado, Jacobus Louw, que vive na Cidade do Cabo, na África do Sul, saiu de casa para uma caminhada habitual, alimentando gaivotas pelo caminho. Mas desta vez gravou alguns vídeos — mostrando os seus passos na passadeira e a sua visão. Este vídeo rendeu-lhe 14 dólares, cerca de 10 vezes o salário mínimo do país, e equivalente ao gasto de meio semana em comida para este jovem de 27 anos.

Foi uma tarefa de “navegação urbana” na Kled AI. A Kled AI é uma aplicação paga que recompensa os utilizadores por carregarem fotos, vídeos e outros dados para treinar modelos de IA. Em poucas semanas, Louw, ao carregar fotos e vídeos do seu dia a dia, ganhou 50 dólares.

Milhares de quilómetros longe, em Rançei, na Índia, o estudante Sahil Tigga, de 22 anos, ganha regularmente com o Silencio — uma aplicação que recolhe dados de áudio através de crowdsourcing para treinar IA, acessando o microfone do seu telemóvel para captar sons de restaurantes ou cruzamentos movimentados. Ele também envia gravações da sua própria voz. Sahil costuma ir a locais únicos, como halls de hotéis ainda não mapeados pelo Silencio. Com este trabalho, ganha mais de 100 dólares por mês, suficiente para cobrir todas as despesas de alimentação.

Em Chicago, o aprendiz de soldador Ramelio Hill, de 18 anos, vendeu as suas conversas privadas no telemóvel com amigos e familiares à Neon Mobile — uma plataforma de treino de IA conversacional que paga 0,50 dólares por minuto — e ganhou alguns centenas de dólares. Para Hill, a lógica é simples: ele acha que as empresas de tecnologia já têm muitos dos seus dados privados, por isso, por que não tirar partido também?

Estes “trabalhadores temporários de treino de IA” — que carregam cenas do ambiente, fotos, vídeos e áudio — estão na linha da frente de uma nova corrida global por dados. Com a sede de dados de alta qualidade por parte do Silicon Valley a ultrapassar o que se consegue extrair da internet aberta, um mercado de dados florescente surgiu para preencher essa lacuna. De Cidade do Cabo a Chicago, milhares de pessoas estão a ceder as suas características biométricas e dados pessoais de forma quase imperceptível para alimentar a próxima geração de IA.

Mas esta nova economia de trabalho temporário tem um preço. Por alguns dólares, estes treinadores alimentam uma indústria que pode, no futuro, tornar as suas habilidades obsoletas, ao mesmo tempo que se expõem a riscos de deepfakes, roubo de identidade e exploração digital — e ainda estão a começar a perceber isso.

Fazer a engrenagem da IA continuar a girar

Modelos de linguagem como o ChatGPT e o Gemini precisam de imensos dados de treino para melhorar continuamente, mas enfrentam uma escassez de dados. As principais fontes de treino — C4, RefinedWeb e Dolma — representam um quarto dos melhores conjuntos de dados disponíveis na internet, e atualmente limitam as empresas de IA na sua capacidade de treinar modelos. Pesquisadores estimam que, até 2026, as empresas de IA poderão esgotar os textos de alta qualidade disponíveis. Embora alguns laboratórios já tenham começado a usar dados sintéticos gerados por IA para treinar, esse processo recursivo pode gerar “lixo” com erros, levando a falhas no sistema.

Aplicações como a Kled AI e a Silencio entram aqui. Nesses mercados de dados, milhões de pessoas vendem os seus dados de identidade para alimentar e treinar IA. Além da Kled AI, Silencio e Neon Mobile, há várias outras opções: a Luel AI, apoiada pelo incubador Y-Combinator, oferece materiais de diálogo multilingue a cerca de 0,15 dólares por minuto; a ElevenLabs permite criar clones digitais da sua voz, disponíveis por uma taxa base de 0,02 dólares por minuto.

O professor de Economia na University College London, Bouke Klein Teeselink, afirma que o trabalho temporário de treino de IA é uma categoria emergente de emprego que deverá crescer bastante.

As empresas de IA sabem que pagar por dados autorizados ajuda a evitar problemas de direitos de autor que podem surgir ao depender apenas de dados recolhidos na internet, diz Teeselink. O investigador Veniamin Veselovsky acrescenta que estas empresas também precisam de dados de alta qualidade para modelar comportamentos novos e melhorados. “Por agora, os dados humanos são o padrão de ouro para amostrar fora da distribuição do modelo,” acrescenta Veselovsky.

Quem faz estas máquinas funcionar — especialmente as pessoas nos países em desenvolvimento — muitas vezes precisa deste dinheiro, e quase não tem alternativa. Para muitos trabalhadores temporários de IA, esta é uma resposta prática às disparidades económicas. Em países com altas taxas de desemprego e moeda local em depreciação, ganhar dólares é mais estável e lucrativo do que empregos locais. Algumas pessoas, sem acesso a empregos de nível básico, recorrem ao treino de IA para sobreviver. Mesmo em países mais ricos, o aumento do custo de vida torna a venda do próprio rosto uma opção financeira lógica.

Louw, na Cidade do Cabo, conhece bem o custo de privacidade. Apesar de a sua renda ser instável e insuficiente para cobrir todas as despesas mensais, ele aceita estas condições para ganhar dinheiro. Há anos que sofre de problemas neurológicos e não consegue arranjar emprego, mas o dinheiro que ganhou no mercado de dados de IA (incluindo na Kled AI) permitiu-lhe poupar 500 dólares, inscrever-se numa formação de massagem e tornar-se massagista.

“Como sul-africano, receber dólares vale mais do que as pessoas pensam,” diz Louw.

O professor de Geografia da Internet na Universidade de Oxford, Mark Graham, autor do livro “Feed the Machines”, reconhece que, para indivíduos em países em desenvolvimento, este dinheiro pode ter um impacto imediato, mas alerta que “estruturalmente, este trabalho é instável, sem possibilidades de progressão, e na prática, é um beco sem saída.”

Graham acrescenta que o mercado de dados de IA depende de “salários a serem pressionados para baixo” e de uma “necessidade temporária de dados humanos”. Quando essa necessidade mudar, “os trabalhadores não terão garantias, habilidades transferíveis ou redes de segurança.”

Graham afirma que o único vencedor será “o lado do Norte do hemisfério, que captura todo o valor duradouro.”

Autorização total

O trabalhador de IA de Chicago, Hill, tem sentimentos ambíguos ao vender as suas chamadas privadas do telemóvel à Neon Mobile. Cerca de 11 horas de chamadas renderam-lhe 200 dólares, mas ele diz que a aplicação frequentemente fica offline e atrasa pagamentos. “A Neon sempre me pareceu suspeita, mas continuei a usar, só para ganhar uns trocos e pagar as contas,” explica Hill.

Agora, ele começa a questionar se realmente vale a pena. Em setembro do ano passado, a Neon Mobile saiu do ar poucas semanas após o seu lançamento, após o TechCrunch descobrir uma vulnerabilidade de segurança que permitia acesso ao número de telefone, gravações de chamadas e mensagens dos utilizadores. Hill diz que a Neon nunca lhe notificou, e agora está preocupado que a sua voz possa ser usada indevidamente na internet.

Jennifer King, investigadora do Instituto de Privacidade de Dados do Stanford, expressa preocupação de que o mercado de dados de IA não esclarece como os dados dos utilizadores serão utilizados ou onde serão utilizados. Ela acrescenta que, sem conhecer os seus direitos ou poder negociar, “os consumidores correm o risco de os seus dados serem reutilizados de formas que não gostam, não compreendem ou não esperavam, e quase sem possibilidade de recurso.”

Quando os treinadores de IA partilham dados na Neon Mobile e na Kled AI, concedem uma autorização global, exclusiva, irrevogável, transferível e sem royalties, permitindo às plataformas vender, usar, exibir publicamente e armazenar os seus retratos, e até criar obras derivadas.

Avi Patel, fundador da Kled AI, afirma que o acordo de dados da sua empresa limita-se ao treino e investigação de IA. “Todo o modelo de negócio depende da confiança do utilizador. Se os contribuidores acharem que os seus dados podem ser mal utilizados, a plataforma não funciona.” Ele explica que a empresa revisa os compradores antes de vender os conjuntos de dados, evitando colaborar com entidades com intenções duvidosas, como a indústria do entretenimento adulto, ou com “agências governamentais” que possam usar os dados de forma a violar essa confiança.

A Neon Mobile não respondeu a pedidos de comentário.

Enrico Bonadio, professor de Direito na City, University of London, alerta que estes termos permitem às plataformas e aos seus clientes “fazer quase tudo com o material, de forma permanente, sem pagamento adicional, e os contribuintes não têm uma forma real de retirar o consentimento ou renegociar.”

Riscos mais preocupantes incluem o uso dos dados dos treinadores para criar deepfakes e falsificações de identidade. Apesar de o mercado de dados afirmar que remove informações de identificação pessoal (como nomes e localizações) antes de vender, Bonadio acrescenta que as características biométricas, por sua natureza, são difíceis de anonimizar de forma significativa.

Arrependimentos dos vendedores

Mesmo que os treinadores de IA possam negociar condições mais detalhadas de uso dos seus dados, podem vir a arrepender-se. Em 2024, o ator de Nova Iorque Adam Coy vendeu a sua imagem por 1000 dólares à Captions — uma plataforma de edição de vídeos de IA, agora renomeada Mirage. O seu acordo estipulava que a sua identidade não seria usada para fins políticos, nem para promover álcool, tabaco ou conteúdo pornográfico, e tinha uma duração de um ano.

A Captions não respondeu a pedidos de comentário.

Pouco tempo depois, os amigos de Adam começaram a partilhar vídeos que encontraram na internet, nos quais ele aparece com o rosto e a voz, com milhões de visualizações. Num vídeo do Instagram, a sua réplica de IA afirma ser um “médico de vagina”, a promover suplementos médicos não comprovados para grávidas e pós-parto.

“Fazer as pessoas entenderem isso é embaraçoso,” diz Coy.

“Os comentários são estranhos, porque avaliam a minha aparência, mas aquilo não sou eu,” acrescenta. “Quando tomei a decisão de vender o meu rosto, pensei que, como a maioria dos modelos, eles iam buscar dados na internet, por isso, era melhor receber dinheiro por isso.”

Coy afirma que não fez mais trabalhos de treino de IA desde então. Só consideraria voltar a fazê-lo se uma empresa lhe oferecesse uma compensação significativa.