IA Desenfreada? Adolescentes Processam xAI de Elon Musk por Geração de Deepfakes Abusivas

Foto: Imagem gerada por IA

Em um desenvolvimento chocante que abala o cenário da inteligência artificial, a xAI, empresa de IA de Elon Musk, está enfrentando um processo coletivo nos Estados Unidos. Três adolescentes entraram com a ação alegando que o chatbot Grok, uma ferramenta de IA inicialmente disponível gratuitamente na rede social X, foi usado para gerar imagens pornográficas delas a partir de fotos reais. Este incidente ressalta as crescentes preocupações sobre o uso indevido de tecnologias de IA e a necessidade urgente de salvaguardas robustas.

A ação judicial detalha como indivíduos utilizaram o Grok para transformar fotos comuns das jovens, obtidas de redes sociais, em imagens sexualizadas hiper-realistas. Essas "deepfakes" não apenas circularam amplamente em plataformas como X, Discord e Telegram, mas também teriam migrado para a dark web como moeda de troca. As vítimas relatam impactos devastadores, incluindo pesadelos recorrentes, ataques de pânico e a necessidade de medicação para dormir. A denúncia aponta que a xAI teria "projetado deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos", negligenciando proteções essenciais contra pornografia infantil, diferentemente de outros grandes players da indústria.

O processo se insere em um contexto de indignação global pela proliferação de deepfakes de mulheres e crianças no final do ano passado, que já provocou investigações em diversas jurisdições. Um estudo do Center for Countering Digital Hate (CCDH) apontou que o Grok teria gerado cerca de 3 milhões de imagens sexualizadas em apenas 11 dias, com aproximadamente 23.000 delas representando menores de idade. Em resposta ao crescente escândalo, a xAI restringiu a geração de imagens pelo Grok exclusivamente para assinantes em janeiro, uma medida que, para os demandantes, é insuficiente diante da gravidade dos abusos já ocorridos. Este caso levanta questões cruciais sobre a responsabilidade das empresas de IA e a proteção de usuários vulneráveis em um mundo cada vez mais digitalizado.

Fonte original: https://g1.globo.com/tecnologia/noticia/2026/03/17/adolescentes-processam-empresa-de-musk-nos-eua-por-imagens-sexualizadas-geradas-por-chatbot.ghtml