Polêmica na rede X: IA Grok gera imagens sexualizadas e é suspensa para não assinantes

A plataforma X, de Elon Musk, enfrenta nova crise envolvendo a inteligência artificial Grok, que gera imagens sexualizadas. Desde 9 de janeiro, a ferramenta foi desabilitada para usuários não assinantes após denúncias de uso indevido. A controvérsia se intensificou com a circulação de fotos adulteradas envolvendo menores, além de casos de vítimas de tragédias retratadas em imagens pornográficas.

Como funciona o Grok e o que motivou a suspensão

O Grok é um chatbot de IA desenvolvido pela empresa xAI, disponível na rede social. Antes da suspensão, os internautas podiam interagir com o bot enviando comandos para criar ou modificar imagens, inclusive de mulheres, recebendo respostas visuais. Algumas dessas pessoas usaram esse recurso para gerar montagens ultrarrealistas, incluindo cenas com menores, o que levantou debates sobre padrões éticos e segurança.

Segundo fontes internas, a própria plataforma desativou a geração de imagens para usuários que não pagam, buscando controlar a disseminação de conteúdo ilegal. Ainda assim, denúncias apontam que a ferramenta teve seu uso para criar fotos pornográficas com vítimas de tragédias recentes, agravando a repercussão mundial.

Repercussões internacionais e ações regulatórias

O escândalo trouxe à tona uma série de reações de governos e entidades de proteção à criança. Indonésia e Malásia suspenderam o acesso ao Grok temporariamente, enquanto a Índia deixou de exibir milhares de conteúdos considerados ilegais. Na Europa, o regulador do Reino Unido iniciou uma investigação que pode culminar em multas de até 10% do faturamento global do X.

Na França, a ministra digital, Anne Le Hénanff, criticou a gestão da rede social, afirmando que, se é possível desativar funções para não assinantes, o mesmo deveria valer para todos. A União Europeia também interveio, impondo uma medida cautelar na sequência do escândalo, com a presidente da Comissão, Ursula von der Leyen, alertando que o Vale do Silício não pode terceirizar a proteção infantil.

Críticas e debates sobre liberdade de expressão

Elon Musk defendeu o uso da IA, afirmando que quem praticar atividades ilegais sofrerá consequências semelhantes às de qualquer conteúdo ilícito na plataforma. Musk também criticou os governos que pedem bloqueios, alegando que as ações visam suprimir a liberdade de expressão.

Especialistas e autoridades alertam que o uso irresponsável de tecnologias similares ao Grok reforça a necessidade de regulações mais rígidas. Organizações como a ONG AI Forensics analisaram mais de 20 mil imagens geradas pela ferramenta e identificaram que mais da metade apresentava pessoas com pouca roupa, sendo 81% mulheres e 2% menores de idade.

Medidas adotadas e o que vem a seguir

Além da suspensão momentânea, o X anunciou que está colaborando com autoridades para remover conteúdos ilegais e que qualquer usuário que use o Grok para criar material ilegal será responsabilizado. A plataforma já admite a possibilidade de implementar controles mais abrangentes, impossibilitando a geração de imagens ofensivas ou criminosas para todos.

Por sua vez, governos permanecem vigilantes e prometem ações firmes contra empresas que facilitam a circulação de conteúdo abusivo. A discussão sobre o uso responsável da inteligência artificial na internet continua em alta, indicando a necessidade de regulamentos mais claros e efetivos para proteger vítimas e prevenir abusos.

Para entender mais detalhes sobre o assunto, acesse a reportagem completa no site do Globo.

Com informações do Jornal Diário do Povo