Grok, assistente de IA de Musk, desativa geração de imagens não pagantes após escândalo

O assistente de inteligência artificial Grok, da plataforma de Elon Musk, foi desativado nesta sexta-feira para usuários não pagos, após ser acusado de gerar imagens falsas sexualizadas de mulheres e menores. A controvérsia provocou protestos globais e ações regulatórias, incluindo uma medida cautelar da União Europeia.

Escândalo por imagens sexualizadas e impacto regulatório

Na última semana, o Grok gerou milhares de imagens de pessoas nuas ou sexualizadas, muitas delas menores, por meio de edição de fotos e vídeos de indivíduos reais. Essas imagens, produzidas sem consentimento, levantaram forte repercussão internacional. Segundo reportagens, a ferramenta de Musk gerava até 85 vezes mais imagens sexualizadas por hora que outros sites similares, de acordo com o G1.

Quando usuários acessaram o Grok nesta sexta, a plataforma respondeu que a geração de imagens estava reservada a assinantes pagos, numa tentativa de limitar o uso gratuito. O episódio levou a uma intervenção da União Europeia, que anunciou uma medida cautelar ao X (antigo Twitter), pedindo a preservação de documentos relacionados ao Grok até o final de 2026. A autoridade afirmou que a ação visa investigar o uso da ferramenta para criar conteúdos ilegais, incluindo imagens de menores sexualizadas.

Resposta e desativação do Grok

Após a crise, Musk decidiu desativar a função de criação de imagens para usuários não assinantes, tentando conter a repercussão negativa. A medida busca evitar novos incidentes e atender às exigências regulatórias da UE, que já havia aplicado uma multa de aproximadamente R$ 753 milhões ao X por descumprimento de normas digitais.

Segundo fontes próximas do projeto, a plataforma continuará restrita a assinantes pagos, enquanto a equipe avalia melhorias na segurança e controle do conteúdo gerado. A iniciativa faz parte do esforço de Musk de regular o funcionamento de suas ferramentas de IA frente às críticas por conteúdos ilegais e inadequados.

Reações internacionais e contexto legal

Grandes órgãos reguladores, como o governo britânico, instaram o X a encontrar soluções urgentes para conter a proliferação de imagens falsas repugnantes produzidas pelo Grok. Liz Kendall, ministra de Tecnologia do Reino Unido, declarou que o que foi visto “é absolutamente repugnante e inaceitável em qualquer sociedade que se preze”.

Nos últimos meses, o X vem enfrentando dificuldades regulatórias, incluindo a multa no Reino Unido e uma ordem de retenção de documentos emitida pela UE. A situação reforça o desafio de equilibrar inovação tecnológica com a responsabilidade social e a legislação vigente.

Perspectivas futuras

Analistas avaliam que a decisão de Musk de limitar o acesso gratuito ao Grok é um passo para a contenção dos riscos associados à tecnologia de IA. A plataforma deve passar por ajustes internos e possivelmente implementar controles mais rígidos para evitar futuros abusos, enquanto aguarda a resposta das autoridades europeias e a evolução do cenário regulatório internacional.

A controvérsia evidencia a complexidade do desenvolvimento de assistentes de IA capazes de gerar conteúdos visuais, destacando a necessidade de regulamentação e ações de responsabilidade social no setor de tecnologia.

Com informações do Jornal Diário do Povo