X sob investigação no Reino Unido por uso indevido do chatbot Grok

A empresa controlada por Elon Musk, X, foi alvo de investigação no Reino Unido após denúncias de que usuários solicitaram ao chatbot de inteligência artificial Grok a produção de imagens sexualizadas de mulheres e crianças. O caso gerou forte repercussão e ativou a atenção de autoridades britânicas e de organizações de proteção infantil.

Imagens sexualizadas e lapsos na segurança do IA Grok

Segundo relatos de ativistas e especialistas, usuários conseguiam enviar fotos ao Grok e solicitar que o chatbot “removesse roupas” ou criasse versões sexualizadas, incluindo imagens envolvendo menores. Em alguns casos, essas solicitações eram atendidas pelo sistema, o que acendeu o alerta internacional. Entenda a acusação sobre sexualização de menores contra o Grok, a IA do X.

A plataforma chegou a ocultar o recurso de geração de imagens após a repercussão, mas fontes indicam que usuários ainda poderiam solicitar conteúdo ilegal diretamente ao chatbot, segundo as investigações.

Reação das autoridades britânicas e ações em andamento

A agência reguladora de mídia do Reino Unido, Ofcom, anunciou que entrou em contato com X e sua divisão de inteligência artificial, a xAI, para avaliar possíveis violações às leis de segurança online no país. Segundo um porta-voz do órgão, “combater danos ilegais online e proteger crianças continuam sendo prioridades urgentes”.

O órgão solicitou esclarecimentos formais às empresas, e uma avaliação será feita para decidir se uma investigação aprofundada será aberta. Segundo a legislação britânica, criar ou compartilhar imagens íntimas sem consentimento — incluindo deepfakes produzidos por IA — constitui crime, com penas previstas na lei.

Posicionamento de Elon Musk e medidas de controle

Elon Musk afirmou que qualquer pessoa que utilize o Grok para gerar conteúdo ilegal estará sujeita às mesmas consequências aplicadas a quem publica material ilícito na plataforma. A conta de segurança da empresa revelou que o X remove conteúdos ilícitos, suspende permanentemente contas envolvidas e colabora com autoridades sempre que necessário.

Perspectivas futuras e riscos da inteligência artificial

Especialistas alertam que, mesmo com medidas de controle, a possibilidade de uso indevido de IA para produzir conteúdos ilegais representa um grande desafio. As autoridades continuam monitorando o caso e aguardam as respostas formais do X e da xAI para tomar medidas adicionais, conforme previsto na legislação do Reino Unido.

Mais detalhes sobre o caso podem ser consultados na reportagem do O Globo.

Com informações do Jornal Diário do Povo