Reino Unido investiga rede X por imagens sexualizadas geradas por IA

O regulador de comunicações do Reino Unido, Ofcom, anunciou que está investigando a rede social X, pertencente a Elon Musk, por relatos de uso do Grok para criar e compartilhar imagens de pessoas nuas e de caráter sexual infantil. Segundo um comunicado oficial, há denúncias preocupantes de que essas imagens possam configurar atentado ao pudor ou pornografia, incluindo materiais que envolvem menores.

Denúncias e preocupações globais sobre o uso do Grok

Relatos de usuários indicam que o Grok tem sido utilizado após pedidos para despir pessoas reais, a partir de fotos ou vídeos. Essas ações têm gerado protestos ao redor do mundo e levantado questões sobre os riscos de conteúdos ilegais acessados na plataforma. Uma fonte do órgão regulador afirmou que a investigação visa determinar se o X violou suas obrigações legais, incluindo a avaliação do risco de acesso a conteúdos ilícitos por parte de usuários no Reino Unido.

Posição oficial e possíveis sanções

Um porta-voz do primeiro-ministro britânico, Keir Starmer, afirmou que a utilização do Grok para criar imagens ilegais “transforma uma função que permite a criação de imagens em um serviço premium” e representa “um insulto às vítimas de misoginia e violência sexual”. As autoridades podem aplicar multas de até 10% do faturamento mundial da empresa afetada e recorrer ao Judiciário para solicitar o bloqueio do site no Reino Unido.

Medidas para eliminar conteúdos ilegais

A investigação também busca avaliar os riscos que essas imagens representam especificamente para menores de idade britânicos. A Ofcom destacou que uma das ações principais será “eliminar conteúdos ilegais” e reforçar o controle para evitar que esse tipo de material continue acessível na plataforma.

Contexto e repercussões

O caso reforça a preocupação global com o uso de inteligência artificial na criação de conteúdos ilícitos e destaca a necessidade de regulações mais severas para plataformas digitais. Especialistas alertam que a crescente capacidade de gerar imagens realistas pode facilitar a produção de pornografia infantil e outros conteúdos ilegais, exigindo ações rápidas por parte dos órgãos reguladores.

A investigação do Reino Unido está em andamento e, no caso de comprovação de violações, as penalidades podem incluir multas significativas e até o bloqueio do serviço no território britânico. Para mais detalhes, acesse a reportagem da Globo.

Com informações do Jornal Diário do Povo