Indonésia suspende Grok após escândalo de imagens pornográficas falsas

A Indonésia anunciou, neste sábado (10), a suspensão temporária do Grok, assistente de inteligência artificial da plataforma de Elon Musk, após escândalos envolvendo a criação de imagens pornográficas falsas de pessoas despidas. A medida foi tomada por preocupação com os riscos de conteúdo ilegal e violações de direitos humanos no espaço digital.

Imagens eróticas e lapsos de salvaguardas

Segundo informações, o Grok foi utilizado para gerar imagens envolvendo pessoas reais, criadas a partir de fotos ou vídeos solicitados pelos usuários, que eram levadas à desnudez de forma artificial. Esses casos geraram protestos globais e uma forte reação das autoridades locais. Para entender as acusações, clique aqui.

O governo indonésio justificou a decisão afirmando que a medida visa proteger mulheres, crianças e o público em geral dos riscos de conteúdos pornográficos falsos, gerados por tecnologia de inteligência artificial. A ministra das Comunicações e Digitalização, Meutya Hafid, declarou que a suspensão é uma ação para evitar danos e promover um ambiente digital mais seguro.

Grok desativa ferramenta de desnudar pessoas para usuários não pagantes

Para conter o problema, a equipe do Grok anunciou a desativação de uma ferramenta que permitia a despir pessoas, restrita agora a assinantes pagos. A mudança foi uma resposta às críticas e ao aumento de denúncias de uso indevido do assistente. Segundo dados, o Grok gera cerca de 85 vezes mais imagens de pessoas sexualizadas por hora do que outros sites similares.

Reações internacionais e críticas

Divulgadores e organismos internacionais criticaram duramente a alteração, especialmente no Reino Unido, onde a situação causou revolta. Keir Starmer, porta-voz do governo britânico, afirmou que a estratégia de transformar uma funcionalidade de criação de conteúdo ilegal em serviço premium é um \”insulto às vítimas de misoginia e violência sexual\”.

Na União Europeia, a Comissão Europeia já declarou que as mudanças feitas pelo Grok foram consideradas insuficientes, reforçando a demanda por medidas mais rigorosas na regulação do uso de inteligência artificial. Para mais detalhes, acesse a matéria completa.

Impactos e futuros passos

A suspensão na Indonésia marca um alerta importante para reguladores e empresas de tecnologia mundialmente, considerando os riscos do uso irresponsável de inteligência artificial. Autoridades mexicanas, europeias e de outros países também monitoram a situação, reforçando a necessidade de legislações mais rígidas contra o uso de deepfakes e conteúdos gerados por IA sem consentimento.

Com informações do Jornal Diário do Povo