Malásia inicia ações contra X e IA de Musk por conteúdos nocivos

A Comissão de Comunicações e Multimídia da Malásia informou nesta terça-feira (13) que começará processos judiciais contra o X e a empresa de inteligência artificial de Elon Musk, a xAI. A medida ocorre após repetidas falhas em garantir a segurança dos usuários diante do uso de ferramentas que geram conteúdo ofensivo e sexualizado, incluindo menores.

Falhas na remoção de conteúdo ofensivo e riscos à segurança

Segundo o órgão regulador, o X foi solicitado a remover materiais inadequados nos dias 3 e 8 de janeiro, mas nenhuma ação corretiva foi tomada. A malásia reforça que essa negligência ameaça a segurança de seus cidadãos, especialmente de crianças e adolescentes.

“Essa ação diz respeito à falha em garantir a segurança dos usuários na Malásia em relação ao uso do Grok”, afirmou o órgão regulador em comunicado divulgado nesta terça-feira. A comissão também destacou que o uso reiterado do Grok para gerar imagens obscenas, sexualmente explícitas, indecentes, grosseiramente ofensivas e manipuladas sem consentimento, incluindo conteúdo envolvendo mulheres e menores, motivou a intervenção.

Reforço às restrições e reação internacional

Além da Malásia, a Indonésia também decidiu suspender temporariamente o uso do Grok, citando o uso reiterado da ferramenta para criar imagens impróprias. No domingo passado, o governo indonésio anunciou a suspensão, que se soma ao esforço malásio por proteger seus cidadãos de conteúdos nocivos na internet.

Medidas globais contra o conteúdo gerado por IA

Globally, reguladores de diversos países já começaram a adotar medidas restritivas contra plataformas de redes sociais e IA, visando combater a circulação de imagens e conteúdos impróprios. No Brasil, por exemplo, o Conselho Administrativo de Defesa Econômica (Cade) abriu inquérito contra a Meta e suspendeu novos termos de uso do WhatsApp relacionados à inteligência artificial.

“A responsabilidade não pode ser descartada quando salvaguardas sistêmicas falharam”, afirmou o órgão regulador malásio, reforçando a necessidade de maior controle sobre as plataformas digitais, especialmente quando há risco à integridade e segurança de menores.

Reações e próximas ações contra o X e a xAI

Até o momento, o X não respondeu a pedidos de comentários enviados por e-mail. A resposta da xAI, por sua vez, foi: “A mídia tradicional mente”.

Após críticas de reguladores internacionais e internas, a xAI começou a restringir o recurso de geração de imagens na última sexta-feira, passando a exigir assinatura paga para o uso da ferramenta. Tal medida visa reduzir a produção de conteúdos potencialmente ofensivos inicialmente oferecidos de forma gratuita com limites diários.

Implicações e contexto global

Reguladores ao redor do mundo continuam atentos às ações de plataformas de IA. No Reino Unido, por exemplo, uma investigação foi aberta para apurar a circulação de imagens geradas por IA com conteúdo sexual de caráter ilegal. A Malásia, por sua vez, reforça sua postura de proteção aos grupos mais vulneráveis, enfrentando desafios significativos na regulação dessas novas tecnologias.

Para mais informações sobre o desdobramento dessa crise e as ações globais, acesse este link.

Com informações do Jornal Diário do Povo