Brinquedos com IA geram polêmica com riscos de segurança

Brinquedos que utilizam inteligência artificial generativa, como ursinhos de pelúcia que dão conselhos e respondem perguntas, têm causado preocupação após incidentes de fala inadequada, incluindo temas explícitos. Criadores destacam medidas de segurança reforçadas para garantir a confiabilidade e proteção dos usuários.

Controvérsia e medidas de segurança em brinquedos com IA

Um exemplo recente é o caso do ursinho Kumma, que foi retirado do mercado após falar sobre facas e sexo explícito, o que gerou forte reação do público e órgãos de defesa do consumidor. Leia mais sobre o incidente.

A resposta das empresas e avanços na IA

A startup singapuriana FoloToy, responsável pelo Kumma, admitiu que o modelo de IA utilizava palavras que uma criança não deveria ouvir, mas reforçou que melhorias estão sendo implementadas. Segundo Wang Le, CEO da companhia, a atualização para versões mais sofisticadas, como GPT-5, visa evitar respostas inadequadas, garantindo maior segurança. “Se uma pergunta imprópria for feita, o brinquedo não responderá ou dirá que não sabe”, afirmou.

Outros brinquedos e regulações

Outros dispositivos, como o Grok da Curio, também passam por avaliação. Ele é certificado pela organização KidSAFE, que verifica conformidade com padrões de proteção infantil nos Estados Unidos, e consegue recusar perguntas consideradas indevidas para crianças de cinco anos. A empresa trabalha para fazer ajustes diante das preocupações levantadas pelo estudo do PIRG, órgão que destaca riscos de coleta de dados e uso indevido de informações.

Preocupações de especialistas e futuras regulamentações

Para a professora de psicologia Kathy Hirsh-Pasek, a regulamentação desses brinquedos é fundamental para proteger as crianças. “Regulamentamos tudo que pode ser perigoso, então por que não regulamentar esses brinquedos?”, questiona. Ela acredita que, com a devida atenção, os brinquedos com IA podem beneficiar crianças a partir de três anos, mas alerta para a pressa no lançamento de novos produtos no mercado.

Perspectivas e desafios do setor

Empresas como a turca Elaves, que desenvolve o personagem Sunny, e a americana Olli, que incorpora recursos de IA em brinquedos do cotidiano, reforçam o compromisso com a segurança, limitando o tempo de conversa e alertando os pais sobre conteúdo inadequado. Acionistas e pesquisadores defendem a implantação de regulamentações mais rígidas para evitar riscos futuros e garantir o uso responsável da tecnologia.

Para saber mais detalhes sobre a discussão em torno de brinquedos com IA e as ações das empresas, acesse a matéria completa.

Com informações do Jornal Diário do Povo