Integração de IA nas redes sociais provoca debates sobre autenticidade e impacta sociedade

IA transforma fotos de férias fake em fenômeno cultural e desafio para confiança na realidade

No universo das redes sociais, é comum rolar o feed e se deparar com fotos de amigos ou influenciadores em cenários paradisíacos, como Paris, Caribe ou Disney, sempre com semblantes de encantamento. Porém, atualmente, essa realidade virtual também é construída por aplicativos de inteligência artificial (IA) que geram imagens de pessoas em destinos que nunca pisaram, confundindo espectadores.

O boom das imagens criadas por inteligência artificial

Aplicativos de IA vêm ganhando popularidade ao produzir fotos hiper-realistas, muitas vezes sem a necessidade de uma câmera ou viagem real. Esses recursos, que inicialmente criaram filtros no estilo Studio Ghibli ou retratos de infância, agora movimentam uma onda de imagens que simulam experiências turísticas, sem qualquer indicação de manipulação tecnológica.

Ferramentas e comunidades de criatividade digital

Um exemplo é o Endless Summer, lançado em outubro na Apple Store, que permite gerar fotos de férias fictícias a partir de uma selfie e comandos em texto, chamados de prompts. Com a modalidade gratuita de três imagens, o aplicativo já gerou mais de 30 mil fotos em um mês, vendendo pacotes de até 300 imagens por R$ 299,90.

Usuários também recorrem ao ChatGPT ou ao Gemini AI para criar outros tipos de imagens, muitas vezes compartilhando prompts em comunidades no Facebook, como o “AI Prompt Party”, com mais de 460 mil membros. Nesse grupo, é comum ver fotos de viagens em lugares como as pirâmides do Egito ou a Muralha da China, sempre com prompts públicos para quem desejar reproduzir a estética.

O perfil cultural das manipulações visuais

Especialistas apontam que a facilidade de criar imagens por IA impacta a cultura digital contemporânea, mais do que a “falsidade” em si. Segundo o antropólogo David Nemer, a busca por visibilidade, que se tornou uma forma de capital simbólico, faz com que a imagem criada seja mais uma narrativa pessoal do que um registro real de experiências.

“O valor não está no que você viveu, mas no que consegue mostrar”, explica Nemer. A manipulação de fotos amplia a escala de sonhos e desejos, reforçando uma lógica de comparação, onde quem domina melhor as ferramentas tem maior capacidade de criar imagens convincentes, aumentando desigualdades.

Desafios para autenticidade e confiança

Com o avanço dos modelos de IA, detectar imagens geradas artificialmente se torna cada vez mais difícil. Sinais como assimetrias no olhar, reflexos estranhos e texturas de pele pouco naturais podem indicar uma produção digital, mas a evolução da tecnologia tende a diminuir esses rastros.

Ronaldo Lemos, diretor do Instituto de Tecnologia e Sociedade do Rio, reforça a necessidade de criar padrões de transparência, como o uso de metadados verificáveis, para rastrear a origem das imagens. Ainda assim, a sensação de “sonhar por um instante” ainda se mantém, mesmo quando a foto é claramente uma criação artificial.

O impacto social e as implicações éticas

O uso de IA para criar fotos falsas revela uma relação complexa com a autoimagem. Assim como os filtros de aplicativos, as imagens geradas por IA funcionam como status e narrativa, muitas vezes reforçando desigualdades de acesso e literacia tecnológica. Pessoas com maior repertório digital conseguem manipular melhor essas ferramentas, enquanto outras ficam vulneráveis a julgamentos ou ilusão de autenticidade.

Por outro lado, há riscos ligados à privacidade e ao uso indevido de dados biométricos, além da possibilidade de criar deepfakes e golpes com imagens e voz falsificadas. A explicitação de que uma foto foi produzida por IA e a transparência na origem do conteúdo tornam-se essenciais para evitar a desinformação e fraudes.

Visões futuras e desafios regulatórios

Para o pesquisador Ricardo Lemos, é importante estabelecer padrões mínimos de regulação, como os padrões C2PA, que inserem metadados verificáveis nas imagens, garantindo rastreabilidade. Ainda assim, o ritmo acelerado do desenvolvimento tecnológico desafia o cenário regulatório, que emerge de forma mais lenta.

“Estamos caminhando para um mundo onde a noção de realidade se fragiliza, pois as imagens não mais refletem o real, mas versões sintéticas de um mundo digital”, avalia. Assim, a sociedade precisará desenvolver novos sinais de confiança e mecanismos de validação para navegar nesse novo ambiente visual.

Fonte: GLOBO

Com informações do Jornal Diário do Povo