Estudo aponta aumento na criação de deepfakes de pornografia com mulheres com uso de IA

Um estudo do Oxford Internet Institute (OII), da Universidade de Oxford, no Reino Unido, apontou que a facilitação do uso de ferramentas de inteligência artificial (IA) tem contribuído para o aumento na criação de imagens de deepfake, principalmente envolvendo imagens íntimas não consensuais de mulheres.

Os pesquisadores identificaram quase 35 mil softwares de deepfake disponíveis para download público. Esses programas conseguem gerar imagens de uma pessoa em cerca de 15 minutos a partir de 20 fotos de referência. Há modelos criados para replicar imagens de celebridades e outros que se baseiam em informações de perfis de pessoas comuns nas redes sociais.

De acordo com o estudo publicado no início de maio, 96% dessas ferramentas são utilizadas para replicar imagens de mulheres, incluindo famosas e não famosas, principalmente da China, Coreia, Japão, Reino Unido e Estados Unidos.

As imagens geradas muitas vezes são marcadas com termos como “pornô”, “sexy” ou “nu”.

“Existe uma necessidade urgente de proteções técnicas mais robustas, políticas de plataforma mais claras e aplicadas de forma mais proativa, além de novas abordagens regulatórias para lidar com a criação e a distribuição desses modelos de IA prejudiciais”, afirmou Will Hawkins, autor principal do estudo.