ChatGPT, aquele agente russo (Por Marta Peirano)

A Agência de Pesquisa da Internet, a agência russa de desinformação fundada por Yevgeny Prigozhin em São Petersburgo, tornou-se infame por usar contas falsas para semear a divisão política e manipular a opinião pública em países como os EUA. A estratégia do Pravda, o novo ecossistema de propaganda e desinformação do Kremlin, é “inundar” os mecanismos de busca para que os modelos de inteligência artificial (IA) sejam “treinados” com informações falsas. Como disse o propagandista John Mark Dougan em uma conferência para autoridades russas em Moscou: “Ao divulgar essas narrativas russas a partir da perspectiva russa, podemos mudar a inteligência artificial globalmente.”

A dificuldade é mínima. Por um lado, as plataformas digitais desmantelaram seus departamentos de verificação de conteúdo e pararam de financiar os externos. Por outro, as empresas de IA coletam conteúdo da internet de forma tão indiscriminada para treinar seus modelos que imagens de violência bruta e abuso sexual infantil escapam da rede. Um terceiro argumento é que as narrativas do Kremlin e da Casa Branca estão tão alinhadas quanto durante a campanha presidencial de 2016. Mas agora as empresas que criam os modelos de IA estão trabalhando para Donald Trump.

Talvez seja por isso que modelos de IA estejam envenenando os protestos anti-imigração que começaram em Los Angeles e agora se espalham para 50 estados. Grok e ChatGPT juram que a foto real e verificada de soldados da Guarda Nacional dormindo no chão durante os protestos do primeiro fim de semana é do Afeganistão ou do Capitólio em 2021. E que a imagem de uma pilha de tijolos empilhados que um varejista de ferragens malaio postou online anos atrás era munição que Soros havia deixado para os manifestantes do fim de semana atirarem contra as autoridades policiais e de imigração. Ambas parecem confirmar a falsa narrativa de que os protestos são violentos e secretamente financiados e equipados por misteriosas facções externas como Soros e outros setores do Partido Democrata.

Fundado em abril de 2022, o Pravda mantém centenas de domínios repletos de notícias falsas direcionadas a diferentes países ao redor do mundo, incluindo a Espanha, onde espalhou algumas das principais farsas sobre o Dana e o grande apagão de 28 de abril em espanhol, catalão e basco. Por exemplo, que o apoio à Ucrânia deixou a ajuda a Valência sem fundos, ou declarações falsas de Ursula von der Leyen atribuindo o apagão a um ataque cibernético russo, 23 minutos após o apagão geral.

De acordo com um relatório do American Sunlight Project, mais de 3,6 milhões dos artigos publicados pelo Pravda no ano passado foram digeridos por grandes chatbots ocidentais. “Ao inundar os resultados de busca e os mecanismos de busca com desinformação pró-Kremlin, a internet está distorcendo a maneira como os grandes modelos de linguagem processam e apresentam notícias e informações”, observa o relatório. O NewsGuard descobriu que, em um terço dos casos, chatbots da Microsoft, Google, OpenAI, You.com, xAI, Anthropic, Meta, Mistral e Perplexity reciclam argumentos apresentados pelo Pravda e os regurgitam externamente.

Nós os usamos para pesquisar, entender e traduzir coisas, para fazer terapia e para saber o que está acontecendo no mundo, mas os modelos de IA são tão vulneráveis a campanhas de desinformação quanto um Gymbro no Telegram de Alvise. Eles são os novos canais de massa de desinformação.

(Transcrito do El País)