Muitos conteúdos gerados por IA foram usados para expressar apoio ou fandom de determinados candidatos. Por exemplo, um vídeo gerado por IA de Donald Trump e Elon Musk dançando a música “Stayin’ Alive” dos BeeGees foi compartilhado milhões de vezes nas redes sociaisinclusive pelo senador Mike Lee, um republicano de Utah.
“É tudo uma questão de sinalização social. São todas as razões pelas quais as pessoas compartilham essas coisas. Não é IA. Estamos vendo os efeitos de um eleitorado polarizado”, diz Bruce Schneier, tecnólogo de interesse público e professor da Harvard Kennedy School. “Não é como se tivéssemos eleições perfeitas ao longo da nossa história e agora, de repente, existe IA e tudo é desinformação.”
Mas não se engane – aí eram deepfakes enganosos que se espalharam durante esta eleição. Por exemplo, nos dias que antecederam as eleições no Bangladesh, deepfakes circularam online encorajando apoiantes de um dos partidos políticos do país a boicotar a votação. Sam Gregory, diretor de programa da organização sem fins lucrativos Witness, que ajuda as pessoas a usar a tecnologia para apoiar os direitos humanos e administra um programa de detecção de resposta rápida para organizações da sociedade civil e jornalistas, diz que sua equipe viu um aumento nos casos de deepfakes este ano.
“Em vários contextos eleitorais”, diz ele, “houve exemplos de uso real enganoso ou confuso de meios de comunicação sintéticos em formato de áudio, vídeo e imagem que confundiram os jornalistas ou não lhes foi possível verificar ou contestar totalmente. ” O que isto revela, diz ele, é que as ferramentas e sistemas actualmente em vigor para detectar meios gerados por IA ainda estão atrasados em relação ao ritmo de desenvolvimento da tecnologia. Em locais fora dos EUA e da Europa Ocidental, estas ferramentas de detecção são ainda menos confiáveis.
“Felizmente, a IA de formas enganosas não foi usada em grande escala na maioria das eleições ou de formas cruciais, mas é muito claro que existe uma lacuna nas ferramentas de detecção e no acesso a elas para as pessoas que mais precisam delas”, diz Gregory. “Este não é o momento para complacência.”
A própria existência de meios de comunicação sintéticos, diz ele, significa que os políticos têm sido capazes de alegar que os meios de comunicação social reais são falsos – um fenómeno conhecido como o “dividendo do mentiroso”. Em agostoDonald Trump alegou que as imagens que mostram grandes multidões participando de comícios pela vice-presidente Kamala Harris foram geradas por IA. (Não eram.) Gregory diz que, numa análise de todos os relatórios enviados à força de resposta rápida deepfake da Witness, cerca de um terço dos casos foram de políticos que usaram IA para negar provas de um evento real – muitos deles envolvendo conversas que vazaram.
