Kate Ruane, diretora do projeto de liberdade de expressão do Centro para Democracia e Tecnologia, diz que a maioria das principais plataformas tecnológicas agora têm políticas que proíbem a distribuição não consensual de imagens íntimas, com muitas das maiores plataformas concordando com princípios para combater deepfakes. “Eu diria que na verdade não está claro se a criação ou distribuição não consensual de imagens íntimas é proibida na plataforma”, diz Ruane sobre Termos de serviço do Telegramque são menos detalhados do que outras plataformas tecnológicas importantes.
A abordagem do Telegram para remover conteúdo prejudicial tem sido criticada há muito tempo por grupos da sociedade civil, com a plataforma historicamente hospedando golpistas, grupos de extrema direitae conteúdo relacionado ao terrorismo. Desde que o CEO e fundador do Telegram, Pavel Durov, foi preso e cobrado na França em agosto, relacionado a uma série de possíveis ofensas, o Telegram começou a fazer algumas alterações em seu termos de serviço e fornecer dados às agências de aplicação da lei. A empresa não respondeu às perguntas da WIRED sobre se proíbe especificamente deepfakes explícitos.
Execute o dano
Ajder, o pesquisador que descobriu bots deepfake do Telegram há quatro anos, diz que o aplicativo está quase exclusivamente posicionado para abuso de deepfake. “O Telegram fornece a funcionalidade de pesquisa, permitindo identificar comunidades, chats e bots”, diz Ajder. “Ele fornece a funcionalidade de hospedagem de bots, portanto é um lugar que fornece as ferramentas em vigor. Então é também o lugar onde você pode compartilhá-lo e realmente causar o dano em termos do resultado final.”
No final de setembro, vários canais deepfake começaram a postar que o Telegram havia removido seus bots. Não está claro o que motivou as remoções. Em 30 de setembro, um canal com 295 mil assinantes postou que o Telegram havia “banido” seus bots, mas postou um novo link de bot para os usuários usarem. (O canal foi removido depois que a WIRED enviou perguntas ao Telegram.)
“Uma das coisas que é realmente preocupante em aplicativos como o Telegram é que eles são muito difíceis de rastrear e monitorar, especialmente do ponto de vista dos sobreviventes”, diz Elena Michael, cofundadora e diretora do #NotYourPorn, um grupo de campanha que trabalha para proteger as pessoas. de abuso sexual baseado em imagens.
Michael diz que tem sido “notoriamente difícil” discutir questões de segurança com o Telegram, mas observa que houve algum progresso da empresa nos últimos anos. No entanto, ela diz que a empresa deveria ser mais proativa na moderação e filtragem do próprio conteúdo.
“Imagine se você fosse um sobrevivente que tivesse que fazer isso sozinho, certamente o fardo não deveria recair sobre um indivíduo”, diz Michael. “Certamente o fardo deveria recair sobre a empresa para implementar algo que seja proativo em vez de reativo.”
