Em maio, o TikTok anunciou que iria rotular automaticamente o conteúdo gerado por IA em sua plataforma. Isso não é verdade, porém, para todas as versões do aplicativo. A novo relatório da Mozilla Foundation e a AI Forensics descobre que a versão Lite-Save Data do TikTok, destinada a usuários em mercados mais pobres, não apenas deixa o conteúdo gerado por IA sem rótulo, mas também carece de outras proteções semelhantes.
“A rotulagem é uma tática muito importante que as plataformas usam para fornecer alguma forma de confiança e segurança”, diz Odanga Madung, um membro da Mozilla e coautor do relatório.
Usuários da versão completa do TikTok, por exemplo, verão rótulos indicando que o conteúdo é gráfico ou retrata comportamento perigoso. Alguns conteúdos sobre tópicos como eleições e saúde, similarmente, incluem um aviso encorajando os usuários a acessar informações confiáveis por meio de um “hub de recursos” no aplicativo.
No TikTok Lite, nenhuma dessas proteções está presente. Entre outras coisas, isso significa que com conteúdo enganoso gerado por IA um problema nas eleições em todo o mundo, os usuários em mercados mais pobres estão recebendo menos informações sobre o que é falso e o que é real do que os usuários em mercados mais ricos.
Madung questiona por que, de todos os recursos que poderiam ser cortados para otimizar o aplicativo, a empresa incluiu aqueles que tornam a plataforma mais segura para os usuários. “Não sabemos se isso é uma escolha ou se é apenas negligência”, diz ele.
“Há várias imprecisões factuais neste relatório que fundamentalmente deturpam nossa abordagem à segurança”, disse um porta-voz do TikTok em uma declaração. “O fato é que o conteúdo que quebra nossas regras é removido do TikTok Lite da mesma forma que nosso aplicativo principal e oferecemos vários recursos de segurança.” A empresa se recusou a apontar quaisquer imprecisões específicas.
As versões lite dos aplicativos têm sido há muito tempo uma forma das empresas aumentarem a participação de mercado em áreas onde os usuários estão sujeitos a altos custos de dados ou só podem pagar por telefones menos avançados. Em 2015, Meta, depois Facebook, lançou o Facebook Liteuma versão simplificada de seu aplicativo que era mais compatível com redes de dados 2G. No mesmo ano, também lançou o Free Basicsque permitiu que usuários no Sul Global acessassem a plataforma e certos outros sites sem serem cobrados pelo uso de dados. (Um aplicativo ou serviço que atende a esses critérios é chamado de “zero-rateado”.) Na época, o projeto enfrentou críticas generalizadas, particularmente na Índia, por criar uma experiência de segunda categoria para clientes mais pobres.
TikTok lançado sua versão Lite em 2018 na Tailândia, e rapidamente se expandiu para outros mercados no Sudeste Asiático, incluindo Indonésia, Malásia e Filipinas. O aplicativo, que ao contrário da versão completa do TikTok pode rodar em redes 2G e 3G, agora tem mais de 1 bilhão de downloadsde acordo com dados da Google Play Store. (O TikTok Lite está disponível apenas para celulares Android.)
“A maioria dos usuários no Sul Global é de baixa renda e com recursos limitados”, diz Payal Arora, professora de culturas de IA inclusivas na Universidade de Utrecht. Versões lite de aplicativos ajudam as empresas a colocar essas pessoas a bordo, algo que ela diz ser ainda mais crítico do que foi no passado porque “dados são moeda neste mercado impulsionado e faminto por IA”.
