A Meta, a dona do facebook, Instagram e WhatsApp, designa este fenómeno como comportamento inautêntico coordenado: esforços organizados para manipular o debate público, nos quais as contas falsas assumem um papel central. Desde 2017, estas operações já atingiram mais de 100 países, e cerca de dois terços das redes tinham como alvo cidadãos dos próprios países que procuravam influenciar.
A investigadora Camille François propôs a expressão Advanced Persistent Manipulators para descrever os intervenientes mais sofisticados, numa referência aos grupos de ameaças persistentes avançadas, conhecidos no domínio da cibersegurança.
Os sinais que denunciam a coordenação
- Contas criadas em lote, muitas vezes durante a mesma semana.
- Horários de publicação incompactíveis com a localização alegada. Numa rede desmantelada em 2022, as contas publicavam de acordo com o horário da costa leste dos Estados Unidos, e não durante o período laboral dos países que afirmavam representar.
- Textos repetidos, com os mesmos erros, expressões e hashtags.
- Contas que amplificam sobretudo outras contas da mesma rede, com pouca interação de utilizadores reais.
Quando a informação correcta se torna o perigo
Isoladamente, nenhum destes sinais constitui prova. Em conjunto, porém, formam um padrão, semelhante aos indicadores de compromisso (IoC) utilizados numa investigação de cibersegurança.
Em 2022, mais de dois terços das redes desmanteladas pela Meta utilizavam fotografias de perfil criadas por inteligência artificial, com rostos de pessoas inexistentes.
Na altura, havia um indício curioso: quando várias dessas imagens eram sobrepostas, os olhos apareciam exactamente na mesma posição. Com a evolução dos modelos de IA, estas falhas tornaram-se cada vez menos evidentes.
Por essa razão, a detecção depende cada vez mais da análise do comportamento das contas, algo muito mais difícil de falsificar de forma consistente do que uma fotografia de perfil.
Os sistemas de recomendação tendem a favorecer conteúdos que provocam reação, e poucas emoções geram tanta interação como a indignação.
Uma operação de influência não precisa, por si só, de alcançar milhões de pessoas. Basta provocar interação suficiente numa fase inicial para que os mecanismos de recomendação ampliem o alcance do conteúdo.
Na prática, trata-se de explorar uma funcionalidade do sistema, e não uma vulnerabilidade técnica.
A norma C2PA (Coalition for Content Provenance and Authenticity, em português, Coligação para a Proveniência e Autenticidade de Conteúdos) segue uma abordagem diferente: em vez de tentar determinar apenas se um conteúdo é falso, procura comprovar a sua origem.
O conteúdo recebe um hash SHA-256 associado a um manifesto assinado digitalmente. Se houver alterações que não estejam devidamente registadas na cadeia de proveniência, a validação criptográfica deixa de corresponder ao estado original do conteúdo.
Esta abordagem permite verificar a proveniência e o histórico de determinadas alterações, mas tem limitações. Quando as credenciais ou os metadados de proveniência não acompanham o ficheiro ao longo da publicação e distribuição, essa informação pode perder-se. Além disso, a ausência de uma credencial não prova que o conteúdo seja falso. Significa apenas que a sua origem não pode ser confirmada através desse mecanismo.
O que fazer
- Analisar quem publica, quando publica e que padrão segue, em vez de avaliar apenas o conteúdo.
- Dominar técnicas de pesquisa reversa de imagens, análise de metadados e verificação de fontes.
- Proteger as contas oficiais da organização e monitorizar perfis que tentem imitá-las.
- Incluir as operações de influência nos planos de resposta a incidentes, porque uma fuga de dados pode alimentar uma campanha de manipulação semanas ou meses depois.
Para quem trabalha em cibersegurança, a lógica é familiar: ocultar a origem, recorrer a infraestrutura descartável e explorar mecanismos legítimos para atingir um objectivo.
A principal diferença está no alvo. Num ataque informático, o alvo é o sistema. Numa operação de influência, é a percepção de quem o utiliza.
