A empresa norte-americana de segurança digital Mandiant disse nesta quinta-feira que viu um aumento no uso de inteligência artificial para conduzir campanhas de manipulação de informações online nos últimos anos, embora o impacto do uso da tecnologia tenha sido limitado até agora.
Pesquisadores da empresa encontraram “vários casos” desde 2019 em que os conteúdos gerados por IA, como fotos de perfil fabricadas, foram usados em campanhas de influência online com motivação política.
Os casos incluem campanhas de grupos alinhados com os governos de Rússia, China, Irã, Etiópia, Indonésia, Cuba, Argentina, México, Equador e El Salvador, disse a empresa.
A pesquisa ocorre em meio a uma recente explosão de modelos de IA generativos, como o ChatGPT, que facilitam a criação de vídeos, imagens, textos e códigos de computador falsos e convincentes. Autoridades de segurança alertaram sobre o uso de tais modelos por cibercriminosos.
A tecnologia permite que grupos com recursos limitados produzam conteúdo de maior qualidade em escala, disseram os pesquisadores da Mandiant.
Uma campanha de informação vinculada ao estado chinês chamada Dragonbridge, por exemplo, se expandiu “exponencialmente” em 30 plataformas sociais e 10 idiomas diferentes desde que começou, visando manifestantes pró-democracia em Hong Kong em 2019, disse Sandra Joyce, vice-presidente da Mandiant Inteligelnce.
No entanto, o impacto de tais campanhas foi limitado. “Do ponto de vista da eficácia, não há muitas vitórias”, disse ela. “Eles realmente não mudaram o curso do cenário de ameaças ainda.”
A Mandiant, que ajuda organizações públicas e privadas a responder a violações digitais, disse que ainda não viu a inteligência artificial desempenhar um papel fundamental nas ameaças da Rússia, Irã, China ou Coreia do Norte.
“Até agora, não vimos uma única resposta a um incidente em que a IA tenha desempenhado um papel”, disse. “Eles realmente não foram levados a nenhum tipo de uso prático que supere o que poderia ser feito com ferramentas normais que vimos.”
No entanto, “podemos estar muito confiantes de que esse será um problema que se agravará com o tempo”, disse Joyce.
