Meta identifica redes que promovem conteúdo enganoso provavelmente gerado por IA.
O Meta (META.O) afirmou na quarta-feira que identificou conteúdo “provavelmente gerado por IA” sendo usado de forma enganosa em suas plataformas Facebook e Instagram. Isso inclui comentários elogiosos à maneira como Israel lidou com a guerra em Gaza, publicados abaixo de postagens de organizações de notícias globais e legisladores dos EUA. A empresa de mídia social revelou em seu relatório de segurança trimestral que as contas envolvidas se passavam por estudantes judeus, afro-americanos e outros cidadãos preocupados, direcionando especificamente o público nos Estados Unidos e Canadá. A campanha foi atribuída à empresa de marketing político STOIC, sediada em Tel Aviv.
Embora o Meta tenha encontrado fotos de perfil básicas geradas por inteligência artificial em operações de influência desde 2019, o relatório é o primeiro a divulgar o uso de tecnologia de IA generativa baseada em texto desde que surgiu no final de 2022.
Pesquisadores estão preocupados que a IA generativa, que pode produzir rapidamente e de forma econômica textos, imagens e áudios semelhantes aos humanos, possa levar a campanhas de desinformação mais eficazes e influenciar eleições.
Em uma conferência de imprensa, executivos de segurança do Meta disseram que removeram a campanha israelense precocemente e não acreditam que as novas tecnologias de IA tenham impedido sua capacidade de interromper redes de influência, que são tentativas coordenadas de promover mensagens. Os executivos disseram que não viram tais redes utilizando imagens geradas por IA de políticos realistas o suficiente para serem confundidas com fotos autênticas.
O relatório destacou seis operações de influência encobertas que o Meta interrompeu no primeiro trimestre. Além da rede STOIC, o Meta desativou uma rede sediada no Irã focada no conflito entre Israel e Hamas, embora não tenha identificado nenhum uso de IA generativa nessa campanha.
