Comentários sobre Israel’s guerra conducta em Gaza encontrados em Facebook e Instagram elogiam maneira. Campanhas, influência, redes, operação, segredo, ferramentas, IA, tecnologias, redes sociais, plataformas: Facebook, Instagram.
A empresa de tecnologias Meta revelou na última quarta-feira (29) que identificou conteúdo ‘provavelmente gerado por inteligência artificial’ sendo utilizado de forma enganosa em suas plataformas Facebook e Instagram. Comentários elogiosos sobre a conduta de Israel durante o conflito em Gaza foram encontrados em publicações de organizações de notícias globais e políticos dos Estados Unidos, postados por perfis falsos que se passavam por estudantes judeus e afro-americanos.
No relatório trimestral de segurança, a gigante da IA ressaltou a importância de combater a disseminação de desinformação e manipulação por meio de inteligência artificial. A detecção dessas atividades fraudulentas demonstra a necessidade contínua de aprimorar os mecanismos de segurança cibernética para proteger os usuários das plataformas digitais.
Desafios da IA e Tecnologias na Era da Influência Digital
A campanha mencionada está ligada a uma renomada empresa de marketing político com sede em Tel Aviv denominada STOIC. Até o momento inicial, a STOIC optou por não se pronunciar sobre as acusações. Saiba mais sobre a Deb, uma inteligência artificial antirracista que confrontou Xuxa. Novas propagandas indicam que estamos adentrando em uma nova etapa da IA generativa. Scarlett Johansson expressou sua irritação com a semelhança da voz do ChatGPT com a sua.
Embora a Meta tenha identificado imagens de perfil básicas geradas por IA em operações de influência desde 2019, o recente relatório revelou a utilização de tecnologia de IA generativa baseada em texto, que surgiu no final de 2022. Especialistas temem que a IA generativa, capaz de criar textos e áudios semelhantes aos humanos de forma rápida e econômica, possa potencializar campanhas de desinformação e influenciar processos eleitorais.
Leia também,pode ser do seu interesse:
Durante uma teleconferência com a imprensa, os executivos de segurança da Meta afirmaram ter removido a campanha originária de Israel e não acreditam que as novas tecnologias de IA tenham prejudicado sua capacidade de interromper redes de influência, que consistem em esforços coordenados para disseminar mensagens. Eles relataram não ter encontrado imagens de políticos geradas por IA realistas o suficiente para serem confundidas com fotos autênticas.
‘Há diversas instâncias nessas redes que evidenciam o uso de prováveis ferramentas de IA generativa para criar conteúdo. Isso pode conferir-lhes a capacidade de produzir conteúdo de maneira mais ágil e em maior quantidade. Contudo, não impactou substancialmente nossa capacidade de detecção’, declarou Mike Dvilyanski, chefe de investigações de ameaças da Meta.
O relatório destacou seis operações de influência sigilosas que a Meta desarticulou no primeiro trimestre. Além da rede STOIC, a Meta desmantelou uma rede com sede no Irã focada no conflito entre Israel e Hamas, embora não tenha identificado o uso de IA generativa nessa campanha. Grandes empresas de tecnologia têm se empenhado em lidar com o potencial uso indevido de novas tecnologias de inteligência artificial, especialmente em contextos eleitorais.
Pesquisadores identificaram casos de empresas como OpenAI e Microsoft produzindo imagens geradas por IA contendo desinformação relacionada a eleições, apesar de possuírem políticas contra esse tipo de conteúdo. Essas empresas têm enfatizado a implementação de sistemas de rotulagem digital para marcar conteúdo gerado por IA no momento de sua criação, porém, essas ferramentas ainda não são eficazes em textos, levantando dúvidas sobre sua eficácia.
As eleições da União Europeia no início de junho e dos Estados Unidos em novembro serão testes cruciais para as defesas da Meta diante desses desafios. Facebook, Instagram, inteligência artificial, Meta.
Fonte: © CNN Brasil
