Usuários de mídia social têm, recentemente, manipulado a imagem e a voz de âncoras de notícias reconhecidas por meio de inteligência artificial (IA) para criar notícias falsas sensacionalistas. Tais práticas ocorreram de forma global e despertaram a atenção das autoridades, especialmente na véspera das eleições estadunidenses de 2024. Deepfakes de jornalistas consagrados, como Anne-Marie Green, da CBS, e Norah O’Donnell, foram usados em vídeos que apresentavam notícias fabricadas, mas convincentemente reais.
A TikToker Krishna Sahay empregou essa tecnologia para gerar notícias, ganhando notoriedade e causando controvérsias. Um dos seus vídeos deepfake acumulou mais de 300 mil curtidas no TikTok, superando amplamente os vídeos originais dos meios de comunicação.
O impacto dessas falsificações na percepção pública tornou-se um problema sério, especialmente porque as notícias falsas estão alcançando mais público do que as notícias verdadeiras nas plataformas sociais.
Desafio para as plataformas sociais
Empresas como TikTok e YouTube têm políticas contra deepfakes, mas a aplicação dessas regras tem sido um desafio. Enquanto algumas medidas foram tomadas para eliminar ou rotular conteúdo falso, a velocidade com que essas notícias falsas se espalham supera a capacidade de moderação das plataformas. Mesmo com políticas estritas, vídeos de Sahay, por exemplo, permaneceram facilmente acessíveis em diversas plataformas, mesmo após ser banido de algumas delas.
A porta-voz do TikTok Ariane Selliers, e a do YouTube, Elena Hernandez, ressaltaram que suas respectivas plataformas possuem políticas destinadas a conter a disseminação de conteúdos falsos e prejudiciais. Contudo, os esforços ainda são insuficientes para conter uma tendência crescente e potencialmente prejudicial de desinformação usando IA.
Saiba identificar e se prevenir de uma Deep Fake (Vídeo: reprodução/YouTube/Leandro Demori)
Impacto nas eleições e na sociedade
Com as eleições dos Estados Unidos se aproximando, especialistas e autoridades temem que essas práticas possam ser utilizadas de maneira mais direcionada e agressiva. Kevin Goldberg, especialista em Primeira Emenda do Freedom Forum, expressou preocupações sobre o uso de âncoras de notícias reais em campanhas de desinformação destinadas a influenciar os resultados eleitorais de 2024. O perigo de deepfakes é real e abrangente, atingindo personalidades como o ex-presidente Donald Trump e influenciadores digitais como Mr. Beast.
O professor Hany Farid, da Universidade da Califórnia Berkeley, destacou que os vídeos de âncoras de notícias são um meio particularmente eficaz de disseminar desinformação devido à confiança que os espectadores depositam nessas figuras públicas e nos formatos de notícias. Farid aponta a necessidade de uma resposta séria e medidas de proteção contra o uso não autorizado de imagens e vozes de indivíduos.
Foto Destaque: âncora de TV é usada para deepfake nos EUA. Reprodução/Getty Images/Forbes
