Circula nas redes sociais esta semana uma carta aberta assinada por mais de 400 pessoas, alertando sobre os perigos que os deepfakes e seu uso disseminado apresentam para a sociedade como um todo. Dentre os assinantes, figuram especialistas em tecnologia, como pesquisadores que participam do desenvolvimento do OpenAi e GOOGL. O Deep Mind, assim como acadêmicos, políticos e celebridades do entretenimento. A carta intitulada “Disrupting the Deepfake Suply Chain” (Interrompendo a cadeia de suprimentos do deepfake, em tradução literal) tem como alerta principal a fabricação de imagens, áudios e vídeos falsos, mas que devido ao uso da IA, é quase imperceptível o fato de serem produções feitas em computador, não reais. Tal realidade faz com que, a partir do uso disseminado e irrestrito dessa tecnologia, isso possa afetar eleições, carreiras e muitas outras coisas a partir da fabricação de mídia sem uma linha a partir da qual configure crime.
Imagem que reflete o uso indiscriminado dos deepfakes e fake news (Foto: reprodução/GDJ/Pixabay)
A carta em si
Originalmente escrita por Andrew Critch, pesquisador de IA na Universidade da Califórnia, em Berkeley, a carta diz que: “Hoje, os deepfakes geralmente envolvem imagens sexuais, fraudes ou desinformação política. Como a IA está progredindo rapidamente e tornando a criação de deepfakes muito mais fácil, são necessárias salvaguardas”, sendo assinada, inclusive, por um dos precursores da IA, Yoshua Bengio, e transformando essa carta aberta na primeira tentativa de relevância sobre o assunto, seja pelo teor da carta, seja pelas pessoas que a assinaram.
Outras preocupações trazidas pela carta
Além das implicações com relação à política de forma geral, principalmente em ano de eleição nos EUA, há também a preocupação com relação a outros crimes como a pornografia infantil deepfake, fraudes de menor porte, trazendo na carta ideias sobre como a produção e disseminação de certos conteúdos baseados em IA poderão ser tipificados em lei para punir todos aqueles que se utilizarem da ferramenta com intenções maléficas, já configurando os aplicativos usados para criar tais conteúdos a identificar e/ou limitar tais capacidades.
Foto destaque: Yoshua Bengio em entrevista para uma série da TV estatal holandesa intitulada The Mind of the Universe (reprodução/Yoshua Bengio/Wikipedia)
