OpenAI suspende vídeos gerados de Martin Luther King

De acordo com o jornal The Washington Post, usuários têm feito vários vídeos com inteligência artificial colocando a imagem de Martin Luther King no meio, porém, os conteúdos eram desrespeitosos. Ao saber disso, a OpenAI, criadora do ChatGPT, suspendeu a criação de vídeo com o King. Os usuários utilizam a plataforma Sora, que é a IA responsável pela criação de comandos e vídeos e que foi lançado no final de setembro desse ano, mas não foi lançada ainda no Brasil.

Quais eram os conteúdos

Usuários passaram a gerar vídeos com falas manipuladas ou cenas ofensivas envolvendo Martin Luther King. Nessas cenas ofensivas, tinha uma simulação dele fazendo sons de macaco durante o seu discurso famoso do “Eu tenho um sonho” e provocações em uma luta livre. Esses tipos de vídeos acabaram levando a uma enxurrada de protestos e críticas nas redes sociais e na imprensa. A empresa decidiu, então, por pedido da própria filha do ativista, desativar temporariamente a função até que mecanismos de controle mais robustos sejam desenvolvidos. Além de Martin Luther King, também haviam feito vídeos de Robin Williams, ator que foi morto em 2014, e do famoso John F. Kennedy.

Sora, plataforma da OpenAI (Foto: reprodução/Cheng Xin/Getty Images Embed)

Defesa da OpenAI

Usuários passaram a gerar vídeos com falas. Em comunicado interno, a OpenAI afirmou que está comprometida com usos éticos da inteligência artificial e que enxerga o incidente como um alerta sobre os limites da tecnologia. A empresa garantiu que continuará investindo em filtros e auditorias para impedir que figuras públicas e históricas sejam distorcidas desse modo.

Impactos para usuários e desenvolvedores

A suspensão afeta tanto usuários comuns quanto desenvolvedores e pesquisadores que utilizavam a função para criar vídeos artísticos ou educacionais com Martin Luther King. A OpenAI disse que buscará diretrizes claras para retomar a funcionalidade, só quando for possível garantir que abusos não voltem a ocorrer.