Twitter reconhece algoritmo que priorizava pessoas jovens e de peles claras

O Twitter anunciou o resultado de uma competição que pretendia identificar as falhas do algoritmo da rede social que cortava fotos da linha do tempo favorecendo pessoas jovens, magras e de pele clara.

Após a denúncia de usuários do Twitter em 2020 de que o algoritmo de corte de imagens priorizava rostos de pele clara em detrimento de pessoas negras, a rede social promoveu uma competição destinada a identificar falhas e tendências do algoritmo de corte. Foi confirmado que seu sistema ocultava o rosto de pessoas negras, idosas e de identidades não-brancas, antes de serem clicadas para abrir em tamanho real. Além disso, o Twitter reconheceu marginalizar pessoas com deficiência e textos com palavras em árabe.

Bogdan Kulynych, um estudante da Escola Politécnica Federal de Lausanne, na Suíça, levou o primeiro lugar e 3.500 dólares. Para decifrar o algoritmo, ele utilizou um programa de inteligência artificial que gerou uma variedade de rostos semelhantes, mas com diferentes combinações de feminilidade, tom de pele e traços faciais. Ao aplicar essas imagens ao algoritmo do Twitter, o estudante conseguiu provar as preferências da máquina.

https://lorena.r7.com/post/Medico-Renato-Lobo-ganha-destaque-no-Instagram-por-mostrar-procedimentos-modernos

https://lorena.r7.com/post/WhatsApp-anuncia-migracao-de-historico-entre-iPhone-e-Android

https://lorena.r7.com/post/Atletico-MG-fecha-contratacao-de-Diego-Costa

"Esse viés poderia resultar na exclusão de populações minoritárias e perpetuação de padrões estereotipados de beleza em milhares de imagens", disse o pesquisador.

(Foto: Reprodução/Twitter)

Outros participantes da competição promovida pela rede social provaram ainda outros efeitos nocivos do algoritmo de corte de imagem. 

• O 2º colocado demonstrou que o sistema ignorava pessoas de cabelos grisalhos, sugerindo um viés com idade; 

• O 3º colocado detectou que o algoritmo favorecia imagens que continham texto em inglês e espanhol, em comparação ao alfabeto árabe;

Os pesquisadores demonstraram ainda que as falhas não se limitavam à idade e a aparência, mas também aos emojis que apresentavam pessoas de pele escura e textos escritos em idiomas como árabe.

Para combater as falhas do algoritmo, o Twitter passou a mostrar as imagens no formato completo, exibindo todo o conteúdo sem recorte.

(Foto destaque: Twitter reconhece algoritmo que priorizava pessoas jovens e de peles claras. Reprodução/ Natanaelginting/Freepik)