Uma experiência levada a cabo por utilizadores do Twitter mostra que o algoritmo da plataforma é racista. Colocando na mesma imagem uma pessoa negra e outra branca, a inteligência artificial por detrás desta rede social parece privilegiar a pessoa branca, independentemente do fundo ou das características da roupa, por exemplo.
A experiência apresenta fotos do senador Mitch McConnell e do antigo presidente Barack Obama. Ambos estão de fato, mas com gravatas de cores diferentes, por exemplo, levando algumas pessoas a questionar se a explicação para este fenómeno não estaria nesses pormenores. Tony “Abolish (Pol)ICE” Arcieri procedeu, por isso, a várias alterações para tentar comprovar que a pessoa negra fica sempre para segundo plano.
«O Twitter é apenas um exemplo de racismo a manifestar-se em algoritmos de machine learning», afirma o responsável da experiência. Nos comentários, multiplicam-se as críticas ao Twitter, bem como outros exemplos de situações em que o mesmo acontece: quando confrontado com pessoas de cores de pele diferentes, o algoritmo decide destacar o individuo com a pele mais clara.
O Twitter reconhece que a rede neuronal que alimenta o algoritmo tem alguns problemas e que, por vezes, até identifica rostos em imagens onde nem sequer estão pessoas. «Esta é uma questão muito importante. Para lidar com ela, analisámos o nosso modelo quando o lançámos, mas precisa de melhorias contínuas», escreve Parag Agrawal, director de Tecnologia, do Twitter.
