Utilizadores do Twitter provam discriminação do algoritmo
A situação foi reconhecida por uma colaboradora da rede social.
© Shutterstock
Tech Twitter
Um engenheiro de nome Tony Arcieri levou a cabo uma pequena experiência no Twitter para provar que o algoritmo da rede social é capaz discriminar com base na cor de pele em fotografias.
Arcieri fez uma publicação na sua página pessoal com duas imagens com o ex-Presidente dos EUA Barack Obama, e o senador e líder do Partido Republicano no Senado, Mitch McConnell. Como pode comprovar abaixo, apesar de as duas fotografias terem os dois políticos trocados, o algoritmo foca-se exclusivamente em McConnel. Mais ainda, Arcieri mostrou que o algoritmo só se foca em Obama quando as cores são invertidas e a cor de pele deixa de ser uma questão.
A situação acabou por ser reconhecida por uma colaboradora do Twitter, Liz Kelley. “Obrigado a todos que levantaram esta questão. Antes de lançar este modelo fizemos testes à procura de discriminação e não encontrámos provas de discriminação por raça ou por género mas é claro que temos mais análises para fazer. Vamos abrir o nosso trabalho para que outros possam analisá-lo e replicá-lo”, pode ler-se na resposta de Kelley.
A ideia ao disponibilizar parte do algoritmo do Twitter para uma maior diversidade 'developers' é torná-lo menos parcial a certos tipos de questões, seja cor de pele, género, orientação sexual e até ideologia política.
thanks to everyone who raised this. we tested for bias before shipping the model and didn't find evidence of racial or gender bias in our testing, but it’s clear that we’ve got more analysis to do. we'll open source our work so others can review and replicate. https://t.co/E6sZV3xboH
— liz kelley (@lizkelley) September 20, 2020
Let's try inverting the colors... (h/t @KnabeWolf) pic.twitter.com/5hW4owmej2
— Tony “Abolish (Pol)ICE” Arcieri (@bascule) September 19, 2020
Descarregue a nossa App gratuita.
Oitavo ano consecutivo Escolha do Consumidor para Imprensa Online e eleito o produto do ano 2024.
* Estudo da e Netsonda, nov. e dez. 2023 produtodoano- pt.com