Algoritmo que prevê crimes é racista?
Foi verificado que o algoritmo previu incorretamente o dobro dos crimes no caso de indivíduos de raça negra.
© Getty Images
Tech Risco
Algoritmos capazes de apurar a probabilidade de alguém cometer um crime já não são apenas do domínio da ficção científica, sendo utilizados pelo sistema judicial norte-americano para apurar a possibilidade de alguém voltar a cometer um crime. Porém, um destes algoritmos aponta como mais provável um indivíduo de raça negra cometer um crime do que um de raça caucasiana.
A conclusão é da organização sem fins lucrativos ProPublica, que analisou as pontuações de risco de sete mil pessoas presas nos últimos dois anos em Broward County, no estado da Florida, e verificando se haviam sido presas novamente neste mesmo período.
De acordo com o relatório da ProPublica, o algoritmo previu incorretamente o dobro dos crimes no caso de indivíduos negros em relação ao de indivíduos de raça branca. Coloca-se ainda em casa a precisão do algortimo, que teve uma precisão de apenas 20%.
Conta o The Verge que o algortimo foi criado por uma empresa de nome Northpointe, com um processo baseado em questionários onde muitas das perguntas poderão estar relacionadas com raças específicas.
Descarregue a nossa App gratuita.
Oitavo ano consecutivo Escolha do Consumidor para Imprensa Online e eleito o produto do ano 2024.
* Estudo da e Netsonda, nov. e dez. 2023 produtodoano- pt.com