¿Los algoritmos matemáticos reflejan nuestros defectos?

En EEUU se utiliza un software que trabaja sobre algoritmos matemáticos para predecir el riesgo de criminalidad en una persona a los fines de otorgar menor o mayor tiempo de pena y, al parecer, es tendenciosa hacia negros.

"El sesgo en puntajes de riesgo criminal es matemáticamente inevitable, dicen los investigadores El análisis de ProPublica de los prejuicios contra los demandados de raza negra en los puntajes de riesgo criminal ha llevado a la investigación a demostrar que la disparidad se puede abordar, si los algoritmos se centran en la equidad de los resultados."

Notas:

https://www.propublica.org/article/bias-in-criminal-risk-scores-is-mathematically-inevitable-researchers-say

https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing