sesgo algorítmico

Sesgo algorítmico: Sistemas cuyas predicciones benefician sistemáticamente a un grupo de individuos frente a otro, resultando así injustas o desiguales.

Algorithmic bias: Systematic and repeatable errors in a computer system that create unfair outcomes, such as privileging one arbitrary group of users over others.

Contexto: Los ejemplos de sesgo algorítmico adquirido a través de los datos son variados y muchas veces tienen que ver con bases de datos que no representan en realidad al conjunto de la población.

Context: It has been shown that algorithmic bias can be detected even when the algorithm developer has no intention of discrimination and even when the recommendation system does not take demographic information as input.

Sinónimo: -

Synonym: -

Variantes formales: -

Formal variants: algorithm bias

Referencias: Ferrante, E. (2021). Inteligencia Artificial y sesgos algorítmicos ¿Por qué deberían importarnos?. Nueva Sociedad, (294), 29. https://static.nuso.org/media/articles/downloads/1.TC_Ferrante_294.pdf 

Sources: (1) Algorithm Bias. (2021, 23 septiembre). Florida State University Libraries: Research Guides. https://guides.lib.fsu.edu/algorithm ; (2) Kharitonova, Y. (2021). Artificial Intelligence's algorithmic bias: ethical and legal issues. doi: 10.17072/1995-4190-2021-53-488-515 ; (3) Autonomous Weapon Systems: Understanding Learning Algorithms and Bias – UNODA. (2023, 20 junio). https://disarmament.unoda.org/update/auto-weapon-systems-understanding-learning-algorithms-and-bias/