bias

Bias: A phenomenon that occurs when an AI algorithm produces results that are systemically prejudiced due to erroneous assumptions in the machine learning process.

Sesgo: Situación que se produce en los sistemas de inteligencia artificial como consecuencia de la utilización de conjuntos de datos (de entrenamiento o de funcionamiento) que presentan sesgos históricos inadvertidos, lagunas o modelos de gestión incorrectos, con el resultado de que se generan o mantienen prejuicios y discriminaciones contra determinados grupos o personas.

Context: Another major concern is the potential for conscious or unconscious bias incorporated into AI algorithms (i.e. how the data is analyzed). 

Contexto: [...] hay preocupación por el sesgo implícito de las aplicaciones de IA […], lo que podría afectar también las posibilidades de los sectores marginados de aprovechar las ventajas de esta nueva tecnología.

Synonym: -

Sinónimo: -

Formal variants: -

Variantes formales: -

Sources: (1) Shashkina, V. (2023). What is AI bias really, and how can you combat it? ITRex. https://itrexgroup.com/blog/ai-bias-definition-types-examples-debiasing-strategies/ , (2) Miao, F., Holmes, W., Huang, R., Zhang, H., & Unesco. (2021). AI and education: A guidance for policymakers. UNESCO Publishing.

Referencias: (1) Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial. (2019, abril). Directrices éticas para una IA fiable. Comisión Europea ; (2) Jara, I., & Ochoa, J. B. (2020, mayo). Usos y efectos de la inteligencia artificial en educación. https://doi.org/10.18235/0002380