TY  - BOOK
AU  - van Niekerk, Daniel
AU  - Pérez-Ortiz, María
AU  - Shawe-Taylor, John
AU  - Orlič, Davor
AU  - Drobnjak, Ivana
AU  - Kay, Jackie
AU  - Siegel, Noah
AU  - Evans, Katherine
AU  - Moorosi, Nyalleng
AU  - Eliassi-Rad, Tina
AU  - Maria Tanczer, Leonie
AU  - Holmes,Wayne
AU  - Deisenroth, Marc Peter
AU  - Straw, Isabel
AU  - Fasli, Maria
AU  - Adams, Rachel
AU  - Oliver, Nuria
AU  - Mladenić, Dunja
AU  - Aneja, Urvashi
AU  - Janickyj, Madeleine
ED  - UNESCO‏
ED  - International Research Centre on Artificial Intelligence
TI  - Challenging systematic prejudices : : An investigation into bias against women and girls in large language models
PY  - 2024///
CY  - París : 
PB  - UNESCO
KW  - Mujeres digitales
KW  - Inteligencia Artificial
KW  - brecha digital
KW  - brecha de género
KW  - IA
KW  - LLM
KW  - large language models
KW  - modelos grandes de lenguaje
KW  - ChatGPT
KW  - Gemini
KW  - Llama
KW  - sesgos
KW  - homofobia
KW  - racismo
KW  - machismo
N2  - El informe examina los estereotipos en los grandes modelos de lenguaje (LLM, por sus siglas en inglés), definidos como herramientas de procesamiento de lenguaje natural que sustentan plataformas populares de inteligencia artificial (IA) generativa. Estas nuevas aplicaciones de IA tienen el poder de moldear sutilmente las percepciones de millones de personas, por lo que incluso pequeños sesgos de género en su contenido pueden amplificar significativamente las desigualdades en el mundo real. 

El estudio explora los sesgos en tres LLM significativos: GPT-2 y ChatGPT de OpenAI, junto con Llama 2 de Meta, destacando su papel tanto en sistemas avanzados de toma de decisiones como en agentes conversacionales de cara al usuario. A través de múltiples estudios, el documento revela cómo los prejuicios emergen en el texto generado por los grandes modelos de lenguaje, a través de asociaciones de palabras de género, la consideración positiva o negativa de los sujetos de género, o la diversidad en el texto generado por el género y la cultura. 

Los resultados muestran evidencias de la existencia de sesgo contra las mujeres en el contenido generado por cada uno de estos grandes modelos de lenguaje, así como actitudes homofóbicas y estereotipos raciales. Los grandes modelos de lenguaje de código abierto como Llama 2 y GPT-2 –valorados porque son gratuitos y accesibles para un público amplio– exhibieron el sesgo de género más significativo. Sin embargo, el estudio también concluye que su naturaleza abierta y transparente puede ser una gran ventaja para abordar y mitigar esta tendencia a través de una mayor colaboración en la comunidad de investigación global, en comparación con modelos más cerrados, que incluyen GPT 3.5 y 4 (la base para ChatGPT) y Gemini de Google. El informe revela que los esfuerzos para hacer frente a la IA sesgada deben aplacar esta diferenciación cuando se origina en el ciclo de desarrollo de la tecnología, pero también mitigar el daño en el contexto de su aplicación. Esta visión no sólo requiere la participación de múltiples partes interesadas, sino también un enfoque más equitativo y responsable del desarrollo y el despliegue de la IA en general.
UR  - https://unesdoc.unesco.org/ark:/48223/pf0000388971
ED  - UNESCO‏
ER  -