Inteligencia artificial e igualdad de género
22 de mayo del 2024
Autor: ONU Mujeres
El mundo tiene un problema de igualdad de género, y la Inteligencia Artificial (IA) refleja el sesgo de género en nuestra sociedad.
Aunque cada año más mujeres acceden a Internet en todo el mundo , en los países de bajos ingresos solo el 20 por ciento están conectadas . La brecha digital de género crea una brecha de datos que se refleja en el sesgo de género en la IA.
Quién crea la IA y qué sesgos se incorporan (o no) a los datos de IA pueden perpetuar, ampliar o reducir las brechas de igualdad de género.
Las jóvenes participantes trabajan juntas en una computadora portátil durante un campamento de codificación de la Iniciativa African Girls Can Code, que se llevó a cabo en el Centro de Transformación Digital de GIZ en Kigali, Ruanda, en abril de 2024. Foto: ONU Mujeres
¿Qué es el sesgo de género en la IA?
Un estudio del Centro Berkeley Haas para la Equidad, el Género y el Liderazgo analizó 133 sistemas de IA en diferentes industrias y descubrió que alrededor del 44 por ciento de ellos mostraban sesgo de género , y el 25 por ciento exhibía sesgo tanto de género como racial.
Beyza Doğuç, una artista de Ankara, Turquía, se topó con un sesgo de género en Generative AI cuando estaba investigando para una novela y le pidió que escribiera una historia sobre un médico y una enfermera. Generative AI crea contenido nuevo (texto, imágenes, video, etc.) inspirado en contenido y datos similares con los que fue entrenada, a menudo en respuesta a preguntas o indicaciones de un usuario.
La IA hizo que el médico fuera un hombre y la enfermera una mujer. Doğuç siguió dándole más indicaciones y la IA siempre eligió roles estereotipados de género para los personajes y asoció ciertas cualidades y habilidades con personajes masculinos o femeninos. Cuando le preguntó a la IA sobre el sesgo de género que exhibía, la IA le explicó que se debía a los datos con los que había sido entrenada y, específicamente, a la "incrustación de palabras", que significa la forma en que ciertas palabras se codifican en el aprendizaje automático para reflejar su significado y asociación con otras palabras; es la forma en que las máquinas aprenden y trabajan con el lenguaje humano. Si la IA se entrena con datos que asocian a mujeres y hombres con habilidades o intereses diferentes y específicos, generará contenido que refleje ese sesgo.
“La inteligencia artificial refleja los sesgos que están presentes en nuestra sociedad y que se manifiestan en los datos de entrenamiento de la IA”, dijo Doğuç, en una entrevista reciente con ONU Mujeres.
Quién desarrolla la IA y con qué tipo de datos se entrena tiene implicaciones de género para las soluciones impulsadas por IA.
Sola Mahfouz, investigadora de computación cuántica en la Universidad Tufts, está entusiasmada con la IA, pero también preocupada. “¿Es equitativa? ¿En qué medida refleja las estructuras patriarcales de nuestra sociedad y los sesgos inherentes de sus creadores predominantemente masculinos?”, reflexiona.
Mahfouz nació en Afganistán, donde se vio obligada a abandonar la escuela cuando los talibanes llegaron a su casa y amenazaron a su familia. Finalmente escapó de Afganistán y emigró a Estados Unidos en 2016 para asistir a la universidad.
Mientras las empresas se esfuerzan por obtener más datos para alimentar los sistemas de IA, los investigadores de Epoch afirman que las empresas tecnológicas podrían quedarse sin datos de alta calidad utilizados por la IA en 2026 .
Natacha Sangwa es una estudiante de Ruanda que participó en el primer campamento de programación organizado en el marco de la iniciativa African Girls Can Code el año pasado. “He observado que [la IA] está desarrollada principalmente por hombres y entrenada en conjuntos de datos que se basan principalmente en hombres”, dijo Sangwa, quien vio de primera mano cómo eso afecta la experiencia de las mujeres con la tecnología. “Cuando las mujeres usan algunos sistemas impulsados por IA para diagnosticar enfermedades, a menudo reciben respuestas inexactas, porque la IA no es consciente de los síntomas que pueden presentarse de manera diferente en las mujeres”.
Si continúan las tendencias actuales, la tecnología y los servicios impulsados por IA seguirán careciendo de perspectivas raciales y de género diversas, y esa brecha resultará en una menor calidad de los servicios, decisiones sesgadas sobre empleos, crédito, atención médica y más.
¿Cómo evitar el sesgo de género en la IA?
Para eliminar los prejuicios de género en la IA, hay que empezar por priorizar la igualdad de género como objetivo a la hora de conceptualizar y construir los sistemas de IA. Esto incluye evaluar los datos para detectar tergiversaciones, proporcionar datos que sean representativos de experiencias raciales y de género diversas y reestructurar los equipos que desarrollan la IA para que sean más diversos e inclusivos.
“Cuando la tecnología se desarrolla con una sola perspectiva, es como mirar el mundo a ciegas”, coincidió Mahfouz, que actualmente trabaja en un proyecto para crear una plataforma impulsada por inteligencia artificial que conectaría a las mujeres afganas entre sí.
“Se necesitan más mujeres investigadoras en este campo. Las experiencias únicas que viven las mujeres pueden moldear profundamente los fundamentos teóricos de la tecnología y también pueden abrir nuevas aplicaciones de la tecnología”, añadió.
“Para evitar el sesgo de género en la IA, primero debemos abordar el sesgo de género en nuestra sociedad”, dijo Doğuç de Turquía.
Existe una necesidad crítica de aprovechar diversos campos de especialización al desarrollar IA, incluida la experiencia en materia de género, para que los sistemas de aprendizaje automático puedan servirnos mejor y respaldar el impulso hacia un mundo más igualitario y sostenible.
En una industria de IA que avanza rápidamente, la falta de perspectivas de género, datos y toma de decisiones puede perpetuar una profunda desigualdad en los años venideros.
El campo de la IA necesita más mujeres, y eso requiere permitir y aumentar el acceso y el liderazgo de las niñas y las mujeres en la educación y las carreras de STEM y TIC.
En 2023, el Foro Económico Mundial informó que las mujeres representaban solo el 29 por ciento de todos los trabajadores en ciencia, tecnología, ingeniería y matemáticas (STEM). Si bien hoy en día más mujeres que nunca se gradúan y acceden a empleos STEM, se concentran en puestos de nivel inicial y tienen menos probabilidades de ocupar puestos de liderazgo.
Detalle del mural "Titanes" de Lumen Martin Winter, instalado en el tercer piso del edificio de la Asamblea General de las Naciones Unidas en Nueva York. Foto: UN Photo/Rick Bajornas
¿Cómo puede la gobernanza de la IA ayudar a acelerar el progreso hacia la igualdad de género?
La cooperación internacional en materia de tecnología digital se ha centrado en cuestiones técnicas y de infraestructura y en la economía digital, a menudo a expensas de la manera en que los avances tecnológicos afectaban a la sociedad y generaban disrupciones en todos sus estratos, especialmente para los más vulnerables y los históricamente excluidos. Existe un déficit de gobernanza global para abordar los desafíos y riesgos de la IA y aprovechar su potencial para no dejar a nadie atrás.
“En este momento, no existe ningún mecanismo que impida a los desarrolladores lanzar sistemas de IA antes de que estén listos y sean seguros. Es necesario un modelo de gobernanza global de múltiples partes interesadas que prevenga y corrija los casos en que los sistemas de IA muestren sesgos de género o raciales, refuercen estereotipos nocivos o no cumplan con los estándares de privacidad y seguridad”, dijo Helene Molinier, asesora de ONU Mujeres sobre cooperación en materia de igualdad de género digital en una entrevista reciente con Devex.
En la arquitectura actual de la IA, los beneficios y los riesgos no están distribuidos equitativamente, y el poder se concentra en manos de unas pocas corporaciones, Estados e individuos que controlan el talento, los datos y los recursos informáticos. Tampoco existe un mecanismo para considerar aspectos más amplios, como las nuevas formas de vulnerabilidad social generadas por la IA, la disrupción de las industrias y los mercados laborales, la propensión de las tecnologías emergentes a ser utilizadas como herramienta de opresión, la sostenibilidad de la cadena de suministro de la IA o el impacto de la IA en las generaciones futuras.
En 2024, la negociación del Pacto Digital Mundial (GDC, por sus siglas en inglés) ofrece una oportunidad única para generar impulso político y colocar las perspectivas de género en la tecnología digital en el centro de un nuevo marco de gobernanza digital. Sin él, corremos el riesgo de superponer la IA a las brechas de género existentes, lo que provocaría que la discriminación y los daños basados en el género no se modificaran, e incluso se amplificaran y perpetuaran por los sistemas de IA.
El documento de posición de ONU Mujeres sobre la GDC ofrece recomendaciones concretas para aprovechar la velocidad, la escala y el alcance de la transformación digital para el empoderamiento de las mujeres y las niñas en toda su diversidad, y para desencadenar transformaciones que coloquen a los países en el camino hacia un futuro digital equitativo para todos.
ARTÍCULO PUBLICADO POR: ONU Mujeres
LINK DEL ARTÍCULO ORIGINAL: https://www.unwomen.org/en/news-stories/explainer/2024/05/artificial-intelligence-and-gender-equality
Comments