Tecnologías emergentes: Por qué es importante el dilema de la novia en la inteligencia artificial

Greener

La inteligencia artificial no es un sistema puramente tecnológico desde el momento que su diseño lleva asociadas cuestiones sociales y éticas. “Si el objetivo de la IA es simular la inteligencia humana, entonces es imposible reducir los intentos al campo de la ingeniería y la matemática”, señala un informe publicado por las investigadoras Lucía Ortiz de Zárate y Ariana Guevara Gómez, de la Universidad Autónoma de Madrid, titulado Inteligencia artificial e igualdad de género. Un análisis comparado entre UE, Suecia y España, y realizado para la Fundación Alternativas.

Aunque la mayor parte de las organizaciones que hacen uso de tecnologías de inteligencia artificial son las empresas privadas, cada vez más gobiernos apuestan por la implementación de estos sistemas. Son sistemas útiles para elevar la eficiencia o para detectar problemas más rápido de lo que hasta ahora (por ejemplo, diagnósticos médicos, identificar áreas de elevado fracaso escolar o predecir actividades delictivas), así como para personalizar servicios a los ciudadanos.


Banner_frasco-suscripcion-800x250

Se ha demostrado que los datos usados en los sistemas de inteligencia artificial reproducen estereotipos de género que pueden contribuir a la perpetuación de roles asociados tradicionalmente a mujeres y hombres. Los ejemplos son múltiples: chatbots y asistentes de voz con características femeninas, sistemas de reconocimiento facial con sobrerrepresentación de hombres de piel clara, buscadores que asocian la figura femenina a profesiones como recepcionista o ama de casa.

Un caso de imágenes y sesgo es el denominado “problema de la novia”: al analizar ImageNet, una base de datos con más de 14 millones de imágenes, se encontró que una mujer blanca con un vestido blanco se etiqueta como novia, mientras que una mujer del norte de la India con un traje típico de boda se etiqueta como interpretación artística. “Hay que mirar la representatividad de género de los datos con lentes de interseccionalidad”, apunta el estudio. En algunos informes se ha destacado que la poca presencia de mujeres en los equipos de diseño puede contribuir con estas conceptualizaciones.

Conoce más aquí

Banner_azules
Reciba las últimas noticias de la industria en su casilla:

Suscribirse ✉