Algoritmos que marginan a minorías, obligación de ceder tus datos a grandes tecnológicas o la dificultad para recuperar tu imagen dañada en internet. Estas soluciones persiguen la transparencia y cordura que internet ha olvidado.
Éticas Consulting: Contra los sesgos algorítmicos
La asignación de un crédito hipotecario, un seguro médico, el candidato elegido para un determinado puesto de trabajo, el orden prioritario para las intervenciones quirúrgicas, la concesión o no de un permiso penitenciario…Son solo algunas de las muchas decisiones que ya, a día de hoy, se toman en muchos países y empresas en base a lo que dictamina un algoritmo.
Ana Olmos, emprendedora y especialista en regulación de telecomunicaciones, gobernanza de Internet y seguridad informática, definía con estas sencillas palabras lo que es un algoritmo: “Una lista de reglas que se utilizan para resolver un problema. No son más que pasos, en un orden, que son definidos por un equipo humano y ejecutados por un ordenador cuando dicho algoritmo se ha programado”.
Si al algoritmo se le añade Inteligencia Artificial podemos incluso programar un aprendizaje por parte de la máquina –machine learning– que podrá acertar cada vez más y tener un algoritmo más perfecto. Ese conocimiento progresivo de la máquina se nutre de los datos que vamos metiendo de manera que, a mayor información introducida, más se supone que sabe, hasta el punto de poder delegar en la máquina “la automatización y agilizar un proceso que antiguamente era tan complejo que tenía que hacerse con personas muy experimentadas que se basaban en su intuición y un conocimiento difícil de transmitir”, decía Olmos.
Ante esta forma de proceder, la duda que surge es: ¿Y qué sucede cuando esa información que alimenta a la máquina para entrenar su aprendizaje no está equilibrada o deja fuera del espectro a minorías muy concretas? Pues que el algoritmo desprecia a estos colectivos en su análisis de predicciones. Es lo que se conoce como sesgos algorítmicos.
“Los algoritmos se entrenan en base a datos del pasado y se usan para tomar decisiones del presente”, declara Gemma Galdón, fundadora y CEO de Éticas Consulting. Si, por citar un ejemplo, una mujer pide un crédito hipotecario en un banco que hace una primera filtración en base a un algoritmo tiene menos posibilidades de conseguirlo que un hombre por la sencilla razón de que ese algoritmo ha sido entrenado con menos mujeres teniendo en cuenta que hasta hace unos años ni siquiera pedir un préstamo. Así que, en igualdad de condiciones, una mujer será considerado como un perfil con mayor riesgo que un hombre.
De todo esto, se dio cuenta Galdón hace ya años. Consciente de sus antecedentes bastante atípicos –hija de una madre que la trajo al mundo a los 14 años, mujer, atea…– sabía que la mayoría de los algoritmos nunca la iban a tener en cuenta. Así que esta analista de políticas públicas especializada en el impacto social, legal y ético de las tecnologías se animó a fundar con otros socios una especie de consultora para concienciar a la sociedad de la trascendencia actual de los algoritmos y vigilar los posibles sesgos, intencionados o no.
Nace así, en 2012, Éticas Consulting, con el propósito de auditar algoritmos. Del equipo fundador inicial hoy solo queda Galdón, directora general. “En Éticas Consulting hacemos ética práctica, es decir, trabajamos para que los grandes principios que guían la sociedad como la igualdad de oportunidades, la transparencia o la no discriminación, se traduzcan en especificaciones técnicas de los desarrollos tecnológicos que a día de hoy toman decisiones en nuestra vida. Para ello, realizamos auditorías de algoritmos y comprobamos que las garantías legales se apliquen al mundo digital, especialmente, a la Inteligencia Artificial, y ayudamos a que se cumplan dichos principios», definen en la compañía su razón de ser.
En este línea, ofrecen sus servicios de auditoría de algoritmos a empresas e instituciones interesadas en evitar sesgos de los que, en última instancia, son responsables legales. Para ello, analizan los datos que se introducen, las conclusiones que pueden extraerse de ellos y las propias decisiones que se toman sobre su base. La solución sirve como garantía de que los algoritmos que se utilizan no tienen sesgos ni ineficiencias. La Comisión Europea, Indra, Telefónica o el Banco Interamericano de Desarrollo (BID) figuran ya entre sus grandes clientes. Asimismo, desde 2020, Éticas Consulting es miembro SME Focus Group on AI de la Comisión Europea.
Fruto de la organización es también Éticas Foundation cuyo propósito es “generar nuevos debates, nuevos conocimientos y mejores tecnologías”. La fundación se alinea al interés de Galdón de crear proyectos de impacto social.
Conoce más aquí
