Las herramientas de inteligencia artificial (IA) que se utilizan en los procesos de selección (llevados a cabo mayoritariamente de manera virtual en los tiempos que corren) no son a menudo tan neutrales como cabría presuponerles. Para cambiar el juicio de la IA con respecto a un candidato basta, de hecho, con un elegir un determinado fondo y no otro.
Estamos ante una afirmación que resulta inevitablemente controvertida si tenemos en cuenta que las empresas que se apoyan en la IA para sus procesos de selección argumentan que la inteligencia artificial no se guía por gustos de naturaleza personal, no obedece a impulsos a la hora de tomar decisiones y es en este sentido absolutamente neutral.
Sin embargo, de acuerdo con una investigación emprendida por BR, la empresa de radio y televisión pública de Baviera (Alemania), utilizando las herramientas de IA de la startup afincada en Múnich Retorio, parece que la inteligencia artificial dista mucho de ser neutral en los procesos de selección y arroja resultados completamente diferentes sobre la mesa cuanto tiene frente a sí candidatos pertrechados de gafas o pañuelos para la cabeza.
La IA juzga a los candidatos de manera diferente en base a sus complementos y también a las imágenes de fondo utilizadas en las entrevistas
En el contexto de la investigación emprendida por BR una actriz grabó un breve vídeo a modo de candidatura que fue después clasificado por la IA de Retorio en base al denominado modelo «Big Five», que analiza la personalidad del individuo guiándose por cinco dimensiones diferentes.
La actriz leyó a continuación idéntico texto con idénticas expresiones e idéntica tonalidad en varias ocasiones. Lo único que cambiaba en realidad es que en una de las ocasiones la candidata portaba gafas y en otra lucía un pañuelo cubriéndole el cabello. En ambas ocasiones los resultados emanados del análisis «Big Five» fueron completamente divergentes.
Ulteriores intentos con modificaciones en forma de pelucas, colas de caballo y otros ornamentos para la cabeza resultaron igualmente en sustanciales cambios en el análisis arrojado por el modelo «Big Five».
A la luz de los resultados arrojados por la investigación de BR, Retorio puntualiza que su inteligencia artificial también evalúa la apariencia exterior del candidato, como se haría también en cualquier entrevista de trabajo al uso.
Sin embargo, los algoritmos de Retorio solo evalúan el impacto y la impresión que una persona causa en las demás, excluyendo factores potencialmente prejuiciosos como la edad, el género o la raza.
En posteriores pruebas BR experimentó con diferentes imágenes de fondo (un cuadro enmarcado, por ejemplo) en los vídeos de los candidatos y los resultados estuvieron también a merced de no pocas modificaciones.
Si el candidato hace, por ejemplo, la entrevista de trabajo con una librería como imagen de fondo, el análisis de los algoritmos de Retorio cambia y lo hace a favor del entrevistado. Y también lo hace cuando se mejora la iluminación del vídeo.
Las desviaciones cometidas en nombre de la IA no son en todo casos sistemáticas y pueden variar de persona a persona. «El problema fundamental con el reconocimiento facial a través del ‘machine learning’ es que nunca sabemos exactamente en base a qué patrones reaccionan los algoritmos en una imagen», apunta Katharina Zweig, profesora de ciencia computacional, en declaraciones a BR.
En este sentido, serían necesarias ciertas regulaciones en el ámbito del «machine learning» y la inteligencia artificial, demanda Zweig.
