Inteligencia Artificial y Sesgos

Dedo señalando pantalla digital

La inteligencia artificial está cambiando la manera en la que trabajamos y vivimos cotidianamente. Es una de las tecnologías que está marcando nuestra era, con un enorme potencial de oportunidades.

Los sistemas de machine learning nos ayudan a agrupar, clasificar, detectar anomalías y predecir a partir del análisis de grandes cantidades de datos. Estos sistemas nos ayudan a tomar decisiones, como nunca antes en la historia humana.

Banner_frasco-suscripcion-800x250

Pero en paralelo a estas oportunidades, la inteligencia artificial también presenta desafíos. Uno de ellos es el de los sesgos.

Según el Diccionario de la Real Academia Española, sesgo es un “error sistemático en el que se puede incurrir cuando al hacer muestreos o ensayos se seleccionan o favorecen unas respuestas frente a otras.” Ni más ni menos.

Los sesgos en los sistemas de machine learning pueden llevarnos a tomar decisiones discriminatorias. Estas decisiones discriminatorias pueden tener un enorme impacto indeseado en la vida de las personas. Por eso es importante.

Para hacer frente a estos desafíos, por lo general se habla de los sesgos en los algoritmos. Sin embargo, el desafío es mucho mayor y no se reduce sólo a los algoritmos, sino que incluye a todo el modelo de machine learning, incluyendo a los datos.

¿Cómo es esto?

Los algoritmos y la etapa de modelado son sólo una parte de un modelo de machine learning. De hecho, si uno utiliza algoritmos ya creados, la etapa de modelado representa quizá el 20/40% del tiempo de un proyecto de este tipo. El 60/80% restante se invierte en los datos. Si uno crea su propio algoritmo, esto cambia, por supuesto.

Por eso, podemos decir que los datos son la materia prima de un modelo de machine learning. Si los datos son buenos, el modelo será bueno. Si los datos son malos, el modelo será malo. Si los datos están sesgados, por más que tengamos el mejor algoritmo, el modelo estará sesgado.

Esto plantea desafíos en cuanto a comprender, preparar, modelar y procesar los datos y que los mismos hagan sentido para responder a los objetivos y necesidades del proyecto para el cual se está desarrollando un modelo de machine learning.

Conoce más aquí


Reciba las últimas noticias de la industria en su casilla:

Suscribirse ✉