Combatiendo los sesgos de la IA, innovación y tecnología al rescate, a pesar de los avances y beneficios que ha traído consigo, la inteligencia artificial (IA) enfrenta un desafío crucial: la perpetuación de sesgos. Startups como Acuilae en España y Theodora en Chile están liderando el desarrollo de tecnologías para abordar este problema.
Sin embargo, la concientización de los creadores de algoritmos, la sociedad en general y la regulación también desempeñarán un papel fundamental en el camino hacia una IA más responsable.
Los sesgos de género, etnia o clase social son solo algunos de los prejuicios que pueden reflejarse y amplificarse a través de la inteligencia artificial, incluso de manera inadvertida. Idoia Salazar, presidenta y fundadora del Observatorio del Impacto Social y Ético de la Inteligencia Artificial (OdiseIA), señala que estos sesgos pueden surgir en la recopilación y procesamiento de datos, lo que a su vez puede llevar a decisiones discriminatorias.
Vea también: Impulso del mercado TIC en Brasil en 2024
Las implicaciones de estos sesgos pueden ser significativas para las empresas. Una encuesta realizada por la plataforma de aprendizaje automático DataRobot a más de 300 empresas reveló que más del 36% de ellas reconocieron la presencia de sesgos en los algoritmos de sus sistemas de IA, lo que resultó en pérdidas financieras, daños a su reputación y acciones legales en su contra.
Las startups están respondiendo a este desafío con soluciones innovadoras. Acuilae, por ejemplo, ha desarrollado Ethyka, una plataforma que detecta y corrige expresiones, emociones y otro contenido inadecuado en los algoritmos de IA. Theodora, por otro lado, está creando sus propios conjuntos de datos para entrenar a la IA y detectar y corregir sesgos en el texto.
Sin embargo, la innovación tecnológica no es suficiente por sí sola. La regulación y la educación también desempeñan un papel crucial en la lucha contra los sesgos de la IA. Tanto Estados Unidos como la Unión Europea están implementando normativas para garantizar que los sistemas de IA sean transparentes, seguros y no discriminatorios. Además, la educación sobre la IA y sus implicaciones éticas es fundamental para que los creadores de algoritmos y la sociedad en general comprendan cómo estas tecnologías pueden influir en nuestras decisiones y comportamientos.
En última instancia, combatir los sesgos de la IA requerirá un enfoque integral que combine la innovación tecnológica con la regulación y la educación. Solo así podremos aprovechar todo el potencial de la IA de manera ética y responsable. Según publica BBVA
Fuente: AmericaRetail & Malls
