La futura normativa comunitaria recogerá la prohibición del uso de la inteligencia artificial para la vigilancia policial predictiva, pero se queda corta al abordar los abusos de los procedimientos automáticos en los controles migratorios.
La propuesta sobre la que trabaja el Parlamento Europeo para abordar una regulación de la Inteligencia Artificial carece de salvaguardias y garantías suficientes para proteger a los más vulnerables. Si bien prohíbe en general los sistemas de vigilancia predictiva, que tanto daño causan, no incluye protecciones específicas frente a las identificaciones biométricas y los sesgos que puedan perjudicar, por ejemplo, a los migrantes.
El pasado día 20 de abril, la Comisión de Libertades Civiles, Justicia y Asuntos de Interior del Parlamento Europeo (Libe) publicó un borrador con importantes enmiendas (PDF) a la futura y esperada normativa comunitaria sobre Inteligencia Artificial.
Varias organizaciones de defensa de los derechos humanos celebraron ciertos avances, aunque en general insisten en que siguen siendo insuficientes para proteger a los ciudadanos del posible abuso de estas tecnologías.
«Hay una proliferación de sistemas de inteligencia artificial totalmente indefendibles que pretenden hacer de todo, desde predecir la orientación sexual o política a partir de los rasgos físicos hasta detectar mentiras a partir de microexpresiones faciales», alerta Daniel Leufer, analista principal de políticas de Access Now, que incide: «Necesitamos líneas rojas claras para detener esas prácticas que socavan irremediablemente nuestros derechos fundamentales».
De esta manera, si bien recoge una prohibición general al uso de sistemas de inteligencia artificial para predecir comportamientos ilícitos -sobre todo por el riesgo de violación de la presunción de inocencia-, este veto no se extiende en concreto a los «sistemas de vigilancia predictiva basadas en la ubicación geográfica, que pueden aumentar las vigilancia policial discriminatoria en comunidades racializadas y pobres», comentaba hace unos días Sarah Chander, asesora senior de políticas de la ONG EDRi.
«Los ponentes han perdido una oportunidad importante para proteger los derechos de las personas, ya que no se prohíbe por completo la identificación biométrica remota en espacios públicos», afirma por su parte Caterina Rodelli, analista de políticas de la UE en Access Now, que añade: «Tal como está redactado ese borrador, existen excepciones tan amplias a esa ‘prohibición’ en la Ley de IA que prácticamente proporciona una base legal para esta tecnología tan distópica».
Conoce más aquí
