De acuerdo al portal de noticias DPL News, ¿Qué debe abordar la próxima regulación de Inteligencia Artificial en Brasil?
Un webinar reunió a autoridades y miembros del Consejo Nacional de Protección de Datos (CNPD) para conversar sobre aspectos del Proyecto de Ley 2338/23 que se encuentra en trámite en el Senado.
La base del debate sobre la regulación de la Inteligencia Artificial promovido en un webinar por la ANDP (Autoridad Nacional de Protección de Datos) con autoridades gubernamentales y miembros de la CNDP, fue el Proyecto de Ley (PL) 2338/23, que establece reglas generales para el desarrollo, implementación y uso responsable de la Inteligencia Artificial en Brasil.
En la ocasión, los panelistas señalaron que aún faltan muchos aspectos por analizar y revisar para que una ley transversal pueda aplicarse de manera efectiva. “La ANPD entiende que esta propuesta depende de normas y mecanismos normativos ya previstos en la LGPD (Ley General para la Protección de Datos), junto con la promoción del equilibrio necesario para la innovación y la gestión de riesgos, así como la protección de datos personales y derechos fundamentales”, dijo el presidente de la Autoridad, Waldemar Gonçalves.
Minería y revaluación de datos
Uno de los puntos centrales del debate lo planteó Estela Aranha, abogada, asesora del ministro de Justicia y Seguridad y miembro de la Comisión de Juristas del Senado, quien alertó sobre el uso potencial de los datos, especialmente cuando se utilizan en el entrenamiento y aprendizaje de máquinas. sistemas automatizados de toma de decisiones, agravando los casos de discriminación algorítmica.
Leer también: Dos chilenos considerados los CEOs más innovadores de Latinoamérica
“Sabemos que el objetivo de la minería de datos es proporcionar una base para conferir de manera confiable ciertas características a ciertos individuos y grupos, pero esto conlleva un riesgo muy alto debido a la forma en que funciona. Como el modelo está diseñado para distinguir, debemos de tener cuidado de que esta distinción no se produzca de manera ilegal”, dijo.
La jurista avala que hay que pensar bien este tema porque, según ella, hay varios estudios que refuerzan que aunque se omitan datos sensibles relacionados con la distinción racial, por ejemplo, otras características terminan reagrupando a las personas por otras variables como el barrio en el que vive, los hábitos de consumo, etc.
“Por eso es necesario pensar en el impacto que tendrá el Aprendizaje Automático y las decisiones automatizadas en los colectivos más vulnerables”, concluyó.
Para Laura Schertel, profesora asociada de Derecho Civil de la Universidad de Brasilia (UnB), algunos conceptos de la LGPD restringen la discusión sobre el uso de la Inteligencia Artificial y pueden ser actualizados, por lo que es importante pensar en una ley que conecte las dos cosas, tanto la regulación de IA como la protección de datos.
Mitos alarmistas
La docente abordó los aspectos alarmistas de la discusión, vinculados a los mitos de que los robots dominarán a la humanidad, debido a la creciente presencia de la Inteligencia Artificial en la vida cotidiana de las personas. “Sabemos que los riesgos son reales, más de lo que la ficción nos hace creer. Pero necesitamos pensar en los riesgos reales como los de los sistemas que dejan muy claro los riesgos de discriminación, datos incorrectos que generan resultados incorrectos y softwares que no funcionan como deberían”, argumentó.
Schertel aprovechó para reforzar que el propósito del proyecto de ley, en este sentido, es mitigar los riesgos relacionados con la incorrección y garantizar a las personas el derecho a estar informadas cuando se trata de una IA y a ser apoyadas por la interferencia humana.
Congreso
Por su parte, el senador Eduardo Gomes (PL-SE), presidente de la Comisión de Comunicación y Derecho Digital del Senado, dice que Brasil finalmente entra en un momento en el que es imposible dar marcha atrás en una decisión definitiva sobre los parámetros de seguridad y garantías mínimas a los ciudadanos en materia de Inteligencia Artificial.
El parlamentario también dijo que el Congreso Nacional está abierto y que pretende dialogar con el ministro de Justicia y Seguridad, Flávio Dino, con el gobierno federal y los partidos de oposición para encontrar la mejor solución en cuanto a la regulación.
“En este debate sobre la IA se están haciendo muy evidentes algunas cosas. Es necesario tener una mezcla de cadencia y garantía de decisión, sin interferir en la esencia y uso, en este caso, de la tecnología”, ponderó. “La certeza que tenemos es que tendremos que impulsar una legislación sencilla y eficiente”.
La ANDP también difundió, posterior al evento, una guía para el tratamiento de datos personales por parte de las autoridades públicas, a la que se puede acceder aquí.
