El auge de la inteligencia artificial, la nueva primavera

islita

“Inteligencia artificial: ¿Oportunidad o amenaza para la democracia?” , así se titula el curso que forma parte del XXXI Seminario Permanente de Ética Económica y Empresarial de la Fundación Étnor del cual ha participado Ramón López de Mántaras, profesor de investigación del Consejo Superior de Investigaciones Científicas (CSIC) y pionero en el estudio de la Inteligencia Artificial (AI) en Europa. Durante el encuentro se analizaron los avances e implicaciones de la IA y su auge en los últimos años.

El Seminario Permanente de Ética Económica y Empresarial de la Fundación Étnor ha llevado a cabo el curso “Inteligencia artificial: ¿Oportunidad o amenaza para la democracia?”. Una temática que cada vez está más presente en la agenda por su expansión y crecimiento en los últimos años. Ramón López de Mántaras, profesor de investigación del Consejo Superior de Investigaciones Científicas (CSIC) y pionero en el estudio de la Inteligencia Artificial (AI) en Europa ha participado con su conferencia “El traje nuevo de la inteligencia artificial”. Durante su intervención, López de Mántaras ha analizado los avances y las implicaciones de la inteligencia artificial (IA) en la última década, periodo en el que se ha producido un auténtico auge de la IA que califica de “nueva primavera”. “Todo el mundo habla de ello y grandes empresas y tecnológicas y países enteros se han lanzado a invertir en IA”, apunta. Antes hubo dos primaveras más seguidas de sus inviernos.


Banner_frasco-suscripcion-800x250

El investigador sostuvo que, esta tercera primavera, ofrece resultados espectaculares en ámbitos como el de los juegos, el reconocimiento de imágenes, las capacidades del lenguaje, los asistentes personales o los sistemas de pregunta respuesta. Estos grandes éxitos son muy mediáticos, asegura López de Mántaras, “aparecen titulares en todo el mundo”. Pero, desde el punto de vista de la ciencia, se pregunta “¿supone un avance significativo en el objetivo que se planteó en el 56 de crear inteligencias generales que no sean específicas?

Sobre las capacidades del lenguaje, el académico explicó que, para que una máquina pudiera realmente comprender el lenguaje, o una escena visual, necesitaría tener una enorme cantidad de conocimientos generales de sentido común, que son los que nos permiten entender y predecir las relaciones causa-efecto. Las personas adquirimos estos conocimientos casi sin esfuerzo a lo largo de nuestra vida interactuando y socializando con el entorno. Por otra parte, muchos conocimientos se tramiten gracias al lenguaje, por lo tanto, comprender el lenguaje es un requisito fundamental para poder adquirir conocimientos. “Estamos, pues, ante un problema de muy difícil solución, la comprensión profunda del lenguaje es uno de los desafíos más difíciles a los que se enfrenta la IA”, asegura López de Mántaras.

En esta misma línea, acerca del reconocimiento de imágenes, el experto sostuvo durante su intervención que, para que un sistema de IA adquiriera conocimientos y fuera capaz de reconocer cualquier objeto, en su aprendizaje habría que etiquetarlo y mostrarlo todo, lo cual es prácticamente imposible. Al respecto, el ponente advirtió que existe el problema de la falta de representatividad de la muestra, porque hay situaciones, con muy baja probabilidad de que ocurran, que no forman parte del entrenamiento del sistema y cuando ante situaciones la IA fracasa “estrepitosamente”, asegura López de Mántaras.

Apunta, además, otros problemas: “estos sistemas de IA tan impresionantes no sabemos con exactitud porque funcionan cuando funcionan o fallan cuando fallan”. Sin duda, explica el conferenciante, un tema candente es cómo dotarlos de capacidad explicativa, que es la que genera confianza. Pero, además, son sistemas muy poco robustos, si se perturba un poco la imagen, el resultado de clasificación cambia completamente. Y son más los problemas, “los famosos sesgos” y el uso de sistemas de reconocimiento facial que admiten un 98% de error. “Algo que tiene un 98% de error es algo que no funciona y no se debe usar”. Y cosas más inaceptables, en su opinión “Estamos muy lejos hoy de resolver el problema de reconocimiento general de imágenes”, asegura López de Mántaras. Las diferencias entre el aprendizaje humano y el aprendizaje artificial son enormes, explica.

Finalmente, indagó sobre la regulación. Al respecto concluyó: “En mi opinión la IA, al igual que el emperador del cuento de Andersen, continúa paseando desnuda”. Y se pregunta: “¿somos conscientes de que estamos dejando en manos de artefactos estúpidos decisiones peligrosas como son el reconocimiento facial para el control masivo de la ciudadanía, o sistemas que pretenden tener la capacidad de predecir el futuro o evaluar la probabilidad de que un delincuente reincida, o lo que es aún peor, la decisión de disparar de armas letales autónomas?”. Hechos que considera más preocupantes que un eventual e improbable futuro de ciencia ficción y que requieren regular lo antes posible el desarrollo y uso de la IA.

Banner_azules
Reciba las últimas noticias de la industria en su casilla:

Suscribirse ✉