La UE aprueba la ley para controlar los peligros de la inteligencia artificial

La normativa aprobada (con 499 votos a favor, 28 en contra y 93 abstenciones) regulará la IA según el nivel de riesgo. De este modo, cuanto mayor sea el peligro que representa para los derechos o la salud de las personas, mayores serán las obligaciones a las que estará sujeto el sistema en cuestión. Algunos, incluso, serán prohibidos completamente, como es el caso de los que que puedan ser empleados para «la manipulación cognitiva del comportamiento de personas o grupos vulnerables» o los que clasifiquen a las personas «en función de su comportamiento, estatus socioeconómico o características personales».

La lista de alto riesgo, que es el segundo grado de peligrosidad, incluye el uso de la IA en infraestructura crítica, educación, recursos humanos, orden público y gestión de la migración. El Parlamento Europeo ha agregado condiciones adicionales antes de que se cumpla la clasificación de alto riesgo, incluida la posibilidad de dañar la salud, la seguridad, los derechos fundamentales o el medio ambiente.

Los legisladores europeos también incluyeron en el paquete la prohibición al uso generalizado de sistemas automáticos de reconocimiento facial en lugares públicos. Sin duda, uno de los puntos más espinosos de la normativa y que, todavía, podría sufrir cambios durante los debates que mantendrán los estados miembro al respecto del proyecto final de la ley.

El Partido Popular Europeo ha expresado durante los últimos meses la necesidad de que la normativa garantice la posibilidad de recurrir a herramientas de reconocimiento facial, tanto en tiempo real como en grabaciones, en la lucha contra el terrorismo y en la búsqueda de personas desaparecidas, especialmente en el caso de menores.

«Es crucial garantizar la seguridad. Por eso esta legislación debe contar con instrumentos eficientes para, por ejemplo, prevenir atentados terroristas, buscar personas desaparecidas y, en especial, poder actuar en todo aquello que afecte a la vida de los niños. En todos estos casos debe haber una autorización judicial y una definición temporal de aplicación», apuntó ayer la eurodiputada del PP Pilar del Castillo.

La normativa también establece requisitos especiales para los sistemas de inteligencia artificial generativa, como ChatGPT y DALL-E, capaces de crear, respectivamente, texto e imágenes a demanda. El proyecto establece que estos sistemas, y las empresas que hay detrás, estarán obligados a revelar que el contenido que crean ha sido generado por IA y a publicar resúmenes de los datos protegidos por derechos de autor utilizados para su entrenamiento. Los desarrolladores también deberán diseñar el modelo para evitar que genere contenidos ilegales.

Los planes originales de la Unión Europea para regular el uso de la inteligencia artificial se remontan a 2021, sin embargo, la normativa comenzó a avanzar a gran velocidad después que ChatGPT irrumpió en escena, poniendo de relieve el vertiginoso desarrollo de esta tecnología. A partir de ahora, se iniciarán de inmediato (posiblemente ya al fin de esta misma jornada) las negociaciones directas con los 27 países del bloque, con la idea de tener un acuerdo sellado para finales de año.

Aún si se alcanza ese objetivo, la normativa no entraría en vigor hasta 2026, y por ello la UE tendrá que negociar, previsiblemente, un marco provisional y voluntario con las empresas tecnológicas que desarrollan IA.