«Sin una regulación clara, la inteligencia artificial puede destruir los derechos»

Habla el director del Centro de Documentación Jurídica del Poder Judicial (Cendoj), Joaquín Silguero, desde el cuartel general de este organismo con sede en San Sebastián, en Guipúzcoa. Y lo dice sin necesidad de que nadie saque el tema. La Inteligencia Artificial está «de moda» y la posibilidad de que una herramienta de ese tipo bucee en la jurisprudencia que almacena, trata y clasifica el Cendoj no es ya una utopía.

«Esta base es tan grande que es oro para hacer desarrollos basados en Inteligencia Artificial, pero como los algoritmos pueden tener sesgos y estar orientados a determinadas cosas incluso no de forma evidente, y además va muy deprisa, mientras no tengamos autoridades de supervisión reales en España y en Europa, todos los derechos fundamentales pueden destruirse. No vamos a entrar ahí».

Noticia Relacionada

Una base de ocho millones de sentencias donde 'los malos' se llaman Severo, Braulio o Nemesio

Isabel Vega

Un algoritmo con hasta 30 filtros de protección de datos mantiene el anonimato en las resoluciones que almacena el Cendoj para que sean de acceso público

Pone como ejemplo que una empresa acceda a los datos de sentencias del Cendoj y con la Inteligencia Artificial bebiendo de otras fuentes, pueda averiguar si la persona que le está pidiendo un empleo demandó alguna vez a una empresa anterior. Se podría, de igual modo, clasificar la delincuencia por etnias, nacionalidades e incluso profesiones. Pero también puede ser fuente de servicio público: desde conocer cuáles son los barrios más o menos conflictivos hasta los puntos negros de tráfico. Está todo ahí, sentenciado.

El Cendoj dedica un gran esfuerzo económico (más de un millón y medio de euros al año) a preservar el anonimato de los concernidos por las sentencias que recopila, a golpe de algoritmos que cambian los nombres y esconden los datos sensibles. El problema es la capacidad de la Inteligencia Artificial para sortear los filtros. A veces, basta cruzar la sentencia con una noticia en prensa para saber quién es quién.

«Viendo ese peligro, lo que estamos haciendo son nuestros propios desarrollos de IA, para que se limiten sólo a lo que tenga interés jurídico y no a la parte afectada por protección de datos», explica. Entrenan máquinas para reconocer fundamentos jurídicos, leer textos enteros e identificar palabras clave que engrosen un tesauro de jurisprudencia o hacer resúmenes, «donde no te juegas nada».

Silguero cree en la capacidad de la inteligencia artificial para mejorar así el sistema de justicia, otra cosa, dice, es hablar de que redacte resoluciones por los jueces. «Las máquinas no tienen hoy por hoy ningún acierto en el plano contextual, máximas de experiencia y hechos notorios como que si tienes delante dos personas de avanzada edad y sin estudios, sabes que van a tener difícil encontrar empleo. Eso se deduce de la experiencia, y las máquinas, hoy por hoy, no lo ven».

Confía en que la presidencia española de la UE se zanje con la aprobación de un reglamento que ponga límites a la IA y blinde los derechos del ciudadano, por ejemplo, a saber si lo que recibe lo ha confeccionado una máquina. Y a partir de ahí, se verá.