Detenidos 25 miembros de un organización criminal dedicada a distribuir imágenes de abuso infantil generadas por IA

Este viernes, Europol ha informado de la detención de 25 miembros de una organización criminal dedicada a distribuir imágenes de abusos a menores generadas por inteligencia artificial. Ha sido la primera operación en la que el equipo participaba con material completamente generado por dicha tecnología. Según la Policía, la red criminal funcionaba a través de un 'jefe' que se encargaba de mover todos los hilos.

El cabecilla, un ciudadano danés, creaba la pornografía utilizando un programa de IA de código abierto y después la ofrecía en una página web. A través de ella y de un «pago simbólico», los usuarios de todo el mundo accedían a las imágenes, sin ser conscientes de que estaban observando una «recreación» generada por IA.

Noticia Relacionada

Fábricas de pornografía de bolsillo: la IA amenaza con inundar internet con desnudos de menores

Javier Palomo

Un organismo de vigilancia británico ha encontrado en la 'dark web' más de 3.000 imágenes de abuso a niños que infringen la ley de Reino Unido

Su detención en noviembre de 2024 fue el punto de partida de una operación internacional liderada por la policía danesa, en la que han participado otros 18 países —como Reino Unido, Australia o España— que les ha conducido a la detención del resto de personas durante una intervención simultánea llevada a cabo este miércoles, como sospechosos de formar parte de un grupo delictivo. Han llevado a cabo 33 entradas y registros en domicilios, y 173 dispositivos electrónicos han sido incautados. En nuestro país se han realizado cuatro registros y los agentes han detenido a dos individuos, de Madrid y Barcelona, con edades comprendidas entre los 20 y los 40 años. En ocho discos duros incautados en España había más de 16.800 archivos con contenido pedófilo.

Pero la 'Operación Cumberland' sigue abierta, y los agentes han identificado a otras 273 personas sospechosas de haber participado en algún momento en la red criminal, por lo que las detenciones podrían ir en aumento en los próximos días. «La lucha contra la explotación sexual infantil es una de las principales prioridades de las fuerzas del orden», detalla Europol en una nota, donde inciden en que esto «incluye» los casos en los que «el contenido es totalmente artificial y no aparece ninguna víctima real», pues «contribuye igualmente a la cosificación y sexualización de los niños».

Pese a la percepción clara de Europol sobre los delitos de IA, la agencia policial también puntualiza que la falta de legislación en muchos países que contemple claramente estas imágenes como crímenes ha dificultado perseguir a los creadores y consumidores de este tipo de contenidos. Reino Unido, por ejemplo, anunció en enero que tipificará a los 'deepfakes' como delitos, con el fin de ponerse a la par con el reglamento sobre IA de la UE. Sin embargo, en España, pese estar incluido en el Código Penal, existen ambigüedades que dificultan la tramitación del delito.

El Código Penal español incluye como delito en el artículo 189 la «pornografía virtual o técnica infantil» que implica el uso de la imagen o voz modificada de los menores, aunque descarta «los materiales que por su tosquedad revelen su condición de montaje». Esto, en palabras de la abogada especializada en Derecho Penal y ciberdelincuencia Gema Martínez, da pie a varias «interpretaciones». «Aquí hay debate, porque pese a que se vea claramente que es un montaje, es el intento de recrear el desnudo de un menor y por tanto se debería perseguir de igual manera», sentencia, a la que vez que añade que «la legislación española está llena de ambigüedades». Debido a ello, explica que Justicia se replantea en estos momentos ampliar este artículo para subsanar las grietas que existen en su formulación.

Además de la legislación, otra problemática son las propias herramientas de IA, que pese a que las más famosas como ChatGPT, DeepSeek o Grok impiden en su normativa ética generar contenidos pornográficos, los delincuentes encuentras maneras para sortear los bloqueos.

«Cualquier persona in grandes conocimientos técnicos pero con intenciones delictivas puede descargarse una IA de código abierto y ejecutarla. Solo necesita una tarjeta gráfica y un disco duro», detalla Antonio Fernandes, experto en ciberseguridad. Esto permite que un usuario, con contenidos de índole sexual de menores en su poder, pueda entrenar su algoritmo para producir pornografía en masa. «Detrás de una imagen de pornografía infantil hay miles de millones de cuerpos desnudos de niños en la base de datos de la IA. Por mucho que chirríe en la cabeza y se piense que las imágenes son falsas y que no hay un menor real detrás, lo cierto es que la nueva imagen se ha formado con cientos de partes de niños abusados», explica Fernández.

Por su parte, el experto en ciberseguridad Josep Albors apunta a que «esto no es algo que no se hiciera antes con el Photoshop, la diferencia ahora recae en la facilidad y la rapidez con la que se producen los contenidos». Esto, sumado a lo realistas que son las imágenes, también preocupa a los agentes de seguridad. Su mayor temor es que estos contenidos distraigan a los equipos de detectar abusos reales y ayudar a las víctimas. «Como si no fuera suficiente que las víctimas sepan que su abuso puede estar siendo compartido en algún rincón oscuro de internet, ahora corren el riesgo de enfrentarse a recreaciones basadas en ellos que nunca antes habían imaginado», lamenta Gema Martínez.