DeepSeek, la regulación de la IA y el sector salud

Con la emergente aparición del fenómeno chino, de una u otra forma, todos los sectores se han visto colateralmente afectados. Ciertos resortes de la economía han temblado. En ámbitos como el de la salud y la medicina, ente otros sectores, se abre la reflexión y el debate. Si, por un lado, gracias a ser una tecnología de código abierto y descentralizada, ciertos expertos la destacan como el paso hacia la democratización de la IA por su gran eficiencia y bajo coste, sumado a su efectividad y calidad, por otro lado, otros doctos en la materia cuestionan su vulnerabilidad en lo que a privacidad y seguridad se refiere.

¿Por qué el código abierto genera pasión y, a la vez, preocupación?

Cuando escuchen la denominación de open source (del inglés: «código abierto»), se refiere a un modelo de programación o desarrollo de software en el que el código fuente de un programa es accesible para que cualquier persona lo pueda ver, modificar y distribuir libremente.

Esta metodología permite que una comunidad de desarrolladores colabore en su mejora, corrección de errores y adaptación a diferentes necesidades. Al ser público, cualquiera puede examinar el código. El problema es que, también, aquellos actores malintencionados que buscan vulnerabilidades para explotarlas tienen acceso. Por otro lado, hay quienes opinan que esa apertura y descentralización permite que más actores revisen el código, aumentando no solo la transparencia sino también la seguridad. Y aquí surge la primera controversia que motiva, todavía más si cabe, el debate y la reflexión sobre los límites de la regulación.

Sobrerregulación vs. el caos

El surgimiento de DeepSeek es mucho más que la irrupción en el mercado de otro competidor en el sector de la IA; supone la revolución de algo que, ya de por sí, es revolucionario para la humanidad, como es la inteligencia artificial. Si en algo existe consenso, es en la importancia de esta tecnología para la competitividad de las empresas, para el progreso de los países y para el avance de la ciencia. Es recurrente en foros, congresos y en los medios escuchar quién está en la tête de la course hoy, y que es clave situarse en la primera posición de la pole position en esta carrera tecnológica. En mis clases y conferencias de estrategia, si bien destaco la importancia de la velocidad en los procesos, también enfatizo la prudencia a la hora de acelerar y medir los riesgos. Porque en toda carrera, después de una recta, siempre vienen curvas.

Durante mi participación en el III Foro Europeo de Inteligencia Artificial, puse en valor el potencial de la IA y sus aplicaciones en el sector de la salud y el bienestar de las personas. En este congreso, compartí cartel con personas expertas en regulación sobre esta tecnología disruptiva, procedentes de la Comisión Europea y de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA), entre ellas su director, Ignasi Belda. Algo en lo que todos coinciden es en la importancia y la necesidad de establecer y de respetar las reglas del juego.

Siempre destaco el daño que puede generar una excesiva e innecesaria sobrerregulación, a la vez que advierto del peligro de la anarquía, el desorden y el caos por no establecer bien las normas y los límites. En el punto medio está la virtud. La clave radica en encontrar el equilibrio. Y, como me gusta decir «a veces toca sorber y soplar a la vez». Ese es el reto.

Durante el programa que recientemente he realizado en el Massachusetts Institute of Technology (MIT), «Inteligencia Artificial Generativa Aplicada a la Transformación Digital», profundizamos en varias temáticas clave: la privacidad, la seguridad, el sesgo y las alucinaciones de la IA. En este sentido, no podemos obviar ni pasar por alto los riesgos que se plantean ante la irrupción de la inteligencia artificial y, especialmente, con la aparición de nuevos desarrollos como DeepSeek en estas materias.

¿Qué son las alucinaciones en entornos de inteligencia artificial?

En resumen, son resultados incorrectos o engañosos que generan los modelos de IA. Estos errores pueden deberse a diversos factores, como datos de entrenamiento insuficientes, suposiciones incorrectas realizadas por el modelo o sesgos en los datos usados para entrenar el modelo. Si nos detenemos a pensar en los posibles riesgos que esto puede suponer en escenarios como el del sector salud, efectivamente, precipita a la reflexión.

El caso de la IA en el sector de la salud

No podemos excluir de la ecuación que la inteligencia artificial propicia el progreso de la medicina, que busca la solución de enfermedades y que persigue optimizar el cuidado de las personas. Es más, sin ella, ciertos avances de la ciencia serían imposibles. Su uso es esencial, especialmente con la hibridación de otras tecnologías e innovaciones como la nanotecnología, la genómica, la robótica, la realidad virtual, la biometría, la cuántica o el internet de las cosas, entre otras.

La aportación de valor de la IA al sector de la salud y el bienestar es clara e irrefutable. Muchas enfermedades que hoy no tienen cura, como la ELA, el Alzheimer, el Cáncer o el Parkinson, entre otras, un día tendrán solución fruto de la fusión del talento humano y la tecnología. En mi opinión, a continuación, enumero las diez propuestas de valor más relevantes que ofrece la IA en combinación con las anteriormente citadas innovaciones de vanguardia:

1. El reto de la prevención, detección y diagnóstico temprano de enfermedades.

2. La generación de nuevos biomarcadores.

3. Conseguir una medicina de precisión y personalizada.

4. Diseñar de forma ágil nuevos medicamentos y suplementos más eficaces.

5. Mejorar la experiencia y la asistencia del paciente.

6. La automatización y la eficiencia en los procesos administrativos.

7. El desafío en la cirugía robótica y nanorrobótica asistida.

8. La monitorización remota y en tiempo real del paciente.

9. El empoderamiento de los profesionales de la salud.

10. La creación de gemelos digitales de áreas anatómicas.

Estos días he podido participar en think tanks y conversar con personas que han asistido a Arab Health, posiblemente la feria y conferencia sobre medicina y salud más grande de Oriente Medio. Celebrada anualmente en Dubái, este año alcanza su 50.ª edición, consolidándose como un evento clave para presentar innovaciones médicas y tendencias que marcarán el futuro del sector.

La inteligencia artificial tuvo un gran protagonismo en esta edición, celebrada en el World Trade Center de Dubái. Se profundizó en las aplicaciones prácticas de la IA y sus potenciales soluciones en el sector sanitario, centrándose en la IA generativa y las aplicaciones clínicas, explorando cómo estas tecnologías están transformando el sector.

Asimetría mundial regulatoria en sector salud

Uno de los temas recurrentes en el debate fue la asimetría existente entre los diferentes países en lo que a regulación y supervisión se refiere. Los asistentes a este congreso se encontraron con proyectos de empresas nacidos en países en los que no existe regulación o es mínima, frente a otros desarrollados en territorios como Europa o Estados Unidos, donde sí la hay.

Concretamente en el sector de la salud, la regulación de la inteligencia artificial es un tema trascendental y de máximo rigor tanto en Estados Unidos como en Europa. En ambos territorios, la normativa establece que la IA en salud debe funcionar como una herramienta de apoyo al profesional de la salud.

Sin entrar en detalle, es relevante destacar que, en EE. UU., la Administración de Alimentos y Medicamentos (FDA) requiere aprobación previa para herramientas de IA utilizadas en diagnóstico o recomendación médica. En Europa, la Ley de Inteligencia Artificial clasifica los sistemas médicos de IA como de «alto riesgo», exigiendo mecanismos de supervisión médica para el diagnóstico y la prescripción automatizados. Además, el Reglamento de Productos Sanitarios (MDR) establece requisitos adicionales de certificación para garantizar la seguridad de estas tecnologías.

Implementar inteligencia artificial aplicada a la salud y el bienestar en estos, y otros territorios, requiere un enfoque riguroso y conlleva una supervisión que no debe tomarse a la ligera. Un contraste evidente con la actitud más laxa observada en otras regiones.

¿Es necesario avanzar hacia un marco regulatorio global para garantizar la seguridad y la ética en el uso de la inteligencia artificial en salud?

Cuatro reflexiones antes de implementar la IA

Durante mi ponencia en el Congreso Europeo de Inteligencia Artificial, enuncié cuatro reflexiones de suma importancia que todo equipo debe realizar antes de su implementación en cualquier organización, incluso antes de la fase de experimentación o testeo. Son las siguientes:

1. La inteligencia artificial siempre debe estar alineada con la visión, la misión y los valores de la organización.

2. La IA no debe ser un fin en sí misma, sino un medio o herramienta para alcanzar un propósito.

3. El límite lo tiene que marcar la ética, convirtiéndose en esa gran barrera inquebrantable, incluida la seguridad y la privacidad.

4. Las personas siempre deben estar en el centro. Partimos de la base de que el ser humano es insustituible e irreemplazable.

Dicho lo anterior, si bien debemos reconocer los aspectos positivos de la irrupción de DeepSeek, su impacto como proyecto emprendedor y el entusiasmo que genera su potencial, no podemos perder de vista un factor clave: la seguridad de la humanidad y del planeta.

En este sentido, si en otros sectores podemos ser más laxos, en lo que se refiere a la salud y el bienestar de las personas, el principio de prudencia debe imperar. Abro el debate: en un escenario sin coherencia regulatoria global, la llegada e implementación de nuevos modelos de inteligencia artificial como DeepSeek nos plantea una pregunta ineludible: ¿innovación, revolución, regulación o riesgo?

Manuel Bonilla es director corporativo de innovación del Grupo AB Living & SHA Wellness Clinic, profesor y speaker