Armas biológicas
¿Y si la próxima pandemia la genera una inteligencia artificial?
Más de 160 científicos de todo el mundo han firmado una iniciativa para que el diseño de proteínas con herramientas de aprendizaje profundo, una revolución sin igual en el campo de la biología, no pueda ser utilizado con fines malévolos. Los investigadores David Baker, George Church, César de la Fuente, la Nobel Frances Arnold y Eric Horvitz, jefe científico de Microsoft, explican a ABC por qué es necesario controlar esta tecnología y cuáles son sus auténticos riesgos
Una inteligencia artificial de Google predice la estructura de casi todas las proteínas conocidas y cambia la ciencia
Todas las revoluciones tienen un lado oscuro. DeepMind, una de las empresas de inteligencia artificial (IA) pioneras y con mayor influencia, comenzó una en 2018 cuando presentó su proyecto AlphaFold, considerado ya sin ninguna discusión un hito de la biología. Sus redes neuronales generativas eran capaces de predecir la estructura de proteínas a una velocidad pasmosa. Uno de los grandes retos de la ciencia quedaba resuelto, aunque entonces no se advertían los peligros.
Las proteínas son los componentes básicos de la vida. Forman la sangre, los músculos, el cabello, las hormonas... Están por todas partes y han evolucionado para realizar un sinfín de tareas esenciales, desde digerir alimentos a detener infecciones. Saber cómo funcionan supone arrancar a la vida una buena parte de sus secretos. Pero no es tan fácil. Las proteínas se pliegan como un origami, cada una a su manera según su función. Con un método tradicional de cálculo se tardaría más que la edad del universo en conocer todas las posibilidades para una sola, pero DeepMind hizo que pareciera un juego de niños.
En 2022 AlphaFold2 se abrió al público y más de un millón de científicos, entre ellos los principales laboratorios de biología del mundo, accedieron a la herramienta en los meses posteriores para investigar el tratamiento de enfermedades poco frecuentes, la resistencia a antibióticos, la creación de materiales sostenibles o el mismo origen de la vida. Si antes se conocían unas 190.000 proteínas (el 0,1% de las existentes), DeepMind aportó 200 millones de una tacada, lo que equivale a casi todas las conocidas. Antes se tardaba semanas o meses en descubrir la forma y función de una, ahora podían obtenerse en segundos.
Más de un centenar de científicos firman una iniciativa en contra de crear armas biológicas con IA
El documento exige el uso seguro y ético del diseño de proteínas con estas nuevas herramientas
La cuestión es que de la misma manera que se persigue crear moléculas con diseño computacional para sacar adelante nuevos fármacos -el año pasado se aprobó el primero, la vacuna SKYCovione contra el Covid-19- alguien podría hacer lo mismo para implementar agentes biológicos peligrosos y utilizarlos como armas. Dario Amodei, director ejecutivo de la empresa de IA Anthropic, advertía ante un comité del Senado estadounidense que la inteligencia artificial podría ayudar a actores malévolos, de otra forma incapaces, a cometer ataques biológicos a gran escala, como la liberación de virus o sustancias tóxicas que causen enfermedades y muerte.
«Hay que examinar y registrar todas las moléculas que se intenten fabricar»
David Baker
Crea proteínas de la 'nada'
Recientemente, más de 160 investigadores de todo el mundo especializados en el diseño de proteínas con IA han firmado un acuerdo para garantizar que estas tecnologías no pongan al mundo en peligro. Convencidos de que los beneficios «superan con creces el potencial de daño», no quieren limitarlas, sino asegurarse de que su investigación «siga siendo beneficiosa para todos en el futuro», escriben.
«Las proteínas pueden hacer muchas cosas notables: detener infecciones, aprovechar la luz solar e incluso máquinas microscópicas. Ahora (con el aprendizaje profundo) podemos crear nuevas moléculas con funciones igualmente sorprendentes. Mi laboratorio trabaja en proteínas que capturan y almacenan carbono, se ensamblan en motores y descomponen el plástico», relata a este periódico el bioquímico estadounidense David Baker, famoso por desarrollar proteínas 'de la nada' y uno de los impulsores de la iniciativa. Desde el Instituto para el Diseño de Proteínas, en Seattle, dirige un equipo de más de un centenar de personas entre biólogos e ingenieros que también buscan nuevos medicamentos y vacunas.
Con el fin de evitar riesgos, Baker apuesta por «examinar y registrar todas las moléculas que se intenten fabricar». De esta forma, todos los datos de síntesis y secuencia de genes sintéticos se almacenarían en repositorios. Si surge una nueva amenaza biológica en cualquier parte del mundo, las secuencias de ADN asociadas podrían rastrearse hasta sus orígenes. Se sabría quién, cuándo y cómo se ha hecho.
Resucitar moléculas
El español César de la Fuente, Premio Fundación Princesa de Girona de Investigación Científica 2021, lidera el Machine Biology Group en la Universidad de Pensilvania (EE.UU.), que tiene como objetivo principal desarrollar nuevos antibióticos con ayuda de la IA 'resucitando' moléculas en organismos extintos, como los neandertales. Muchos candidatos han logrado reducir infecciones en roedores y el investigador planea crear una compañía para llevar algunos de ellos a la fase clínica y comercializarlos. También firmó el documento. «Es importante tener una serie de principios que rijan nuestro trabajo», afirma en una viodeollamada. Considera que los riesgos son «mínimos», mucho menores que en la ingeniería de virus y bacterias, un campo donde aún no ha entrado la IA, pero «existe la posibilidad de que alguien pueda crear una toxina que actúe como una bioarma de destrucción masiva en una guerra, algo que pueda transmitirse entre personas o entre personas y animales», señala.
Otro hipotético peligro, aunque sería muy difícil que ocurriera, es una proteína autorreplicante que salga de laboratorio y, como hace el prion que causa la enfermedad de las vacas locas, se replique de forma autónoma y actúe como un elemento infeccioso.
«Hace falta un consenso como el que se logró con el virus de la viruela»
George Church
Quiere 'resucitar' un mamut
Hay un punto que no contempla el manifiesto pero que De la Fuente considera de gran interés. «Hemos explorado todos los organismos extintos conocidos por la ciencia con un nuevo algoritmo de IA (APEX) y hemos encontrado antibióticos en criaturas del pasado como mamuts, pingüinos extintos o el perezoso gigante. Debemos preguntarnos si está bien traer de vuelta a la vida moléculas que no están presentes en el mundo desde hace miles de años. La desextinción molecular supone un dilema bioético y debemos acordar una serie de normas», reflexiona.
Pero, ¿en manos de quién debe quedar la bioseguridad? El investigador cree que debe depender de un triángulo formado por científicos, tecnólogos (grandes compañías como Google que desarrollan modelos como ChatGPT) y gobiernos que implementan las leyes. Por su parte, el genetista estadounidense George Church, profesor en la Escuela Médica de Harvard y fundador de Colossal Biosciences, la compañía que pretende 'resucitar' al mamut lanudo a partir de 2028, pide un consenso internacional sin fisuras respecto al código ético en este campo, «de la misma forma que se hizo con el virus de la viruela», el más letal de la historia y considerado una potencial arma biológica. «Tenemos un consenso casi completo sobre la vigilancia (del riesgo de la IA en la investigación biológica) y necesitamos llegar al 100% a través de la ONU, la OMS... Trabajé en un pequeño comité sobre este tema con Kofi Annan cuando era secretario general de la ONU y en uno posterior con Ban Ki-moon y ambos me apoyaron bastante», dice a ABC.
"Debemos permanecer atentos a los usos malévolos de la IA. Hay que desarrollar regulaciones y mejores prácticas"
Eric Horvitz
Director científico de Microsoft
Eric Horvitz, director científico de Microsoft, tiene una postura similar al respecto. "La IA ya está generando avances revolucionarios en biociencias y atención sanitaria. Tan solo en los últimos años, se ha utilizado para crear vacunas, antibióticos y terapias contra el cáncer novedosas y potentes, y hay numerosos avances en el horizonte. Si bien tengo grandes expectativas sobre las ventajas, debemos permanecer atentos a sus posibles usos malévolos en biología. Esto requiere la colaboración con múltiples partes interesadas del mundo académico, el gobierno y la sociedad civil, así como el desarrollo de regulaciones y mejores prácticas. Trabajando juntos, podemos aprovechar las maravillosas posibilidades de la IA y, al mismo tiempo, mitigar los posibles daños y desafíos", comenta.
«Alguien podría crear una toxina que actúe como una bioarma de destrucción masiva»
César de la Fuente
Hace antibióticos con moléculas de seres extintos
Sílvia Osuna, de la Universidad de Girona y la Institución Catalana de Investigación y Estudios Avanzados, diseña enzimas para acelerar reacciones químicas y crear nuevos fármacos para reducir el colesterol o la diabetes, e incluso dormir mejor. Pone el acento en que «muchos de estos algoritmos son de acceso abierto, cualquiera podría descargarse el software y usarlo, por ejemplo, para generar nuevas variantes de un virus», explica. Sin embargo, coincide con el resto de los investigadores consultados en que la bioseguridad no puede ser una excusa para acabar con el intercambio de información o la comunicación transparente, características distintivas de la ciencia moderna.
Modelos como ChatGPT
Otra española que apoya el manifiesto es Noelia Ferruz, del Instituto de Biología Molecular en Barcelona. Implementa modelos de lenguaje similares a ChatGPT para diseñar proteínas 'a la carta' útiles contra el cáncer o el cambio climático. Pero no cree que «a día de hoy» esta tecnología pueda suponer un riesgo. «Diseñar un virus como el del Covid resultaría muy complicado. Además, es que no hace falta diseñar proteínas para hacer algo nocivo. El virus de la gripe española está completamente secuenciado. Nada prohíbe a alguien maligno utilizarlo y esparcirlo por el mundo», indica. Otro problema, reflexiona, es que «no pasa nada si no cumples lo que has firmado. Precisamente, las empresas como Open AI o Microsoft, que son las que tienen recursos para entrenar modelos más grandes y potencialmente más peligrosos, no figuran en la lista (Sí lo hace Eric Horvitz, director científico de Microsoft). Al final es un acto de fe».
«Las ventajas de la IA son enormes. Nos permitirá fabricar de forma sostenible»
Frances Arnold
Premio Nobel de Química 2018
En general, los científicos son optimistas y resaltan las múltiples ventajas de la IA. «Creo firmemente que permitirá que la biotecnología proporcione nuevas formas de fabricar lo que necesitamos en nuestra vida diaria (combustibles, productos químicos, materiales, productos farmacéuticos) de manera mucho más sostenible. La ventaja es enorme. Por esa razón, debemos asegurarnos de que las posibles desventajas sean mínimas», señala en un correo electrónico una de las firmantes más distinguidas, la estadounidense Frances Arnold, del Instituto de Tecnología de California y Premio Nobel de Química en 2018 por su papel en la evolución dirigida, el desarrollo de proteínas que no existen en la naturaleza.
MÁS INFORMACIÓN
Como afirma César de la Fuente, «con la IA tenemos cientos de miles de candidatos a antibióticos en cuestión de horas. Antes tardabas años. Es tremendamente emocionante. Mi sueño es que nos traiga medicinas y terapias que puedan ayudar a la humanidad. Veremos adónde nos lleva el futuro».
Esta funcionalidad es sólo para suscriptores
Suscribete
Esta funcionalidad es sólo para suscriptores
Suscribete