Nobel de Física para Geoffrey Hinton, el padrino de la inteligencia artificial que advierte de sus peligros

Estos hallazgos pusieron las bases a la creación de los grandes modelos de lenguaje actuales, como ChatGPT y otros chatbots que han cambiado el mundo. Pero Hinton, cuya empresa compró Google, dejó Silicon Valley el pasado año para advertir de los peligros de la tecnología que ayudó a crear. Ha afirmado numerosas veces que puede llegar el día en el que las máquinas se vuelvan tan inteligentes que seamos incapaces de controlarlas, idea que ha vuelto a repetir tras conocer, "muy sorprendido", su galardón.

"Aprender es una fascinante habilidad de la mente humana. Ponemos a millones de neuronas a trabajar juntas, dotándolas de habilidades neurológicas. El aprendizaje automático (o 'machine learning') se inspira en esto y utiliza conceptos fundamentales de la física estadística", ha dicho Ellen Moons, presidenta del Comité Nobel de Física, tras el anuncio de los premiados. Sus hallazgos "tienen enormes beneficios que afectan a nuestro futuro y es nuestra responsabilidad utilizar esta tecnología de forma ética, para el mayor beneficio de la humanidad", ha señalado.

Noticia Relacionada

Los mayores expertos en inteligencia artificial alertan de que la IA pone en «riesgo de extinción» al ser humano

R. Alonso

Apuntan que «mitigar el riesgo» debería ser una «prioridad mundial», como ocurre con las pandemias y el armamento nuclear

Hopfield (Universidad de Princeton, EE.UU.) y Hinton (Universidad de Toronto, Canadá) han desarrollado su trabajo durante décadas. El estadounidense creó una memoria asociativa que puede almacenar y reconstruir imágenes y otros tipos de patrones en los datos. Por su parte, el británico utilizó la red de Hopfield como base para crear una nueva con un método diferente: la máquina de Botzmann, que podía aprender a reconocer elementos característicos en un tipo determinado de datos. La máquina se entrena alimentándola con ejemplos que es muy probable que surjan cuando se la ejecuta. Así, es capaz de analizar miles de fotos e identificar cosas habituales, como perros y coches, de forma muy eficaz. Google le compró la empresa, que se convirtió en la base para desarrollar tecnologías cada vez más potentes, incluyendo nuevos chatbots como ChatGPT y Google Bard.

Pero el año pasado, Hinton renunció a su trabajo en Silicon Valley para advertir de los peligros que suponen estos chatbots. Los ha llegado a señalar como una "amenaza para la humanidad" por su capacidad para "eliminar millones de puestos de trabajo, comprometer elecciones por vídeos falsos, lanzar ciberataques mucho más efectivos y desarrollar virus de guerra biológica muy peligrosos".

Tras conocer el galardón, Hinton, que también fue premiado con el Fronteras del Conocimiento de la Fundación BBVA en 2017 y el Princesa de Asturias de Investigación Científica y Técnica en 2022, ha asegurado sentirse "sobrepasado". "No sé lo que ha pasado. Estoy muy sorprendido", ha afirmado escuetamente en conexión telefónica con la academia. "Estoy en un hotel barato en California que no tiene buena conexión a internet ni al teléfono -ha explicado-. Iba a hacerme una resonancia magnética hoy, pero tendré que cancelarla", ha dicho con humor.

Al ser preguntado sobre si se arrepiente sobre su descubrimiento y las consecuencias de este, ha afirmado que "hay dos tipos de remordimientos: los que tienes por sentirte culpable por haber hecho algo y los que tienes por lo que podrías haber hecho, pero no haces. En mi caso es el segundo. Estoy preocupado por las consecuencias de que las máquinas se hagan tan inteligentes que no tengamos control sobre ellas".

Que un premio Nobel se arrepienta de las consecuencias de sus hallazgos no suele ser lo más habitual. Sobre estos peligros potenciales, Moons ha señalado que es "bueno que la preocupaciones se expresen", ya que "contribuyen al conocimiento". A su juicio, "es importante que tanta gente como sea posible acceda al aprendizaje automático, que no quede solo en manos de unos pocos individuos". En este sentido, Hans Ellegren, secretario general de la Real Academia Sueca de Ciencias, ha indicado: "Muchos descubrimientos tienen potencialmente riesgos, pero es nuestra responsabilidad regularlo y eso también incluye a la inteligencia artificial".

Pese a las posibles amenazas, "el trabajo de los galardonados ya ha sido de gran utilidad. En física, utilizamos redes neuronales artificiales en una amplia gama de áreas, como por ejemplo en el desarrollo de nuevos materiales con propiedades específicas", ha defendido Moons.

Santiago Mazuelas, investigador del Centro Vasco de Matemáticas Aplicadas (BCAM), considera el nuevo Nobel de Física "muy merecido". Las redes neuronales artificiales en las que han trabajado los galardonados durante décadas "han sido muy importantes en el campo del 'machine learning' y han hecho posibles tecnologías como ChatGPT o aplicaciones generadoras de texto e imagen".

No comparte los temores de Hinton: "Creo que la IA es un tipo más de tecnología como internet o la telefonía, y como cualquier otra con grandes potenciales, puede ser utilizada con fines perversos. Pero, en general, tiene un efecto positivo en la sociedad". Según explica Mazuelas, beneficiario de una beca Leonardo de la Fundación BBVA en 2018 por un proyecto de aprendizaje automático, la IA "solo reproduce el comportamiento observado en muchos ejemplos y aprende patrones que el ser humano no es capaz de observar. Sin embargo, la inteligencia humana es capaz de deducir lógicamente y de tener en cuenta consideraciones éticas, entre otras muchas capacidades".

Además del reconocimiento, los ganadores se llevan una suma que supera los 800.000 euros. En año pasado, la Real Academia Sueca de Ciencias galardonó a Anne L'Huillier, Pierre Agostini y Ferenc Krausz por haber creado, mediante experimentos, destellos de luz lo suficientemente cortos como para captar instantáneas de los movimientos extremadamente rápidos de los electrones.

Tal como explican en la página web de los premios, el Nobel de Física se ha concedido 117 veces a 224 expertos entre 1901 y 2023. John Bardeen es el único galardonado que lo ha recibido dos veces, en 1956 y 1972.

El lunes, el premio Nobel de Medicina 2024 fue ortorgado a Victor Ambros y Gary Ruvkun por un descubrimiento fundamental sobre el funcionamiento de las células: los microARN, pequeñas moléculas de ARN que juegan un papel clave en la regulación de los genes.