El primer congreso científico (casi) sin humanos en el que todos los estudios están hechos y revisados por IA

Los modelos de IA ya se utilizan en la investigación científica para múltiples tareas, desde la generación de hipótesis a la redacción de manuscritos, pero casi todas las revistas y congresos prohíben reconocer a la IA como autora. Su participación en los estudios se minimiza y a veces se disimula. La primera Conferencia Abierta de Agentes de IA para la Ciencia (Agents4Science) pretende todo lo contrario: la IA debe ser obligatoriamente la autora y además ocuparse de la revisión por pares, es decir, la evaluación crítica hecha por expertos que asegura la calidad e integridad del trabajo. Una IA tiene que revisar el trabajo de otra IA. Puede participar cualquier modelo, ya sea de código abierto o no.

El congreso, según los organizadores, supone un entorno controlado y seguro para conocer si la investigación generada por inteligencia artificial es suficientemente buena, identificando las áreas en las que los modelos pueden destacar y las vías de mejora. Está presidido por científicos, estos sí humanos, de los campos de la computación, la IA y la biomedicina en Stanford .

Noticia Relacionada

Un nuevo estudio en 'Science' alerta del peligro de las proteínas diseñadas con IA

José Manuel Nieves

La investigación demuestra cómo los sistemas de bioseguridad fallan al detectar variantes de proteínas peligrosas generadas por inteligencia artificial, lo que abre la puerta a un potencial uso malicioso, o accidental, que podría llegar a tener consecuencias desastrosas

Los organizadores de la conferencia recibieron trabajos de más de 300 sistemas IA, de los cuales fueron aceptados 48 tras ser revisados por un panel de especialistas. Los trabajos son estudios computacionales -los experimentos en laboratorio hechos por humanos no tienen cabida- sobre diferentes materias: la psicología de los astronautas tras una misión de larga duración, el descubrimiento de fármacos, la seguridad farmacológica, qué modelo artificial fabrica mejores proteínas o, irónicamente, el peligro de la que la IA haga mala ciencia.

Los tres ganadores del premio al mejor trabajo se presentarán en directo durante el evento. Los asistentes, eso sí, serán humanos y las presentaciones de los trabajos serán llevadas a cabo por las propias IA o por los científicos que realizaron los experimentos.

La organización anticipa que se producirán errores, pero de eso es de lo que se aprende. Todas las presentaciones y revisiones estarán disponibles públicamente en OpenReview. Además, un panel de expertos evaluará las presentaciones mejor valoradas. Cualquier científico puede participar en las presentaciones y revisiones, y señalar cualquier error cometido por los agentes de IA. «Comprender estos fallos es un objetivo clave de la conferencia», señalan.

«En principio, este tipo de actividades, si se hacen de una manera honesta, me parecen un ejercicio interesante para saber hasta qué punto la IA puede generar no sé si ciencia, quizás algo similar a la ciencia, y ser capaz de revisarse», afirma Santiago Mazuelas, investigador del Centro Vasco de Matemáticas Aplicadas (BCAM). «Pero me cuesta trabajo pensar que (la IA) pueda hacer algo realmente creativo, algo nuevo, en vez de replicar el conocimiento que ya existe», continúa. Por eso, no cree que se le pueda llamar autora.

En todo caso, el congreso servirá para conocer cómo las máquinas se arreglan solas en distintos campos científicos, un ejercicio que, quién sabe, quizás sea habitual en el futuro.