Investigando sobre los riesgos de la Inteligencia Artificial

El Future of Life Institute (FLI), con sede en Boston, ha anunciado recientemente la selección de los 37 equipos de investigación de todo el mundo. Plantea adjudicar alrededor de 7 millones de dólares como parte de un primer programa dedicado a «mantener la IA beneficiosa».

El programa se inicia con un número creciente de celebridades, incluyendo a Bill Gates, Elon Musk y Stephen Hawking que alzan la voz sobre la preocupación de sistemas de IA c onsecuencias potencialmente desastrosas . Los equipos ganadores, elegidos entre casi 300 candidatos de todo el mundo, van a investigar una serie de temas relacionados con las ciencias de la informática, el derecho, la política, la economía y otros campos relevantes relacionados con la IA.

Los 37 proyectos que se financian incluyen los siguientes proyectos, que van desde el desarrollo de técnicas para sistemas de inteligencia artificial, con el objetivo de aprender lo que los humanos prefieren al observar nuestro comportamiento , con proyectos en la Universidad de Berkeley y la Universidad de Oxford.

Otro proyecto, este de Benja Fallenstein en el Instituto de Investigación en Inteligencia automática, se basa en cómo mantener el interés de los sistemas superinteligentes alineados con los valores humanos , mientras que otra tesis liderado por Manuela Veloso de Carnegie-Mellon intenta crear sistemas de IA para explicar las decisiones de los seres humanos. Finalmente, un estudio realizado por Michael Webb, de la Universidad de Stanford, sobre cómo los impactos económicos de la inteligencia artificial.

El cofundador de Skype Jaan Tallinn y uno de los fundadores del FLI, ha descrito esta nueva línea de investigación como «El lanzamiento de un cohete. El primer reto es maximizar la aceleración , pero una vez que comience a ganar velocidad, también será necesario centrarse en la dirección».

Al igual que «Terminator Génesis» se estrena esta semana, los organizadores han destacado la importancia de separar los hechos de la ficción. «El peligro con el escenario de Terminator no es qué va a suceder, sino qué distrae de los verdaderos problemas que plantea el futuro de la Inteligencia Artificial », ha expresado el presidente del FLI, Max Tegmark . «Debemos ayudar a resolver este tipo de problemas reales». El FLI tiene la misión de catalizar y apoyar la investigación para salvaguardar el efecto positivo en la humanidad teniendo en cuenta las nuevas tecnologías y sus desafíos».