¿Podemos perder el control de la IA?

Según un estudio llevado a cabo por investigadores del Instituto Max Planck para el Desarrollo Humano y publicado en la revista 'Journal of Artificial Intelligence Research', la humanidad será totalmente incapaz de controlar una superinteligencia artificial de alto nivel. El problema es que para controlar esa hipotética inteligencia, sería necesario disponer de una simulación de ella. Pero si no podemos comprenderla será imposible crear esa simulación.

Para los autores, reglas del tipo 'no causar daño a los humanos' serían del todo imposibles de establecer si no entendemos la clase de escenarios que se le ocurrirán a la inteligencia artificial (IA). De modo que una vez que un sistema informático empiece a funcionar a un nivel superior y fuera del alcance de nuestros programadores, ya no seremos capaces de establecer límites.