Un dron militar de EE.UU. controlado por Inteligencia Artificial 'mata' a su operador en una simulación: «Usó estrategias altamente inesperadas»

Así lo reveló el coronel Tucker 'Cinco' Hamilton, jefe de Pruebas y Operaciones con Inteligencia Artificial de la USAF (la Fuerza Aérea de los EE.UU.), durante la Cumbre de Capacidades Aéreas y Espaciales para el Combate del Futuro celebrada hace unos días en Londres. No obstante, posteriormente matizó sus palabras para negar que esa simulación se hubiera producido y adujo que se trataba de un experimento «hipotético».

La Real Sociedad Aeronáutica británica ha colgado en su web un resumen de las conferencias de la convención, en la que participaron 70 oradores y más de 200 delegados del mundo empresarial, militar y académico, y, entre ellas, está la del coronel Tucker.

Tucker expresó sus recelos a confiar en la Inteligencia Artificial y aseguró que la simulación demuestra que «no se puede tener una conversación sobre inteligencia artificial y aprendizaje automático y autonomía, si no se va a hablar de ética». En su relato, el militar estadounidense aseguró que la IA a la que se encargó destruir las defensas antiaéreas de un supuesto enemigo utilizó «estrategias altamente inesperadas para lograr su objetivo».

Noticia Relacionada

La primera ministra danesa pronuncia un discurso escrito por el ChatGPT y nadie se entera

Rosalía Sánchez

Mette Frederiksen utilizó este recurso para alertar sobre los peligros de la Inteligencia Artificial y la necesidad de regularla

«El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero ella veía ventajas de eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo», aseguró Tucker, según los resúmenes de esa conferencia.

Por eso, continuó en la conferencia, «entrenaron al sistema». «Le dijimos: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso'. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo», aseguró Tucker.

Apenas unos días después, cuando la noticia se había hecho viral, el coronel matizó sus palabras y aseguró en un comunicado a la Real Sociedad Aeronáutica que «no se expresó correctamente» durante su presentación y que se trataba de un «experimento hipotético» ajeno al Ejército que no se basaba en ninguno actual, según recoge 'Business Insider'.

En términos similares se expresó poco después Ann Stefanek, portavoz de las Fuerzas Aéreas estadounidenses, en declaraciones a 'Business Insider': «El Departamento no ha llevado a cabo ninguna simulación de este tipo con drones de IA y sigue comprometido con el uso ético y responsable de esta tecnología».

Esta noticia ha sido actualizada con información sobre las puntualizaciones sobre las declaraciones del coronel Tucker y las afirmaciones de Ann Stefanek.