Un tercio de los científicos que trabajan en IA creen que su uso podría desencadenar una catástrofe global

Según se explica en la revista New Scientist, los avances de los últimos años han permitido un uso mucho mayor de modelos de IA con impresionantes capacidades, incluida la escritura de código de computadora y la creación de imágenes a partir de simples indicaciones de texto.

Distintos mandos militares de Estados Unidos han expresado ya sus reticencias sobre la posibilidad de armar drones inteligentes con armas nucleares. Pero países como Rusia ya están trabajando en ello, y actualmente están desarrollando un 'torpedo de drones' con capacidades autónomas capaz de lanzar, por sí mismo, un ataque nuclear a gran escala.

La preocupación que refleja la encuesta fue mucho mayor entre las mujeres. El 46% de las investigadoras encuestadas, en efecto, se mostraron de acuerdo con la premisa.

Según Michael, es muy posible incluso que la encuesta haya subestimado el número de investigadores que creen que la IA plantea riesgos graves. Muchos de ellos, en efecto, habrían estado de acuerdo si el peligro planteado fuera menos extremo que el de una guerra nuclear total. Por ejemplo, dice Michael, el 57% de los encuestados consideraron el desarrollo de grandes modelos de IA como 'pasos significativos hacia la Inteligencia Artificial general'. Es decir, a una IA con capacidades intelectuales iguales a las de los humanos. Y otro 73% estuvo de acuerdo en que la automatización del trabajo a causa del uso de la IA podría conducir a cambios sociales con el mismo impacto de la revolución industrial.

Con todo, y dado que para los próximos años se esperan avances significativos en el desarrollo de la IA, el hecho de que 'solo' el 36% de los encuestados vea posible un riesgo catastrófico podría considerarse como alentador, ya que el restante 64% no opina de la misma forma.