El fundador de ChatGPT advierte de la necesidad de regular la IA: «Si esta tecnología sale mal, puede salir muy mal»

Los gobiernos de todo el mundo están bajo presión para tomar medidas después del lanzamiento en noviembre del ChatGPT, un bot capaz de mantener conversaciones coherentes a tiempo real y organizar información, aunque en ocasiones puede no ser fiable o segura.

Noticia Relacionada

Google deja a su inteligencia artificial fuera de España por los problemas de privacidad de ChatGPT

Rodrigo Alonso

Ningún país de la UE se encuentra entre los 180 que podrán emplear Bard

El senador Richard Blumenthal, presidente del subcomité, pronunció su comentario de apertura sobre los peligros de la IA, escrito usando ChatGPT y leído por un software entrenado con su voz real. «Si estuvieras escuchando desde casa, podrías haber pensado que esa voz era mía y las palabras mías, pero de hecho, esa voz no era mía», indicó.

Los legisladores debatieron con Altman y otros dos expertos la necesidad de regular los sistemas informáticos que podrían «destruir literalmente nuestras vidas«, en palabras del senador Lindsey Graham.

El Congreso de Estados Unidos evoca regularmente la necesidad de regular internet, para proteger mejor la confidencialidad de los datos y promover una mayor competencia. Pero las divisiones políticas han bloqueado la mayoría de los proyectos de ley sobre el tema desde hace años.

La llamada IA generativa, desplegada por OpenAI, Microsoft y Google - capaz de crear contenidos, textos, imágenes, sonidos o videos con solo una solicitud - ha planteado el problema de la regulación tecnológica. Muchos están preocupados por su eventual impacto en numerosas profesiones, con posibles recortes masivos de empleos, y fundamentalmente en la sociedad en su conjunto. Los senadores repasaron estas áreas, como los algoritmos sesgados y la difusión de información errónea cada vez más sofisticada.

«OpenAI se fundó con la creencia de que la inteligencia artificial tiene el potencial de mejorar casi todos los aspectos de nuestras vidas, pero también crea serios riesgos», reconoció Altman. «Uno de mis mayores temores es que nosotros, esta industria, esta tecnología, causemos un daño significativo a la sociedad«, dijo. »Si esta tecnología va por el camino equivocado, puede llegar bastante lejos. (...) Y queremos trabajar con el gobierno para evitar que eso suceda«.

El empresario recordó que si bien OpenAI es una empresa privada, está controlada por una organización sin fines de lucro, lo que la obliga a «trabajar para una distribución amplia de los beneficios de la IA y a maximizar la seguridad de los sistemas basados en IA».

Altman ya ha expresado su apoyo al establecimiento de un marco regulatorio para la IA, preferiblemente a nivel internacional. «Sé que parece ingenuo proponer algo así, parece muy difícil» de lograr, pero «hay precedentes», aseguró, citando el ejemplo de la Agencia Internacional de Energía Atómica (OIEA).

La idea de crear una agencia federal despertó cierto entusiasmo, pero tendría que estar dotada de los recursos suficientes, subrayó Blumenthal.«Y no solo estoy hablando de dólares, estoy hablando de experiencia científica», apostilló. Sin embargo, Altman señaló que la regulación en sí misma no estaba exenta de riesgos.

«Si la industria estadounidense se queda atrás, China o algún otro país pueden avanzar más rápido», señaló. También insistió en que cualquier medida no sofoque la investigación independiente y, en cambio, se centre en empresas dominantes como la suya.