California abre el camino para una ley que regule la IA en Estados Unidos: «Es bienintencionada, pero mal informada»

El gobernador de California, Gavin Newsom, tiene hasta el 30 de septiembre para firmarla o bien recurrir a su veto. La norma ha enfrentado fuertes críticas, incluyendo las de miembros demócratas del Congreso estadounidense, que argumentan que amenaza con medidas punitivas a los desarrolladores en un campo de innovación.

«La visión de muchos de nosotros en el Congreso es que la ley SB 1047 es bienintencionada pero mal informada», dijo recientemente la demócrata Nancy Pelosi, senadora por California en Washington y una de las voces más influyentes de su partido. «Queremos que California esté en la vanguardia de la IA de una forma que proteja a los consumidores, los datos, la propiedad intelectual y mucho más. Esta ley perjudica este fin más de lo que contribuye», agregó.

Pero el texto también ha contado con apoyo de figuras de la tecnología como el magnate Elon Musk, quien argumenta que los riesgos de la IA generativa justifican que se regule. Bautizada «Ley para una innovación segura en modelos pioneros de IA», busca impedir que estos algoritmos puedan causar daños que impliquen incidentes de ciberseguridad de gran escala e incluso la muerte de personas.

Wiener matizó que la ley obliga a los desarrolladores de modelos de IA a hacer pruebas de sus sistemas, simular ataques cibernéticos, instalar salvaguardias de ciberseguridad y brindar protección a denunciantes de fallos o de malas practicas.

Varias empresas de esta tecnología pionera, como OpenAI, creadora de la popular aplicación ChatGPT que genera contenidos con simples comandos en lenguaje cotidiano, se oponen a la norma. OpenAI teme por una fuga de cerebros de Estados Unidos y de Silicon Valley, y dijo que prefiere que se establezca una legislación para todo el país, en vez de regulaciones de IA para los cincuenta estados de Estados Unidos.

Otro de los jugadores de esta tecnología de punta, Anthropic, cree que los beneficios de la nueva ley «probablemente superen sus costos». Al menos cuarenta estados han presentado este año proyectos de ley para regular la IA, y media docena han adoptado resoluciones o promulgado leyes que abordan esta tecnología, según la Conferencia Nacional de Legislaturas Estatales.

La IA generativa es capaz de crear contenidos de buena calidad como textos, imágenes, videos, entre otros. Pero, según expertos, tiene el potencial de ir mucho más lejos y resolver importantes problemas, aunque también de causarlos.