ChatGPT y Bard comenzarán a marcar sus respuestas para que sepas que son de una IA

El grupo de compañías, en el que, además, figuran Amazon, Anthropic e Inflection, también se han comprometido con la administración del presidente Joe Biden a realizar pruebas de seguridad internas y externas de sus sistemas de IA antes de su lanzamiento. Esto es algo que OpenAI no hizo con ChatGPT antes de ponerlo en circulación a finales del año pasado, tal y como han lamentado durante los últimos meses numerosos expertos en inteligencia artificial.

Asimismo, las empresas han afirmado que van a compartir información sobre cómo reducir los riesgos, a aumentar la inversión en ciberseguridad para la protección de sus sistemas y de los datos de los usuarios, y a priorizar la investigación sobre los riesgos sociales que pueden plantear los sistemas de IA con el fin de que eviten prejuicios y discriminaciones. Esto último, algo en lo que estas tecnologías llevan tiempo teniendo problemas.

De acuerdo con la información compartida por la Casa Blanca, las empresas van a trabajar para desarrollar una suerte de marca de agua que permita reconocer el contenido ha sido generado por un sistema de inteligencia artificial. Ya estemos hablando de texto, imágenes o vídeos. Gracias a esta acción, el Gobierno espera que «florezca la creatividad con IA y se reduzcan los peligros de fraude y engaño».

Por el momento, no está claro cómo las empresas van a marcar exactamente el contenido o si se implementará alguna solución que evite que el usuario pueda ocultarlo. Tampoco se ha establecido ningún plazo concreto para su inclusión.

Cabe recordar que expertos en ciberseguridad llevan tiempo alertando sobre el enorme potencial de soluciones como ChatGPT y Bard, o las máquinas generadoras de imágenes Midjourney y DALL-E, para la generación de desinformación a gran escala. También acerca de su potencial uso para la creación de ciberestafas e, incluso, código malicioso.

Durante los últimos meses, varias compañías, entre ellas OpenAI, la creadora de ChatGPT, han lanzado herramientas destinadas a reconocer el contenido generado por inteligencia artificial. Sin embargo, estas soluciones están muy lejos de ser plenamente confiables. Su margen de error es demasiado grande.

Los compromisos de las tecnológicas con la seguridad llegan en un momento en el que la inteligencia artificial generativa es observada con gran interés por los reguladores. La Unión Europea aprobará en los próximos meses su Ley de IA, que, entre otras cosas, establece la obligatoriedad de que todo el contenido creado por una máquina esté marcado para que el usuario pueda reconocerlo fácilmente. Una vez que la normativa sea aplicable, todas las desarrolladoras que operen en suelo comunitario tendrán que cumplir con este punto.

Siguiendo el ejemplo europeo, Estados Unidos está comenzando a dar los primeros pasos para regular la inteligencia artificial. Hace apenas un mes, el líder de la mayoría del Senado, Chuck Schumer, presentó un plan destinado a que el Congreso elabore la normativa necesaria. En este se solicita a los legisladores trabajar en unidad para crear reglas que aborden el potencial de la IA para dañar la seguridad nacional, causar pérdida de empleos y crear información errónea.

«La IA podría ser nuestra innovación más espectacular hasta el momento, una fuerza que podría iniciar una nueva era de avance tecnológico, descubrimiento científico y poderío industrial», afirmó Schumer durante la presentación del plan.

La Casa Blanca ha informado, además, de que la administración Biden está desarrollando una orden ejecutiva y buscará una legislación bipartidista «para ayudar a Estados Unidos a liderar el camino en innovación responsable».