El Papa es una mujer y los vikingos eran negros: los fallos históricos garrafales de la IA de Google

Todo después de que numerosos internautas comenzasen a compartir en redes sociales contenido creado con Gemini en el que se podía ver cómo la máquina había cometido varios errores históricos a la hora de crear imágenes de soldados alemanes de la Segunda Guerra Mundial, papas católicos, presidentes de Estados Unidos o vikingos, por poner algunos ejemplos.

«Estamos trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini. Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a publicar una versión mejorada», ha afirmado Google en un comunicado realizado en su cuenta oficial de X, red social anteriormente conocida como Twitter.

En el comunicado, el gigante de las búsquedas, y posiblemente el actor más activo dentro de la actual guerra que libran varias tecnológicas para lanzar las herramientas más potentes basadas en inteligencia artificial, la empresa no hacía referencia a las imágenes compartidas en redes sociales.

Entre ellas, se pueden ver algunas en las que los usuarios solicitaban a la máquina que crease imágenes de soldados alemanes de la segunda guerra mundial. El resultado: la máquina compartía contenido en el que se podía ver a mujeres asiáticas y a personas negras vistiendo uniformes que, aparentemente, son de las SS del régimen nazi.

Los usuarios también compartieron imágenes creadas con IA en las que aparecían mujeres cuando los usuarios pedían imágenes del Papa o mujeres negras cuando solicitaban creaciones de vikingos. «Es vergonzosamente difícil lograr que Google Gemini reconozca que existen los blancos», afirmó un empleado de Google mostrando más imágenes facturadas con la IA de la empresa para la que trabaja.

Los resultados de Gemini en la generación de imágenes históricas no son especialmente sorprendentes para cualquier que haya trasteado mínimamente con este tipo de herramientas. Las empresas detrás de su desarrollo se esfuerzan mucho para evitar que puedan crear contenido que pueda resultar ofensivo o discriminatorio. Lo que las empresas quieren es que todos los usuarios se puedan ver reflejados en sus resultados. Porque el daño reputacional para la empresa, en caso de que no fuese así, podría ser grande.

«Como parte de nuestros principios de IA, diseñamos nuestras capacidades de generación de imágenes para reflejar nuestra base global de usuarios y nos tomamos en serio la representación y los prejuicios», ha apuntado a este respecto en un comunicado en X Jack Krawczyk, director del equipo de Gemini.

Krawczyk, además, ha señalado que la compañía es «consciente» de que «Gemini ofrece imprecisiones en algunas representaciones de generación de imágenes históricas» y se está trabajando «para solucionarlo de inmediato». El ejecutivo reconoce que «los contextos históricos tienen más matices». Que no es lo mismo, por tanto, que un usuario le pida a una IA que le cree un soldado alemán de 1943 que solicitar un soldado alemán a secas. Los detalles importan.