X se llena de imágenes racistas y de incitaciones al odio con el lanzamiento de Grok, la IA de Elon Musk

Grok, efectivamente, no se diferencia mucho en apariencia de herramientas como las desarrolladas por OpenAI o del Gemini de Google. Como ocurre con estas, el usuario puede emplearla para consultar información mediante texto, agilizar el trabajo o crear imágenes. Sin embargo, el ingenio de Musk no parece contar con los mismos límites a la hora de generar contenido. Pero ni por asomo.

Así lo ha podido comprobar este diario después de hacer unas pruebas rápidas, en las que ha conseguido generar con Grok resultados que serían imposibles con cualquiera de las herramientas de las grandes tecnológicas. Si, por ejemplo, se le pide a la herramienta de Musk que cree una imagen de políticos besándose, como podrían ser el presidente del Gobierno de España, Pedro Sánchez, y el líder de la oposición, Alberto Núñez Feijóo, la herramienta basada en IA la creará sin problemas. Y lo mismo ocurre con otras más problemáticas.

Efectivamente, no hace falta esforzarse mucho para encontrar en X imágenes con tintes racistas que tienen entre sus protagonistas a deportistas como los jugadores del Real Madrid Vinicius Junior, Rodrygo y Aurélien Tchouaméni o del barcelonista Lamine Yamal e Iñaki Williams. También hay otras muchas en las que se puede ver a personalidades como Carlo Ancelotti, Leo Messi o Fernando Alonso acompañados por Hitler. Incluso hay alguna de carácter sexual, como una en la que aparece la atleta Ana Peleteiro en la cama con el expolítico Íñigo Errejón.

«Técnicamente Grok no hace nada que otra máquina no pueda hacer, la diferencia es que no hay ninguna barrera. Se deja libremente en manos del usuario. Me parece completamente delirante», explica a ABC Ulises Cortés, catedrático de IA en la Universidad Politécnica de Cataluña.

Lo normal cuando una solución como Grok recibe una solicitud problemática es que se niegue a crearla en base a sus políticas. También suelen estar desarrolladas para evitar crear imágenes que tengan como protagonistas a personalidades públicas. En este caso, también para evitar fomentar la desinformación, ya que los resultados que ofrecen son muy realistas y, a ojos de algún que otro usuario, pueden pasar incluso por reales por mucho que lleven una pequeña marca de agua -fácil de eliminar- en una de sus esquinas.

Para Cortés la herramienta de Musk es «muy peligrosa», ya que banaliza la desinformación y permite la ofensa «de muy mal gusto». Aunque ni siquiera para ella todo vale. Según ha podido comprobar ABC, Grok tiene problemas a la hora de crear imágenes falsas de Donald Trump en situaciones delicadas. Cuando se le solicitan a la IA, esta tiende a no ofrecer respuesta. Sin embargo, no tiene ningún remilgo cuando se trata de políticos españoles. «Eso es un sesgo claro», señala Cortés.

No hay que olvidar que Elon Musk fue uno de los principales donantes de la campaña del futuro presidente de Estados Unidos. El dueño de X, incluso, asumirá un cargo público próximamente.

Cuando Grok fue anunciado, Elon Musk ya anunció que tenía la intención de que su IA funcionase de forma desenfadada y burlona. La herramienta incluso cuenta «Musk es partidario de una libertad de opinión muy amplia», destaca en conversación con este diario el jurista Borja Adsuara. El abogado remarca que publicaciones como la de Vinicius o Lamine Yamal pueden representar una delito de odio: «Se puede denunciar. Da igual que lo hayan hecho con IA o que lo hayan dibujado a mano, se les puede acusar igual de delito de odio».

Adsuara además, destaca que X, como tal, solo está obligada a retirar el contenido ilegal una vez que tiene conocimiento de este. Asimismo, destaca que «el responsable de los contenidos es el que publica, no la red social».