Acusan a TikTok de viralizar vídeos racistas hechos con la IA de Google

Entre los vídeos localizados por la organización destacan los contenidos en los que se se asocia a gente negra con monos o criminales, uno de ellos ha llegado a recibir más de 14,2 millones de visualizaciones en la 'app' de origen chino.

«Los usuarios también publican videos engañosos generados por IA sobre inmigrantes y manifestantes, incluyendo videos en los que manifestantes son atropellados por autos», señalan desde Media Matters. La asociación, además, destaca un contenido «especialmente distópico» en el que aparecen «campos de concentración y ataques del Ku Klux Klan contra estadounidenses negros».

Este tipo de contenido está prohibido según las políticas de TikTok. La red social prohíbe la subida de vídeos que deshumanizan a grupos raciales y étnicos, así como los que «amenazan o expresan el deseo de causar daño físico a una persona o un grupo». Sea como sea, esta no sería, ni mucho menos, la primera vez que el sitio experimenta problemas a la hora de retirar contenido prohibido. La empresa recientemente despidió a parte de su equipo internacional de moderadores para delegar parte del trabajo, precisamente, en la inteligencia artificial.

Un portavoz de la TikTok ha señalado a ABC que en la aplicación se aplican "de forma proactiva normas estrictas contra los discursos y comportamientos que incitan al odio". La red social señala que ya ha, y hemos eliminado las cuentas que aparecen identificadas en el informe de Media Matters, "aunque muchas de ellas ya estaban bloqueadas antes de la publicación del mismo".

Efectivamente, como señala Media Matters, los vídeos parecen estar desarrollados en su mayoría al menos con Veo 3. El resultado conseguido es muy realista, y los vídeos incluso cuentan con sonido, una característica que no está disponible en la inmensa mayoría de herramientas dedicadas a la generación con IA. Algunos de ellos también aparecen con la marca de agua de la herramienta de Google en una de las esquinas.

Como ocurre con TikTok, el buscador estadounidense prohíbe el uso de su tecnología para la generación de «resultados dañinos». Lo habitual en estos casos sería que Veo 3 directamente bloquease la solicitud; aunque no sería la primera vez que algún usuario consigue 'engañar' a la máquina para que termine fabricando contenido que no debería.

ABC también se ha puesto en contacto con Google para consultar la investigación de Media Matters. Por el momento, no ha respondido a la solicitud.