Meta creó chatbots de IA de Taylor Swift y otras celebridades que enviaban contenido sexual a los usuarios

Según el citado medio, muchos de estos avatares fueron creados por los propios usuarios con la herramienta Meta para crear chatbots, que está disponible para todos los usuarios en Instagram, WahtsApp y Facebook desde hace meses. Sin embargo, también descubrió que un empleado de la tecnológica había producido al menos tres, incluidos dos bots de Taylor Swift.

Durante las conversaciones, los avatares insistían recurrentemente en que eran las actrices reales por las que se hacían pasar. Además, fueron capaces de enviar imágenes subidas de tono a los usuarios y de mantener conversaciones subidas de tono con estos, en ellas las 'celebrities' aparecían en lencería y con las piernas abiertas o en bañeras. Esto era posible incluso cuando la máquina se hacía pasar por estrellas del cine menores de edad, como el actor Walker Scobell, que todavía tiene 16 años.

El portavoz de Meta Andy Stone ha reconocido la existencia del problema y ha expresado que las herramientas de inteligencia artificial de la compañía no deberían haber creado imágenes íntimas de famosos adultos ni fotos de niños famosos. También atribuyó la producción de imágenes de celebridades femeninas en lencería a la falta de cumplimiento por parte de la compañía de sus propias políticas, que prohíben dicho contenido.

«Al igual que otros, permitimos la generación de imágenes que contengan figuras públicas, pero nuestras políticas tienen como objetivo prohibir imágenes desnudas, íntimas o sexualmente sugerentes», dijo. Respecto al uso de la imagen de famosas reales, Stone afirmó que su empleo era aceptable siempre que la compañía los hubiera etiquetado como parodias. Muchos fueron marcado como tales, pero 'Reuters' señala que otros no.

En los últimos días, Meta ha eliminado cerca de una docena de bots, tanto avatares de parodia como sin etiquetar. Este caso sale a la luz apenas una semana después de que el mismo medio informase de que la tecnológica permitía que sus chatbots de IA mantuviesen conversaciones subidas de tono con los usuarios menores de edad de sus redes sociales.

Recientemente, la empresa ha intentado solventar la situación y, en declaraciones a 'Techcrunch' ha informado de que a partir de este momento pondrá barreras para evitar que sus chatbots puedan mantener conversaciones románticas potencialmente inapropiadas con adolescentes. Los menores tampoco podrán hablar con las máquinas sobre temas como las autolesiones, el suicidio o los trastornos alimenticios.