El problema persiste: Facebook reconoce que cada vez tiene más publicaciones violentas

Un dato preocupante que coincide en plena efervescencia social acerca del uso de los datos personales de la compañía. En su informe de transparencia, la red social ha asegurado que en este periodo se eliminaron más de 2,5 millones de mensajes de contenido violento y cargados de odio. En el 38% de las ocasiones los sistemas de detección automática bloquearon las publicaciones, pero se «escaparon» otras tantas lo que demuestra que esta tecnología «aún no funciona tan bien» por lo que «deben ser revisados por nuestros equipos», explica en un comunicado Guy Rosen , vicepresidente de producto de Facebook.

En ese sentido, Facebook ha explicado que entre 22 y 27 artículos de cada 10.000 publicaciones en este primer trimestre contenían violencia explícita y gráfica en comparación con las entre 16 y 19 registradas el pasado año. Un escenario que, para mitigarlo, la compañía optó por eliminar el contenido o advertir a los usuarios del contenido en unos 3,4 millones de «posts», casi el triple que el año pasado cuando se llevó a cabo esta tarea en unos 1,2 millones de entradas en la red social.

Pese a que no existe una relación causa-efecto clara , desde la multinacional subrayan que entre los motivos por los que se ha producido este crecimiento de publicaciones violentas se encuentra el recrudecimiento de la guerra en Siria. «Cada vez que comienza una guerra, hay un gran aumento en la violencia gráfica», apunta Alex Schultz , vicepresidente de análisis de datos de Facebook. El conflicto sirio, en particular, estalló en 2011, pero continuó este año con numerosos enfrentamientos entre los rebeldes y el ejército del presidente Bashar al Asad, al tiempo que Israel, recientemente, atacó infraestructuras militares de Irán en el país.

Facebook también ha insistido en que los mensajes no deseados, la mayoría orientados a desinformar, se han incrementado en los últimos meses. En particular, la red social eliminó 837 millones de mensajes no deseados o «spam», 21 millones con contenido sexual, 2,5 millones de discursos de odio y 1,9 millones de mensajes relacionados con grupos terroristas , lo que en conjunto equivale a un crecimiento del 56% respecto al año anterior. En el 100% de los casos -asegura- se bloqueó antes de que recibiera audiencia y que este aumento se debe, en opinión de la empresa, a las «mejoras en los sistemas de detección».

La crisis de las «fake news» o noticias falsas es otro frente abierto por la compañía. Durante el primer trimestre de 2018 se desactivó alrededor de 583 millones de cuentas falsas, «la mayoría de las cuales se inhabilitaron minutos después del registro», según Schultz. Unas cifras a las que hay que sumar los millones de intentos de crear cuentas falsas que evitó la red social. En general, alrededor del 3% al 4% de las cuentas activas de Facebook durante este período eran falsas.

«Aún tenemos mucho trabajo por hacer para evitar el abuso. En parte, tecnologías como la inteligencia artificial, si bien son prometedoras, aún están a años de ser efectivas para la mayoría de los contenidos tóxicos porque el contexto es muy importante», considera Schultz. Por ejemplo, la inteligencia artificial aún no es lo suficientemente buena como para determinar si alguien está enalteciendo un discurso de odio o, por el contrario, describiendo una situación personal para dar conocer el problema.