El novedoso sistema que pretende erradicar el ciberacoso, el «sexting» o el «grooming»

Teniendo en cuenta estas cifras, Ciberalarma pone a disposición de padres y tutores el primer servicio de monitorización de redes sociales y mensajería instantánea (WhatsApp) que detecta este tipo de situaciones entre los pequeños de la casa.

«Hay que hablar con el menor», explica Federico Yanonne , socio fundador de Virtual Care, la compañía que ha diseñado el servicio. «Los padres tienen que hacerle entender que el servicio es bueno para todos, incluso para él, porque respeta su privacidad y va a estar protegido », añade el experto.

Y es que, aunque no lo crea, este servicio no supone una intromisión en su privacidad. «Tras la autorización de los padres o tutores y menor, lo que hacemos es conectarnos a su WhatsApp o redes sociales. A partir de ese momento, la inteligencia artificial (IA), entrenada para interpretar el lenguaje natural o imágenes, lee las conversaciones del menor para detectar las situaciones para las que es entrenada », explica Yanonne a ABC. Y es que el sistema es capaz de detectar ciberacoso ; « sexting » (el menor comparte fotos comprometidas de contenido sexual con otros); « grooming » (un adulto se hace pasar por un menor para extorsionarle); juegos de autolesión y comportamientos depresivos como la « ballena azul »; situaciones de bulimia, anorexia, adicción a drogas o pornografía; y comportamientos violentos, racistas, xenófobos, violencia de género , etc.

En realidad, el sistema no guarda ni almacena la actividad del menor en la Red. Tampoco es monitorizada por los ciberagentes, el personal encargado de gestionar las alarmas que llegan a la central. Tal y como explica el experto, en el momento en el que el sistema detecta una conversación de violencia, por ejemplo, salta la alarma. El agente tiene que validarla. Para ello, «revisa la conversación o la foto que la ha generado», sin conocer en ningún momento la identidad del menor o de sus progenitores. Si realmente se trata de una situación de violencia, se activa el protocolo de actuación, es decir, « el sistema avisa a los padres o tutores para que puedan tomar las medidas oportunas », enviándoles el contenido que ha generado la alarma al email. «Todo este proceso es anónimo», insiste.

«El sistema usa los credenciales de acceso, pero sin entrometerse en la privacidad del menor porque quien lee las conversaciones es la IA », aclara Yanonne. «Ni siquiera los padres se entrometen en lo que hace su hijo en WhatsApp o Instagram», continúa el experto, quien recuerda que sí es intrusivo el hecho de que el padre coja el móvil de su hijo y mire sus conversaciones.

Además, cada vez que el menor reciba una nueva conversación, saltará un aviso a la persona que haya contactado con él indicándole que el chat está siendo monitorizado por el servicio de Ciberalarma. «Esto es un componente disuasorio , clave para asuntos como la pederastia», asegura el experto, para quien «hasta ahora, lo que se está haciendo para proteger a los menores de los peligros en la Red tiene que ver con la formación, prevención y concienciación, pero realmente lo que no hemos visto es que haya algo focalizado en la erradicación». Y este es el objetivo del nuevo servicio.