Microsoft limita la polémica herramienta de reconocimiento facial que detecta emociones

La compañía tecnológica ofrece 'software' de reconocimiento facial con servicios como Azure Face, que forma parte de Azure Cognitive Services, que presenta algoritmos de IA capaces de detectar, reconocer y analizar caras humanas, unas funciones que permite a los usuario el acceso sin contacto o la verificación de identidad, pero que han hecho saltar las alarmas en los organismos a favor de los derechos humanos.

Ya en junio de 2020, Microsoft dejó de vender tecnología de reconocimiento facial a los departamentos de Policía de Estados Unidos, a la espera de la resolución de un reglamento estricto cimentado en los derechos humanos.

Actualmente, distintos legisladores en Estados Unidos y Europa están sopesando las limitaciones legales de estos servicios, que en muchas ocasiones son tachados de poco confiables o invasivos.

Con el objetivo de construir sistemas de IA de forma responsable, Microsoft ha compartido su marco estándar en un documento público, en el que ha detallado por primera vez cómo desarrolla y aplica esta tecnología, que se basa en una serie de principios: j usticia, fiabilidad, privacidad y seguridad, inclusividad, transparencia y responsabilidad.

Microsoft también ha anunciado que en el último año, investigadores, ingenieros y expertos en políticas de privacidad han elaborado la segunda versión de su estándar inicial, que se lanzó internamente en 2019.

Asimismo, ha desvelado que, tras conocer un estudio académico realizado por Stanford Computational Policy Lab, en el que se reveló que la tecnología de texto a voz discriminaba a la población negra y afroamericana, se centró en solucionar dicho problema con un estándar de IA que acabara con esa brecha.

Por otra parte, el fabricante ha destacado que ha revisado el potencial de la tecnología Custom Neural Voice, de Azure AI, que permite crear voces artificiales prácticamente idénticas a las originales.

Tras ese análisis, ha adoptado un marco de control por capas para evitar el mal uso de este sistema y ha anunciado que está limitando el acceso a estos servicios a ciertos clientes y socios.

Asimismo, Microsoft ha advertido que, como parte de su trabajo para alinear su servicio Azure Face con los requisitos del nuevo estándar, está retirando las capacidades «que infieren en estados emocionales y atributos de identidad, como el género, la edad, la sonrisa, el vello facial, el cabello y el maquillaje».

En este sentido, la compañía ha anunciado que a partir de ahora los nuevos clientes deberán solicitar acceso para utilizar las operaciones de reconocimiento facial en servicios como Azure Face API, Computer Vision y Video Indezer.

Por el contrario, los clientes ya existentes disponen de un año para solicitar y recibir la aprobación correspondiente para acceder a estos servicios. De ese modo, a partir del 30 de junio de 2023, estos clientes ya no podrán acceder a las capacidades de reconocimiento facial si su solicitud no ha sido aprobada.

Esta limitación no incluye las capacidades de detección facial, incluida la borrosidad, la exposición, el ruido o el cuadro delimitador facial, que permanecerán disponibles y no requieren una aplicación adicional.

La empresa ha tomado esta decisión después de colaborar con investigadores internos y externos para comprender las limitaciones y los beneficios potenciales de esta tecnología, así como sus desventajas. «En el caso específico de la clasificación de las emociones, estos esfuerzos plantearon cuestiones importantes sobre la privacidad, la falta de consenso sobre una definición de las 'emociones' y la incapacidad de generalizar el vínculo entre la expresión facial y el estado emocional en los casos de uso, las regiones y la demografía», ha subrayado.