Mujeres negras, las más «discriminadas» por el sistema de reconocimiento facial

Sin embargo, la tecnología avanza de forma paralela a los cambios que llegan a los consumidores, y el famoso iPhone X ya afirmaba que incorporaría el reconocimiento facial gracias al Face ID del iPhone X . Un sistema que promete desbancar a su predecesor, aunque ya ha demostrado que aún le queda un amplio recorrido. El último escollo, que aún tendrá que superar, es un estudio del Instituto Tecnológico de Massachusetts (MIT) , que revela un sesgo en el algoritmo que rige este sistema.

Así, Joy Buolamwini , investigadora del MIT Media Lab, ha descubierto que se muestran inexactitudes en la identificación del género (reconoce más fácilmente a hombres que a mujeres) y por el color de la piel (identifica con mayor fiabilidad a personas con piel clara que a las que tienen una tez oscura). Para llegar a esta conclusión, estudió los datos pertenecientes a 1.270 rostros y probó tres sistemas diferentes fabricados por Microsoft, IBM y Megvii, compañía china.

En concreto, para hombres de tez blanca, los errores llegaban al uno por cuento. En mujeres blancas, subían hasta el 7. En hombres negros, hasta el 12 por ciento. Y, finalmente, en mujeres negras, la tecnología se equivocaba en un 35 por ciento de los casos , tal y como recoge The Verge en un artículo .

No se trata de la primera crítica a una tecnología que aún está dando sus primeros pasos. En 2015 la polémica surgió cuando la aplicación Google Fotos identificaba como «gorilas» a las personas de color . Aunque el gigante pidió perdón y aseguró que lo arreglaría, aún no ha podido solucionar el problema del algoritmo correctamente, por lo que ha optado por cortar el problema de raíz y eliminar la etiqueta de «gorila» y «mono» de su sistema de reconocimiento facial.

También se ha intentado poner al servicio de la justicia este sistema, pero tal y como destapó una investigación en el diario The Atlantic, esta tecnología emitía muchos falsos positivos de sospechosos de delitos en personas afroamericanas.

Aunque en este estudio señalan que los algoritmos no están intencionalmente sesgados, las múltiples investigaciones apuntan a que aún queda mucho recorrido en la fiabilidad de esta tecnología. «Dado que la tecnología de visión por ordenador se está utilizando en sectores de alto riesgo como el cuidado de la salud y la aplicación de la ley, se necesita trabajar más en la evaluación comparativa de algoritmos de visión para varios grupos demográficos y fenotípicos », afirmó Buolamwini.

Más aún si se tiene en cuenta recientes análisis que señalan que más de mil millones de teléfonos inteligentes utilizarán este sistema en 2020, liderados por Apple y Samsung, con los fabricantes chinos empujando por detrás. «En 2018 esperamos que todos los principales fabricantes de teléfonos móviles lancen teléfonos emblemáticos con capacidad de reconocimiento facial. Algunos también se inspirarán en el diseño de Apple. Además de los productos estrella, esperamos que el reconocimiento facial en 2D llegue a los productos de gama media de las principales marcas de teléfonos chinos», señala Neil Shah , director de Investigación de la compañía de análisis de productos tecnológicos Counterpoint .

Aunque el reconocimiento de sensores biométricos es ya una realidad (además de las huellas y la cara, se trabaja en tecnología de reconocimiento del iris o la voz), parece que el sistema aún tendrá que afinarse en los próximos años.