Amazon «despide» a su Inteligencia Artificial de reclutamiento por sexista

Tal y como informa Reuters, la herramienta secreta basada en IA con la que Amazon elegía a quienes podían formar parte de la compañía mostró un sesgo muy claro contra las mujeres .

La compañía de Jeff Bezos empezó en 2014 a construir programas informáticos que revisaban los currículos de los aspirantes. El objetivo era mecanizar la búsqueda y dar con los mejores talentos, según han confesado a Reuters fuentes cercanas a la compañía.

La automatización ha sido clave para el dominio del comercio electrónico de Amazon, ya sea dentro de almacenes o impulsando decisiones de precios. La herramienta experimental de contratación de la compañía usó IA para puntuar a los candidatos con entre una y cinco estrellas, tal y como se califican los productos que los usuarios compran a través de la página web.

En 2015, la compañía se dio cuenta de que su nuevo sistema no estaba calificando a los candidatos para los trabajos de desarrollador de software y otros puestos técnicos de manera neutral al género. Tal y como explica Reuters, esto se debe a que se educó a la IA con currículos de candidatos recopilados durante una década . La mayoría de ellos eran hombres así que la IA fue entrenada con un claro dominio masculino . Así, el sistema informáticos de Amazon siempre optaba por hombres. Se penalizaron los currículos que incluían la palabra «mujeres», con independencia de su formación.

Amazon editó los programas informáticos para hacerlos neutrales pero no funcionó. Los candidatos seguían clasificándose de manera discriminatoria así que la compañía de Seattle finalmente disolvió la IA a principios de 2017 porque los ejecutivos perdieron la esperanza de que el proyecto se encauzase.

La compañía nunca ha ofrecido declaraciones al respecto de esta práctica sexista al mismo tiempo que siempre ha defendido que está comprometida con la diversidad y la igualdad en el trabajo.

El experimento de Amazon comenzó en un momento crucial para la compañía. El aprendizaje automático estaba ganando terreno en el mundo de la tecnología y el departamento de RR.HH. de Amazon estaba a punto de embarcarse en una serie de contrataciones: desde junio de 2015, la plantilla global de la compañía se ha triplicado.

Ante esta situación, creó un equipo en el centro de ingeniería de Edimburgo, compuesto de hasta doce personas. Su objetivo era desarrollar una IA que pudiera rastrear rápidamente la web y detectar candidatos que valieran la pena reclutar, relatan a Reuters fuentes cercanas a la compañía.

El grupo creó 500 modelos informáticos enfocados a funciones y ubicaciones específicas del trabajo. Enseñaron a cada uno a reconocer unos 50.000 términos que aparecían en los currículos de los candidatos pasados. Los algoritmos aprendieron a asignar poca importancia a las habilidades que eran comunes entre los solicitantes . Sin embargo, la tecnología favorecía a los candidatos que se describían a sí mismos usando verbos que normalmente se encuentran con mayor frecuencia en los currículos de ingenieros masculinos.

Según una encuesta realizada en 2017 por la firma de software de talentos CareerBuilder, un 55 por ciento de los gerentes de RR.HH. de EE.UU. aseguraban que la IA sería una parte regular de su trabajo en los próximos cinco años.

Los reclutadores pueden aprovechar la tecnología para ampliar la red de contratación y reducir la dependencia de las opiniones subjetivas de los propios profesionales de RR.HH. Pero los científicos informáticos como Nihar Shah , que enseña aprendizaje automático en la Universidad Carnegie Mellon, asegura que aún hay mucho trabajo por hacer. « Cómo garantizar que el algoritmo sea justo,cómo asegurarse de que sea realmente interpretable y explicable, está todavía bastante lejos », asegura el experto.

A pesar de ello, hay algunas compañías que sí están apostando por aprovechar la IA para la contratación. LinkedIn, por ejemplo, ofrece a las empresas que buscan candidatos clasificaciones algorítmicas de los aspirantes en función de cómo su ajuste su perfil a la oferta.

Sin embargo, John Jersin , vicepresidente de LinkedIn Talent Solutions, ha asegurado que el servicio no reemplaza a los reclutadores tradicionales. «Sin duda, no hay que confiar en cualquier sistema de IA ciegamente y que tome la decisión de contratar o no por su cuenta porque la tecnología aún no está lista», confesó Jersin a Reuters.