AHÍ HAY UNA EMPRESA QUE UTILIZA ¡AI! UNA INTELIGENCIA ARTIFICIAL PARA LA GESTIÓN DE PERSONAS
Víctor J. Rubio
Catedrático del Dpto. de Psicología Biológica y de la Salud
Universidad Autónoma de Madrid
Pocas características como la inteligencia han sido consideradas más intrínsecamente humanas a lo largo de la historia de la humanidad. Durante muchos siglos se consideró que los animales carecían de inteligencia (entendida como capacidad de raciocinio) en la medida en que sólo seguían sus instintos, mientras que, como diría Descartes, la razón o el juicio (i.e. el uso de la inteligencia) sería lo que nos haría hombres, en contraposición con aquéllos.
El que se considerase que la inteligencia es una capacidad superior no ha sido óbice, sino todo lo contrario, para querer reproducirla, sin embargo. La idea de que las máquinas tuvieran inteligencia, es decir, que pudieran razonar y tomar decisiones (intelligentia, inter –entre– + legere –escoger, leer, cualidad del que sabe escoger entre opciones) ha estado presente en diferentes mitos, reflexiones y experiencias incluso desde antes de la mecanización (la Galatea de Ovidio de la que Pigmalión se enamora y para la que solicita a Afrodita que le dé vida; los homúnculos de Paracelso que supuestamente era capaz de crear a partir de sangre, semen y excremento de yegua preñada; o el Frankenstein de Mary Shelley son ejemplos de esto). Pero sería el trabajo de Alan Turing Computing Machinery and Intelligence, publicado en 1950, el que daría el pistoletazo de salida a lo que se denominaría la Inteligencia Artificial.
Origen y desarrollo de la AI
Se atribuye la acuñación del término de Inteligencia Artificial (AI) a John McCarthy quien, junto con Marvin Minsky, Nat Rochester y Claude Shannon, organizarían, en 1956, la Dartmouth Summer Research Project on Artificial Intelligence, en el Darmouth College de New Hampshire (USA) con el propósito de discutir en qué medida podían crearse máquinas que simulasen los aspectos de la inteligencia y el aprendizaje humanos.
El entusiasmo inicial se vería apagado durante varios decenios por diferentes causas. El siglo XXI ha sido, sin embargo, el del despegue de la AI. Ese despegue ha estado muy ligado al desarrollo de las técnicas de Machine Learning y, posteriormente, de Deep Learning, así como las de Big Data y Data Analytics. Si en 1997 muchas personas quedaban admiradas (y, quizás, preocupadas) por la derrota del campeón mundial de ajedrez Gary Kasparov a manos de Deep Blue, otros cuantos, sin embargo, eran conscientes de que dicho triunfo era, en realidad, una victoria magra en el intento de lograr que las máquinas emulasen a los humanos. Aunque el ajedrez sea un problema muy complejo (el holandés, matemático y campeón mundial de ajedrez, Max Euwe, llegó a calcular que si doce mil ajedrecistas estuvieran ocupados constantemente en la búsqueda de las mejores jugadas en todas las posiciones imaginables y en cada una de ellas invirtiera una décima de segundo, necesitarían más de un trillón de siglos para analizarlas todas… ¡pero Deep Blue podía calcular 20 millones de posiciones en una décima de segundo ella sola!), se trata de un sistema cerrado, regido por reglas y con actores definidos a priori. El escenario perfecto para una máquina más bruta que inteligente.
Los problemas a los que se enfrentan los seres humanos en general y las organizaciones en particular suelen distar mucho de lo que son esos escenarios cerrados con reglas perfectamente definidas. Un problema tan sencillo para un ser humano como distinguir la foto de una magdalena con pepitas de chocolate de la de un chihuahua se convierte en un problema de considerable magnitud para una máquina. Imagínense el poder hacer recomendaciones de compra basadas en cuáles sean las imágenes que esas personas cuelgan en sus redes sociales. Las técnicas de Machine Learning vinieron a introducir una aproximación en la que la máquina lleva a cabo un aprendizaje guiado de reconocimiento de patrones. De esta forma, a la máquina se le van suministrando datos de, por ejemplo, los correos electrónicos que el usuario considera como no deseados y va reconociendo aquellos elementos que permiten etiquetarlos como tales. Los problemas a los que la AI empezaba a acercarse se asemejaban más a aquellos a los que los seres humanos nos enfrentamos diariamente: escenario abiertos, reglas no definidas a priori, límites difusos entre las categorías.
El siguiente paso sería el desarrollo de las técnicas de Deep Learning. Si el aprendizaje automático del Machine Learning exigía la guía o supervisión, el Deep Learning aprendería de forma autónoma de los propios errores y perfeccionando los algoritmos que estarían a la base de las decisiones a adoptar. Para ilustrarlo, la traducción de un texto de un idioma a otro no sólo se trascendería la superposición léxica de diccionarios en las lenguas involucradas que proporcionaban las primeras versiones de la AI, no sólo se superaría el análisis sintáctico de las frases construidas, sino que llevaría a cabo un análisis de los contextos funcionales en los que las expresiones se utilizan, para acabar produciendo un texto muy semejante al que habría llegado un hablante nativo de la lengua. Y en la actualidad nos parece algo corriente –tanto que muchas veces no pensamos siquiera en ello– que las aplicaciones de nuestro teléfono móvil se abran ante nuestra cara o que éste nos recomiende un determinado itinerario para llegar a nuestro destino atendiendo a la hora del día.
Para que esos avances se produjeran eran necesarias cantidades ingentes de datos (partidas de ajedrez, fotos de magdalenas, correos electrónicos, textos a traducir, itinerarios que recorren los automovilistas, …). La omnipresencia de los dispositivos móviles con conexión a internet, el cloud computing, la extensión del Internet de las Cosas (IoT), entre otros factores, han facilitado el almacenamiento y manejo de grandes cantidades de datos (Big Data), así como el desarrollo de técnicas de análisis de éstos (Data Analytics) que han sido claves en el desarrollo de la AI.
Los cambios en las organizaciones
Los cambios que conforman lo que Klaus Schwab ha denominado la Cuarta Revolución Industrial van a suponer –están suponiendo– un cambio esencial en cómo las empresas crean negocio y proporcionan valor añadido. Aquellas organizaciones que no se incorporen a las transformaciones que esta revolución implica simplemente dejarán de existir. Schwab identificaba tres características que distinguen esta revolución de las que le han precedido. En primer lugar, su velocidad: los cambios están ocurriendo exponencialmente, más que linealmente. En segundo lugar, su alcance, que afecta prácticamente a todos los sectores productivos. En tercer lugar, su impacto, que está transformando los sistemas de producción y distribución, la gestión y la gobernanza.
Buena parte de la responsabilidad de esos tres factores tiene que ver con el desarrollo de la AI en particular. Así, por señalar sólo algunos ejemplos, la robótica avanzada está mejorando los interfaces hombre-máquina (ahora hablamos con nuestro teléfono y no sólo a través de él) y los sensores inteligentes están permitiendo localizar nuestros paquetes adquiridos online en tiempo real. A su vez, las técnicas de marketing están permitiendo la segmentación inteligente de los consumidores haciendo más eficaz la difusión del mensaje comercial.
Pero la velocidad de expansión de esta tecnología, sin embargo, no está siendo igual de rápida cuando se trata del management y, en particular, de la gestión de las personas dentro de la organización. En un informe realizado en 2018 en Norteamérica por LinkedIn[1], sólo un 22% de las compañías manifiestan haber adoptado estos enfoques en la gestión de RRHH y está por ver a qué se refieren cuando hablan de haberlos implantado y en qué medida los algoritmos de AI están contribuyendo a la gestión de las personas en las organizaciones. Eso en un área geográfica que, como el propio informe señala, puede ser la que presente mayor desarrollo a ese respecto en el mundo.
Posiblemente, un factor clave en que los desarrollos comentados hayan llegado de manera muy limitada al ámbito de la gestión de personas tiene que ver con la complejidad del área de RRHH. Seguramente es más fácil definir dentro de la organización qué es un buen producto o servicio, pero no es tan fácil llegar a operacionalizar qué es ser un buen empleado o un buen directivo capaz de contribuir a la producción de ese bien o servicio. Un empleado puede tener un buen desempeño en unas facetas, pero tal vez no en otras; en un departamento, pero no en otro. El mismo empleado puede mostrar un buen desempeño en un determinado período histórico de la empresa o en una época determinada de su vida, pero ajustarse mal a los cambios o las situaciones convulsas. ¿Y cómo puede aislarse el desempeño de un trabajador con independencia del desempeño del grupo o de la organización?
Aplicaciones de la AI a la gestión de personas
Sin embargo, analizadas en el vacío, las tareas esenciales que forman parte de la gestión de personas en las organizaciones encajarían plenamente en el tipo de problemas que la AI ha abordado en los últimos tiempos: el reclutamiento –¿cómo lograr que los más interesantes candidatos formen parte del proceso? ¿cómo reducir el número de candidatos no válidos que entran en el mismo? –, la selección –¿se puede optimizar el proceso de selección? ¿se puede mejorar la predicción del rendimiento laboral futuro? –, la incorporación –¿Cómo hacer que el candidato seleccionado sea útil cuanto antes para la organización?, la formación –¿Cuáles son las competencias futuras necesarias para la organización? ¿Qué actuaciones serían adecuadas para qué trabajadores? ¿Cómo hacer que las acciones formativas mejoren el rendimiento? –, la evaluación del desempeño –¿se pueden perfeccionar los sistemas de indicadores de desempeño? ¿se puede automatizar la recogida de información? –, el desarrollo de la carrera –¿se pueden identificar tempranamente los hitos que determinen las promociones? –, la retención del talento –¿se pueden identificar anticipadamente indicadores potenciales de rotación?–, los sistemas de incentivos –¿pueden individualizarse los beneficios para maximizar la motivación de los trabajadores? ¿puede sistematizarse la evaluación de los efectos de los incentivos?
Ahora bien, ¿puede una máquina determinar quién fuese a ser mejor candidato para un puesto de trabajo en base a los perfiles en redes sociales?[2] ¿Podría confiarse en un algoritmo la predicción de quién va a llevar a cabo comportamientos poco éticos o directamente delictivos dentro de la empresa?[3] ¿Debiera depositarse en un sistema automático la implantación de las estrategias de liderazgo en la organización?[4] A las dificultades inherentes a la complejidad del fenómeno con el que tiene que lidiar la gestión de personas se añaden las relativas a la importancia de la justicia en las decisiones que dentro del área de recursos humanos se adopten. Decidir que una persona es contratada y otra no, que una persona es despedida o que otra es promocionada tiene un considerable impacto en la vida de los directamente interpelados. Pero las posibles implicaciones legales de tales decisiones y su influencia en el clima organizacional de la institución también pueden suponer un muy señalable efecto en la compañía. Eso por no decir que las personas tienen expectativas y cuando las decisiones que se adoptan no son aceptadas, pueden simular, boicotear, conspirar… todo ello redundando negativamente en los resultados de la organización.
Además, la aplicación de la AI en las organizaciones se enfrenta a otros retos. Por ejemplo, algunos de los eventos a los que la gestión de personas tiene que hacer frente (e.j., renuncias o número de contrataciones que se producen en un año) suelen ser de tasas bajas incluso en grandes organizaciones (¡qué decir de pequeñas empresas!). Eso supone que el número de datos disponibles para poder calibrar los algoritmos es muy limitado y con ello la precisión de dichos algoritmos.
Y hablando de los datos, la calidad de éstos está a la base de la calidad de los algoritmos que van a servir para tomar las decisiones. Sólo con buenos datos se pueden construir buenos sistemas de AI. Referirse a datos en la gestión de personas implica hablar de evaluación. La evaluación de las personas en las organizaciones es, en muchas ocasiones, la gran asignatura pendiente. Impensable es para una compañía no tener ficheros detallados con los datos de los clientes, de sus pedidos. Raro es que carezcan de información sobre la producción, almacenamiento y distribución de sus bienes. Y sin un análisis de costes la empresa no podría sobrevivir. Pero mucho menos raro es encontrarse que los datos sobre las personas que trabajan en ella están dispersos, adolecen de falta de continuidad y dejan muchos aspectos incompletos. El salario que se le ha abonado al trabajador seguro que aparece en algún fichero registrado. Quizás las valoraciones que su supervisor realice con una determinada periodicidad (aunque cueste trabajo comparar la valoración de un supervisor con la valoración de otro), Pero ¿Dónde consta el tiempo que el empleado ha dedicado a ayudar a un colega a resolver un problema que no era de su directa incumbencia?
La incorporación de técnicas de data analysis para facilitar la confección de algoritmos de AI sin duda puede suponer una mejora en la forma de recolectar los datos y permitir su análisis. Por ejemplo, puede entenderse que conservar la información (aunque sea anonimizada) de los candidatos que se han presentado a un puesto de trabajo y han sido rechazados puede ser de interés para poder comparar las decisiones de reclutamiento con el éxito o fracaso de los que fueron seleccionados. Y, sin duda, que conocer cuáles han sido las maneras en las que el candidato tuvo conocimiento de la oferta laboral, con independencia del resultado final, imprescindible para poder mejorar los procesos de reclutamiento.
Pero, cuando se habla de calidad del dato, no sólo se está hablado de aquellos que sirven de entrada en el sistema para hacer predicciones. Estamos hablando también de los que se usan como criterio para validar las decisiones. Un algoritmo de AI necesita saber qué es una decisión correcta y que es una decisión incorrecta. Y si los algoritmos aprenden por su cuenta a partir de la propia experiencia, como permite el Deep Learning, es imprescindible garantizar la calidad de los procesos de gestión de personas. En el año 2018, la revista Fortune[5] informaba de que Amazon cancelaba el sistema de AI que había estado desarrollando durante años para la selección de los candidatos a trabajar en la compañía en base a los currículos de éstos. La compañía había detectado que el sistema estaba claramente sesgado en contra de las mujeres, de tal manera que la existencia de nombres femeninos o, en sentido contrario, la aparición de palabras como “executed” –llevado a cabo— o “captured” –almacenado–, palabras éstas últimas que aparecían con mayor frecuencia en los CV de varones, producía ponderaciones más bajas o más elevadas, respectivamente. El sistema incluso ponderaba negativamente haber obtenido el título de dos universidades exclusivamente femeninas. La decisión de la compañía fue cancelar el proyecto por la incapacidad de corregir el sesgo del algoritmo, aunque los ingenieros intentaran introducir ponderaciones que modificasen cómo el sistema se comportaba. Este fracaso puso encima de la mesa la importancia de la validez de los procesos en gestión de personas. El algoritmo de Amazon sesgaba hacia los hombres simplemente porque en el mundo de las tecnológicas se sesga a favor de los hombres. Amazon no era una excepción y eso es lo que había aprendido su algoritmo.
Propuestas para una AI aplicada a la gestión de personas que sea eficiente y apropiada
De acuerdo con todo lo dicho, que las decisiones en las diferentes operaciones que constituyen el ámbito de los recursos humanos en las organizaciones no sólo sean justas, sino que así lo parezcan, que puedan ser explicadas y que pueda ejercerse sobre ellas la consiguiente rendición de cuentas son aspectos fundamentales en la gestión de personas. ¿Se puede compaginar eso con que dichas decisiones las adopte un ordenador? ¿Y con que los algoritmos en las que se basan los sistemas de AI sean, por definición, completamente opacos? La respuesta es, obviamente, no.
Pero ello no quiere decir que haya que proscribir la AI en la gestión de personas. Al contrario, lo que significa es que hay que mejorar esa gestión de personas. Y ello incluye a la AI.
Para empezar, hay que entender que las tareas que llevan a cabo las técnicas de Machine Learning y de Deep Learning son, en esencia tres: clasificación (i.e., asignar instancias de un dominio dado en función de un conjunto de atributos a un conjunto de clases), regresión (i.e., predicción de valores numéricos a instancias de un dominio dado a partir de un conjunto de atributos) y agrupamiento (i.e., dividir un conjunto de instancias de un dominio dado, descrito por un conjunto de atributos, en un conjunto de grupos en base a la similitud entre las instancias). Pero ninguna de esas tareas exige modelos causales. Para las tecnológicas, la importancia de llamarse Ernesto no la determina la existencia de una relación causal entre el nombre de varón y la excelencia en el desempeño de los ingenieros. Se trata de una mera correlación determinada por el hecho de que los nombres de varón tienen más probabilidad de encontrar empleo como ingenieros en el sector tecnológico.
Llevar a cabo una gestión de personas que sea eficiente a la par que apropiada y justa supone, en primera instancia, basar las decisiones en lo que se denomina gestión basada en la evidencia (Evidence-Based Management[6], EBMgt). La EBMgt implica que las prácticas se llevan a cabo de acuerdo con el conocimiento científico existente, no con meras opiniones, tradiciones o modas. Eso, a su vez, permite incorporar modelos causales que trasciendan a los correlacionales. La explicación de las causas de la conducta permite dotar a los algoritmos de “alma” y superar las aproximaciones de “caja negra” en la que cualquier indicador del que se tenga medida entra en el análisis a la espera que presente alguna correlación con el criterio. Pero no, los helados no causan asesinatos, aunque el incremento en la venta de aquéllos correlacione con el incremento en el número éstos en las grandes ciudades[7].
Ello también implica que la investigación es una piedra angular para basar las operaciones que se llevan a cabo. Como no todas las empresas son Amazon para tener su propio departamento de I+D, hay que tejer alianzas con universidades y centros de investigación y hay que exigir los mayores estándares a los responsables y técnicos de la gestión de personas.
En segunda instancia, hay que involucrar a los implicados en el diseño de los sistemas de AI para la gestión de personas. Lograr una AI más justa entraña canalizar las críticas y hacer partícipes a los empleados en las asunciones, recogida de datos y cuestiones éticas que están involucradas. Es más probable que los algoritmos se acepten cuando los individuos tienen algo que decir al respecto de los resultados.
Y, en última instancia, aunque estrechamente relacionado con lo anterior, hay que recordar que los sistemas de AI para la ayuda a la toma de decisiones en la gestión de personas son eso: sistemas de ayuda. El éxito de la AI aplicada a la gestión de personas pasa porque ésta sea capaz de progresivamente eliminar el sesgo de los seres humanos en la toma de decisiones, pero sin que ello suponga trasladar el sesgo a unos arcanos que, además, no se pueden discutir.
[1] LinkedIn (2018). The Rise of HR Analytics. https://business.linkedin.com/content/dam/me/business/en-us/talent-solutions/talent-intelligence/workforce/pdfs/Final_v2_NAMER_Riseof-Analytics-Report.pdf
[2] Véase, por ejemplo, Kluemper, D. H., McLarty, B., & Rosen, P. 2013. Exploring the relationship between individual characteristics and LinkedIn use. In R. F. Miguel (Chair), The promise and perils of social media data for selection. Symposium presented at the Society for Industrial and Organizational Psychology, Houston.
[3] Véase, por ejemplo, el trabajo de Humpherys, S. L., Moffitt, K. C., Burns, M. B., Burgoon, J. K., & Felix, W. F. (2011). Identification of fraudulent financial statements using linguistic credibility analysis. Decision Support Systems, 50(3), 585-594, usando el análisis lingüístico de las notificaciones de hechos relevantes de las empresas
[4] Receptiviti, empresa tecnológica de AI con sede en Toronto y cofundada por el Prof. James Pennebaker, ofrece desvelar emociones, personalidades, intenciones y formas de pensar a partir del análisis del lenguaje vertido en encuestas de evaluación que se aplican dos veces al año entre los empleados
[5] “Amazon Reportedly Killed an AI Recruitment System Because It Couldn’t Stop the Tool from Discriminating against Women,” Fortune, October 10, 2018, https://fortune.com/2018/10/10/amazon-ai-recruitment-bias-women-sexist/
[6] Barends, E., & Rousseau, D. M. (2018). Evidence-based management: How to use evidence to make better organizational decisions. Kogan Page Publishers.
[7]https://slate.com/news-and-politics/2013/07/warm-weather-homicide-rates-when-ice-cream-sales-rise-homicides-rise-coincidence.html