Gestión algorítmica: El papel de la IA en la fuerza laboral
Utilizar la IA de forma ética para evitar sesgos en la gestión del capital humano es urgente. (Especial)
Una aplicación satisfactoria de la IA en el campo de los laboral requiere que los colaboradores generen nuevas competencias y que considere la ética.
Con la ayuda de la tecnología digital, las máquinas pueden hacerse cargo de tareas de gestión complejas, como la supervisión de los colaboradores. Así como de la evaluación de los candidatos a un puesto de trabajo. Aunque todavía se encuentra en sus primeras fases, la gestión algorítmica se está convirtiendo en una parte clave de la transformación digital impulsada por la IA en las empresas.
La gestión algorítmica promete hacer más eficaces y eficientes los procesos de trabajo. Por ejemplo, los algoritmos pueden acelerar la contratación filtrando grandes cantidades de solicitantes a costes relativamente bajos.1
La sinergia entre IA y expertos en recursos humanos puede impulsar a los colaboradores
Los sistemas de gestión algorítmica también pueden permitir a las empresas comprender o supervisar la productividad y el rendimiento de los empleados.2 Sin embargo, a la hora de implementar la gestión algorítmica deben tenerse en cuenta los desafíos éticos y las posibles desventajas para los trabajadores.
¿Qué pasa con la IA en el proceso de contratación?
En el caso de la contratación, las herramientas basadas en IA han sido objeto de fuertes críticas debido a los sesgos que pueden perjudicar a diversos grupos de personas. Eso ha dado lugar a esfuerzos para crear directrices y reglamentos para el diseño ético de la IA.
En este artículo, nos basamos en nuestros años de investigación sobre la gestión algorítmica. También nos centramos en cómo transforma las prácticas de gestión automatizando tareas repetitivas y potenciando el papel de los directivos como coordinadores de la toma de decisiones.
Sin embargo, la introducción de algoritmos en las funciones de gestión tiene el potencial de alterar la dinámica de poder dentro de las organizaciones. Por ello deben abordarse los retos éticos. Aquí ofrecemos recomendaciones sobre cómo los directivos pueden abordar la implantación utilizando nuevos conjuntos de competencias.
Mejorar el bienestar de los trabajadores en un entorno cuya norma es la IA
Los algoritmos pueden mejorar la escala y la eficiencia de las operaciones de gestión. En la economía colaborativa, los sistemas algorítmicos coordinan y organizan el trabajo a una escala sin precedentes. Por ejemplo, piensa en el número de pasajeros y conductores que utilizan Uber o Lyft en un momento dado en todo el mundo.
Del mismo modo, las organizaciones de normalización ya han aprovechado la mayor precisión del procesamiento algorítmico para gestionar las tareas.
UPS equipa los camiones con sensores que controlan cada movimiento de los conductores para aumentar la eficiencia. Del mismo modo, Amazon se basa en gran medida en algoritmos para realizar un seguimiento de la productividad de los trabajadores e incluso generar el papeleo para despedirlos si no cumplen los objetivos.
Reinventa el área de Recursos Humanos para mejorar el bienestar y el rendimiento de tu empresa
Centrarse en la eficiencia no es lo mejor
Sin embargo, nuestra investigación sugiere que centrarse únicamente en la eficiencia puede reducir la satisfacción y el rendimiento de los colaboradores a largo plazo.3 Las pruebas de las fronteras de la IA nos muestran que los procesos algorítmicos utilitarios pueden maximizar ciertos objetivos a expensas de minimizar otros.
Numerosas investigaciones han señalado cómo la gestión algorítmica centrada en la eficiencia puede socavar significativamente el bienestar y la satisfacción de los trabajadores. Por ejemplo, provocando que los trabajadores sigan trabajando hasta la extenuación.4
¿Qué es lo que no debe de priorizar la gestión algorítmica?
La gestión algorítmica que prioriza la vigilancia y el control recurrió a la adopción de sistemas similares para supervisar la productividad de los trabajadores a distancia.
La vigilancia es cuestionable desde el punto de vista ético y suele provocar reacciones negativas por parte de los trabajadores.5 Por ejemplo, los empleados del centro de llamadas de Apple han expresado su temor ante las cámaras de vigilancia en su casa.
Del mismo modo, los sistemas algorítmicos en los almacenes, que utilizan diferentes sensores y criterios para medir el rendimiento de los trabajadores, imponen la eficiencia. Pero en algunos casos han provocado la desmoralización de los trabajadores o incluso lesiones físicas.
En muchas de las implementaciones actuales de la gestión algorítmica, los trabajadores tienen pocos recursos para influir y escapar de los resultados indeseables.
Pérdida de perspectiva, el principal mal que aqueja a la IA
Pedimos una perspectiva más centrada en las partes interesadas en la adopción de la gestión algorítmica que equilibre la racionalización de los procesos con la satisfacción de los trabajadores.6
La vigilancia, el control y la presión extremos de la gestión algorítmica no sólo son perjudiciales para el bienestar de los trabajadores. Sino que también pueden afectar negativamente a las empresas a través de una reputación empañada y la rotación de colaboradores.
La sinergia entre IA y expertos en recursos humanos puede impulsar a los colaboradores
Además de salvaguardar contra la extralimitación de la dirección, los sistemas de gestión algorítmica deberían diseñarse para beneficiar a los trabajadores. Por ejemplo alertándoles automáticamente cuando las situaciones puedan ser peligrosas. Nuestra perspectiva ayuda a encontrar un equilibrio entre los procesos racionalizados que fomentan la eficiencia y los beneficios, y el bienestar de los trabajadores.
Crear una división simbiótica del trabajo entre gestores IA y humanos
Aunque algunas empresas imaginan un futuro en el que los algoritmos puedan tomar decisiones por sí solos sin apenas intervención humana, la realidad es que la IA tiene limitaciones para automatizar completamente las funciones directivas que implican tareas cognitivas complejas y la toma de decisiones intuitiva.7
Las organizaciones deben asegurarse de crear una división simbiótica del trabajo entre los gestores humanos y los algorítmicos. Nuestra investigación sugiere que los sistemas algorítmicos pueden gestionar mejor los espacios de decisión con un alcance limitado. Como las tareas de coordinación repetitivas pero de gran volumen. Mientras que los gestores humanos seguirán destacando en la gestión de espacios de decisión poco definidos. Como la toma de decisiones tácitas y estratégicas con “incógnitas conocidas.
Uber, Lyft y su gestión a través de algoritmos
Aquí, el contexto en torno a la implementación es muy relevante. Uber y Lyft han automatizado casi todas las funciones de los gestores tradicionales, como en la resolución de conflictos.
Es poco probable que este sea el caso en la mayoría de las organizaciones estándar, debido a la complejidad y diversidad de las tareas laborales. En las organizaciones tradicionales, prevemos una asociación mediada por la tecnología entre los humanos y la IA en el desempeño de las funciones de gestión. Pensemos en los programas de formación de las empresas.
La IA puede ofrecer formación personalizada basada en web a un empleado y medir las ganancias de productividad de forma eficaz. Sin embargo, para otras tareas, como las creativas y tácticas, puede ser necesario un instructor humano.
Una relación simbiótica entre los diferentes niveles de gestión
La figura siguiente ilustra un prototipo de esta relación simbiótica en diferentes niveles de gestión. En los niveles inferiores, es probable que los sistemas de IA ofrezcan posibilidades para coordinar mejor las tareas (desagregación, distribución, agregación y evaluación de tareas). Mientras que los gestores humanos están mejor posicionados para asumir funciones más de supervisión e interactivas (como ofrecer flexibilidad a los trabajadores).
Estrés laboral afecta a 84% de las áreas de Recursos Humanos en la pandemia
En los niveles superiores de gestión, los sistemas de IA pueden escanear y ofrecer información sobre el entorno interno y externo de la organización. Eso mientras que los directivos aportan una perspectiva estratégica y holística a la toma de decisiones.
Por ejemplo, los sistemas de IA pueden ayudar a las organizaciones a integrar, supervisar y analizar cientos de puntos de datos sobre el comportamiento de los clientes en tiempo real. Por el otro lado, los directivos humanos pueden articular sus implicaciones para la evolución de las demandas.8
En los niveles de gestión más bajos de una organización, los sistemas de IA pueden proporcionar funciones de coordinación de tareas mientras los directivos humanos supervisan e interactúan. En los niveles superiores de gestión, la IA explora el entorno para ofrecer información y apoyo a la toma de decisiones, mientras que los directivos humanos aportan una perspectiva estratégica y holística a la toma de decisiones.
El deber de las empresas es fomentar el talento humano y utilizar correctamente el de la IA
Las organizaciones deben reconocer y fomentar las capacidades únicas tanto de la IA como de los gestores humanos y esforzarse por captar formas en las que puedan trabajar juntos en colaboración.
Algo que los líderes tecnológicos de Accenture Paul Daugherty y H. James Wilson denominan “el punto intermedio que falta“.9 Empresas como Microsoft han utilizado “puntuaciones de productividad” generadas automáticamente. Estas proporcionan a los gestores información agregada sobre la frecuencia con la que sus colaboradores envían correos electrónicos y asisten a reuniones por vídeo.
Esta información sólo es valiosa cuando la pone en contexto un directivo humano, que puede hacer valoraciones sobre la calidad del trabajo. O si las funciones son lo bastante similares como para compararlas.
El éxito de la sinergia entre las personas y la inteligencia artificial no está garantizado. Por lo general, será necesario rediseñar los procesos empresariales cuando las organizaciones deseen implantar herramientas algorítmicas que se ajusten bien a la tarea de gestión que desean automatizar total o parcialmente.
Evitar el sesgo algorítmico promoviendo la equidad, la transparencia y la responsabilidad
Las empresas que decidan participar en la gestión algorítmica deben reconocer que los algoritmos no son neutrales ni tecnócratas a la hora de tomar decisiones.
Pueden introducir y amplificar prejuicios basados en la raza o el género, lo que puede dar lugar a injusticias. El sesgo algorítmico se ha detectado en varias funciones organizativas, incluida la gestión de recursos humanos, y en particular en la selección de currículos de solicitantes de empleo. Ahí es donde los algoritmos se entrenan a menudo con datos históricos que reflejan decisiones de contratación humanas sesgadas.
Más allá de las empresas, el sesgo algorítmico es un problema que crece
El sesgo algorítmico también es evidente en el sistema de justicia penal, donde los jueces han utilizado sistemas predictivos para determinar la probabilidad de reincidencia de los acusados.10
Estos sistemas han sido criticados por predecir una mayor probabilidad de reincidencia de los acusados de color, posiblemente debido a sesgos en los datos utilizados para entrenar los algoritmos. Los bucles de retroalimentación de confirmación en la vigilancia policial predictiva también pueden dar lugar a una presencia policial repetida en determinadas zonas.
La parcialidad o injusticia algorítmica puede ser difícil de detectar en los sistemas de gestión algorítmica porque su funcionamiento interno utilizados en estos sistemas suele ser complejo.11
Esta falta de transparencia, también conocida como opacidad algorítmica, dificulta la identificación de cualquier parcialidad o desigualdad codificada en el sistema.12
Entre tecnología e innovación, así se trasforma hoy el empleo
¿Cómo enfrentar el problema?
Para hacer frente a este problema, animamos a las organizaciones a considerar el uso de soluciones técnicas como la IA explicable (XAI). Ella puede proporcionar explicaciones para predicciones específicas de entrada/salida. Eso al integrar los algoritmos en los procesos de gestión, las organizaciones también deben considerar cómo la toma de decisiones algorítmica y los retos de la explicabilidad se alinean con marcos normativos como el Reglamento General de Protección de Datos de la Unión Europea.
Aunque las leyes y políticas que rigen la gestión algorítmica, incluidas las protecciones contra el sesgo algorítmico, son aún incipientes. Es posible que las organizaciones tengan que adoptar prácticas de autorregulación.
La auditoría algorítmica puede ser un enfoque útil para examinar sistemáticamente los resultados de la toma de decisiones de la IA y las posibles consecuencias discriminatorias. Las revisión de terceros pueden identificar sesgos en los algoritmos, así como evaluar otros impactos negativos como daños ecológicos, riesgos para la seguridad, etc.
Las auditorías algorítmicas pueden llegar a ser legalmente obligatorias en diversos contextos, como la reciente ley de Nueva York que regula las prácticas de contratación basadas en IA.
El uso de la IA también significa adoptar una nueva responsabilidad
Animamos a las empresas a que asuman su responsabilidad y reflexionen sobre la ética de sus prácticas actuales. Se necesita urgentemente un enfoque ético que haga hincapié en el acceso a la información sobre qué algoritmos se utilizan para gestionar los procesos, cómo se utilizan y cómo afectan a los grupos.13
Las constantes investigaciones internas ayudan a las organizaciones a decidir cómo los algoritmos están organizando los procesos relacionados con el trabajo. Una vez más, esto requiere esfuerzos de transparencia destinados a revelar suficiente información sobre la gestión de la IA para que las distintas partes interesadas puedan comprender el poder de la tecnología y exigir responsabilidades a los gestores humanos y algorítmicos.
Por último, instamos a las organizaciones a pensar más allá de las capacidades de la IA y decidir cuidadosamente qué tareas de gestión deben delegarse.
Estas cuestiones de “debería” plantean problemas morales complicados en torno a las condiciones laborales, la ética y la responsabilidad organizativa. Llevar a cabo un análisis de las partes interesadas puede ayudar a las organizaciones a considerar de forma transparente las posibles implicaciones de los sistemas de gestión algorítmica.
La gestión algorítmica encierra muchas promesas para las organizaciones y puede transformar las funciones y obligaciones de los directivos. Emplearla con éxito requiere un nuevo conjunto de competencias y actitudes para gestionar los riesgos.
Los gestores del futuro necesitan habilidades para interactuar, comprender, desplegar e incluso colaborar eficazmente con algoritmos en sus flujos de trabajo. La gestión de las organizaciones del futuro exige organizar una compleja red de personas, datos y sistemas automatizados.
Las empresas deben investigar cómo pueden beneficiarse de la gestión por IA y cómo pueden fomentar las competencias algorítmicas para construir una simbiosis. Eso entre las capacidades humanas y las de las máquinas.
SOBRE LOS AUTORES
Mohammad Hossein Jarrahi es profesor asociado de la Facultad de Información y Biblioteconomía de la UNC. Mareike Möhlmann es profesora adjunta del departamento de Gestión de la Información y los Procesos de la Universidad de Bentley. Min Kyung Lee es profesor adjunto en la Escuela de Información de la Universidad de Texas en Austin.
REFERENCIAS (13)
1. U. Leicht-Deobald, T. Busch, C. Schank, et al., “The Challenges of Algorithm-Based HR Decision-Making for Personal Integrity”, Journal of Business Ethics 160, n.º 2 (diciembre de 2019): 377-392.
2. M. Möhlmann, L. Zalmanson, O. Henfridsson, et al., “Gestión algorítmica del trabajo en plataformas laborales en línea: When Matching Meets Control”, MIS Quarterly 45, no. 4 (diciembre de 2020): 1999-2022.
3. M.K. Lee, “Understanding Perception of Algorithmic Decisions: Equidad, confianza y emoción en respuesta a la gestión algorítmica”, Big Data & Society 5, n.º 1 (enero-junio de 2018).
4. M. H. Jarrahi, G. Newlands, M. K. Lee, et al. “Gestión algorítmica en un contexto laboral”, Big Data & Society 8, n.º 2 (julio de 2021).
5. M. Möhlmann y O. Henfridsson, “What People Hate About Being Managed by Algorithms, According to a Study of Uber Drivers“, Harvard Business Review, 30 de agosto de 2019, https://hbr.org.
6. A. Zhang, A. Boltz, C.W. Wang, et al., “Algorithmic Management Reimagined for Workers and by Workers: Centering Worker Well-Being in Gig Work”, CHI Conference on Human Factors in Computing Systems, 29 de abril-5 de mayo. 2022: 1-20.
7. M.H. Jarrahi, “Inteligencia artificial y el futuro del trabajo: simbiosis humano-I.A. en la toma de decisiones organizativas”, Business Horizons 61, no. 4 (julio-agosto de 2018): 577-586.
8. M.H. Jarrahi, S. Kenyon, A. Brown, et al., “Inteligencia artificial: Una estrategia para aprovechar su poder a través del aprendizaje organizativo”, Journal of Business Strategy, de próxima publicación.
9. P.R. Daugherty y H. James Wilson, “Human + Machine: Reimagining Work in the Age of AI” (Cambridge, Massachusetts: Harvard Business Press, 2018).
10. R. Courtland, “Bias Detectives: The Researchers Striving to Make Algorithms Fair“, Nature, 20 de junio de 2018, www.nature.com.
11. M. Möhlmann, C. Salge y M. Marabelli, “Algorithm Sensemaking: How Platform Workers Make Sense of Algorithmic Management”, Journal of the Association for Information Systems 24, n.º 1 (mayo de 2022).
12. K. Martin, “Implicaciones éticas y responsabilidad de los algoritmos”, Journal of Business Ethics 160 (diciembre de 2019): 835-850.
13. Möhlmann, “Lo que la gente odia de ser gestionada”.
Síguenos en Google News
