La integración de la inteligencia artificial (IA) en el entorno laboral plantea una serie de desafíos y consideraciones que las organizaciones deben abordar. A medida que los sistemas de IA asumen un papel más central en la toma de decisiones y el análisis, surge un riesgo latente: la posible pérdida de habilidades críticas por parte de los empleados, quienes podrían volverse menos competentes para intervenir en situaciones en que la IA falle o cometa errores.
En este contexto, es vital cuestionarse la preparación de los empleados para realizar tareas que aún son esenciales para la organización. Aunque las herramientas de IA pueden mostrar un rendimiento sobresaliente, permite que los trabajadores confíen en sus decisiones, lo que a su vez puede reducir su práctica y juicio independiente. Este fenómeno no es nuevo, pero su repercusión se amplifica debido a la creciente complejidad con que la IA gestiona las responsabilidades anteriormente delegadas a los humanos.
La paradoja del éxito
A medida que la IA mejora, la naturaleza del trabajo humano también se transforma. Los empleados, en lugar de tomar decisiones, se convierten en supervisores de las recomendaciones proporcionadas por la IA. Esto conlleva un cambio en la formación y capacitación que las empresas brindan a sus colaboradores. Por ejemplo, Deloitte ha empezado a reestructurar su formación para auditores junior, implementando simulaciones que les permitan desarrollar las habilidades de juicio necesarias ante la creciente automatización.
La “ironía de la automatización”, un concepto propuesto hace cuatro décadas, señala que a medida que se automatizan tareas, los empleados enfrentan nuevos retos, como el monitoreo de sistemas y la gestión de situaciones no previstas. Con menos experiencia en tareas específicas, también disminuye la preparación para intervenir adecuadamente, lo que se denomina el problema de «out-of-the-loop». A medida que las tareas se vuelven más complejas, los trabajadores pueden verse obligados a ejercer su juicio en momentos críticos, aunque tengan menor práctica en la toma de decisiones.
El problema de la responsabilidad
Otro aspecto crucial es la desconexión entre autoridad y responsabilidad. Con el crecimiento de la IA, los empleados pueden ahora supervisar más decisiones de las que toman directamente, pero siguen siendo responsables de sus resultados. Este desajuste crea un entorno en el que las expectativas organizacionales no se alinean con la nueva división del trabajo, generando tensiones en la gestión de rendimiento y responsabilidad de los empleados.
El concepto de «control humano significativo» indica que la responsabilidad debiera correlacionarse con las decisiones que un individuo puede tomar. Si un empleado pierde la competencia para intervenir y corregir la IA, la separación entre autoridad, responsabilidad y capacidad se vuelve problemática, transgrediendo la dinámica del diseño organizacional.
El desafío de la medición
A lo largo del tiempo, las organizaciones tienden a evaluar procesos asistidos por IA en base a métricas como eficacia y productividad. Sin embargo, interrogar estas métricas podría ser engañoso. La disminución en las intervenciones humanas podría reflejar tanto una creciente dependencia de la IA como una mejora en su precisión. Por lo tanto, es esencial entender cómo se está dividiendo realmente el trabajo entre humanos e IA y cómo esta relación evoluciona constantemente.
La gobernanza dinámica
A medida que la IA se integra, la gobernanza organizativa también debe adaptarse. La definición de roles y responsabilidades debe considerarse de manera dinámica, reconociendo que las funciones pueden cambiar a lo largo del tiempo. Cualquier cambio en el rol de un empleado o un sistema de IA debe ir acompañado de una reflexión continua sobre la relación entre ambos.
Preservando la capacidad humana
No todas las capacidades humanas deben mantenerse activas, pero es crucial que las organizaciones identifiquen cuáles son necesarias cuando se requiere juicio humano. La supervisión de la IA no es equiparable a la toma de decisiones. La capacidad de los empleados para hacerlo necesitará ejercitarse ocasionalmente para asegurar que estén preparados cuando se les requiera.
Finalmente, la pregunta central que cada organización debe hacerse es: ¿qué capacidades humanas aún se requieren y estarán disponibles en los momentos críticos? Identificar y mantener estas habilidades no solo es esencial para la eficacia de las operaciones, sino también para la resiliencia ante desafíos imprevistos que la IA no puede manejar por sí sola.