La reciente controversia en torno al lanzamiento de Gemini de Google ha revelado una realidad que muchas organizaciones aún eluden: la inteligencia artificial (IA) no es inherentemente objetiva. A pesar de contar con recursos y talento de ingeniería de primera línea, Google ha mostrado que incluso las empresas más grandes enfrentan retos significativos en cuanto a sesgos en sus sistemas de IA. Esta situación debe servir como una señal de advertencia para las empresas de menor tamaño que implementan estas tecnologías con menos salvaguardias.
A menudo, los líderes empresariales siguen percibiendo la IA como una herramienta neutral, capaz de eliminar inconsistencias en la toma de decisiones. Sin embargo, esta percepción es errónea. Los sistemas de IA se entrenan utilizando datos generados por humanos, un proceso que inevitablemente incluye las prioridades, suposiciones y limitaciones de las personas y organizaciones que los generan. Al escalar estos sistemas de IA, las empresas también están escalando las limitaciones presentes en ellos.
La IA como representante de la empresa
El uso de la inteligencia artificial ha evolucionado más allá de la automatización en la parte posterior de los procesos empresariales. Hoy en día, se emplea en áreas como la atención al cliente, la contratación, el marketing y la fijación de precios. En muchos casos, las decisiones generadas por la IA llegan al público sin supervisión humana previa, lo que hace que estos sistemas se conviertan en una extensión de la marca de la empresa.
Tradicionalmente, las organizaciones contaban con grupos humanos que aportaban juicio y contexto a decisiones críticas. Las áreas de recursos humanos, atención al cliente y relaciones públicas jugaban un papel crucial en la mitigación de riesgos mediante la inclusión de empatía y responsabilidad. La llegada de la IA elimina gran parte de estos puntos de control, acelerando la toma de decisiones y, a menudo, disminuyendo la supervisión. Aunque esto puede mejorar la eficiencia, también plantea riesgos significativos cuando los sistemas producen resultados perjudiciales o sesgados.
Errores comunes en la comprensión del sesgo
Un error frecuente entre las organizaciones es tratar el sesgo como un problema técnico. Muchos líderes asumen que puede resolverse mediante datos más limpios, ajustes en el modelo o formación adicional. Aunque estos cambios a veces ayudan, el sesgo a menudo está arraigado más profundamente en la estructura misma del sistema. El problema frecuentemente se origina en los objetivos que las empresas deciden optimizar.
Por ejemplo, ciertas empresas entrenan a sus sistemas de IA utilizando datos de sus empleados de mejor rendimiento. A primera vista, esto parece una estrategia razonable, ya que se busca replicar comportamientos exitosos. Sin embargo, basar el entrenamiento en el desempeño de un solo individuo puede resultar problemático, ya que este empleado podría poseer sesgos que afectan su eficacia con clientes de diferentes géneros o regiones. En un equipo humano, estas peculiaridades suelen equilibrarse. Una vez que estas características se codifican en un sistema de IA, se vuelven permanentes, limitando la definición de éxito y excluyendo enfoques que podrían prosperar en otros entornos.
A medida que las empresas se mueven hacia sistemas de IA autónomos, capaces de tomar decisiones sin intervención humana directa, la complejidad de la responsabilidad se incrementa. La falta de estructuras claras de gobernanza puede llevar a repercusiones tanto reputacionales como legales, antes de que las empresas comprendan plenamente qué salió mal.
La exposición al riesgo de IA en todas las empresas
No es necesario que las empresas desarrollen modelos de IA propios para enfrentar estos retos. Cualquier organización que utilice herramientas de contratación impulsadas por IA, motores de recomendaciones o plataformas de servicio al cliente hereda un grado de exposición inherente a estos riesgos. El sesgo puede influir en los resultados de contratación, interacciones con clientes, decisiones de precios, evaluaciones crediticias y percepción de marca.
Una vez que estos problemas se hacen públicos, rápidamente se convierten en cuestiones de liderazgo y confianza, más que en meras discusiones técnicas. La objetividad completa en ningún sistema de toma de decisiones es posible; los sistemas de IA heredan limitaciones similares a las que se encuentran en los procesos humanos.
A pesar de ello, las empresas pueden disminuir su riesgo mediante una supervisión deliberada y una gobernanza más robusta. Esto requiere que los líderes evalúen regularmente los datos de entrenamiento y que integren perspectivas más amplias en los procesos de desarrollo. Lo más importante es que la gobernanza de IA no debe ser vista como una responsabilidad exclusiva de los equipos de ingeniería, sino que debe ser una consideración fundamental en toda la organización.
La inteligencia artificial amplifica las prioridades de las empresas que la implementan. Si la alta dirección no examina cuidadosamente esas prioridades, la tecnología escalará debilidades con la misma eficiencia que fortalezas. Por ello, las discusiones sobre sesgos en la IA deben llevarse a cabo en las salas de juntas, al igual que en los equipos técnicos.