La adopción de agentes de inteligencia artificial (IA) en las empresas ha crecido de manera exponencial, generando respuestas rápidas y precisas. Sin embargo, un nuevo estudio revela que la confianza que las organizaciones depositan en estos sistemas puede ser engañosa. Según un informe reciente, el 57% de las empresas han vinculado respuestas incorrectas de sus agentes de IA a la falta de un contexto empresarial coherente, un problema que se ha vuelto más evidente en los últimos seis meses.
Este fenómeno se debe en gran parte a que el 38% de las empresas utilizan un sistema de recuperación de documentos como su principal fuente de contexto, priorizando la facilidad de ingestión sobre la precisión. Este enfoque, aunque operativo para la recopilación de datos, ha revelado sus limitaciones una vez que los sistemas están en funcionamiento. Las empresas suelen no detectar la imprecisión de sus agentes hasta que es demasiado tarde.
Desafío del contexto empresarial
El estudio destaca una solución potencial: la implementación de una capa de contexto gobernada. Este modelo debería proporcionar un entendimiento unificado de las definiciones de datos empresariales, en lugar de que cada agente intente derivar el significado de forma independiente. Según los datos, solo el 25% de los encuestados utilizan actualmente una capa de este tipo en producción, mientras que el 34% está en proceso de desarrollo. Un 41% aún no ha iniciado este proceso, lo que subraya la falta de urgencia por parte de muchas organizaciones.
Entre aquellas que están en el camino de construir esta capa, un alarmante 78% reporta haber enfrentado fallos de «confianza errónea». Es decir, sus agentes de IA brindaron respuestas aparentemente ciertas pero incorrectas. Contrariamente, entre los que no tienen planes para implementar una capa de contexto, solo el 20% se ha visto afectado por este fenómeno.
Construcción de la capa de contexto
Las soluciones para este problema están llegando rápidamente. Los proveedores de tecnologías de datos y IA están trabajando en diferentes versiones de esta capa de contexto, aunque no todas convergen en un mismo formato. Por ejemplo, algunas plataformas tratan la metadata como una fuente de conocimiento dinámica, mientras que otras construyen ontologías que pueden ser consultadas por múltiples agentes, más allá de sus propias herramientas.
- DataHub mantiene su sistema de metadata actualizado como una entidad viva en lugar de un simple documento estático.
- Microsoft Fabric IQ se enfoca en una ontología de negocio ampliable para varios agentes.
- Couchbase propone llevar la recuperación de contexto a niveles más cercanos al usuario final.
Los enfoques son variados, pero todos giran en torno a resolver la fragmentación del contexto que afecta la operación eficiente de los agentes de IA.
Implicaciones para las empresas
Las empresas deben entender que confiar únicamente en la recuperación de datos no es suficiente para cerrar la brecha de contexto. La problemática del «error de confianza» es más común entre aquellas que se apoyan en sistemas de recuperación. Simplemente agregar más documentos o ampliar índices no soluciona una definición inconsistente.
A medida que más del 58% de las organizaciones están activamente invirtiendo en la creación o puesta en marcha de capas de contexto, el foco en las decisiones de compra se ha intensificado, especialmente entre aquellas que han sufrido errores previos. La necesidad de un herramienta más robusta es evidente, y se espera que muchas empresas busquen alternativas o actualizaciones en sus plataformas de contextos en el próximo año.
Esto indica que el desarrollo de agentes de IA en el sector empresarial está en una fase crítica. La integración efectiva entre los agentes y la información subyacente es esencial para evitar errores, y la dirección en la que estas empresas decidan invertir será un factor determinante para su éxito futuro.