Las empresas de gran tamaño se encuentran en un momento crítico en su implementación de agentes de inteligencia artificial (IA). Un reciente estudio revela que muchas organizaciones están desplegando tecnologías avanzadas sin contar con los controles necesarios para manejarlas adecuadamente. Este hallazgo se basa en la encuesta realizada en junio por VentureBeat Research, que recopiló datos de 573 líderes técnicos de empresas con más de 100 empleados.
Ante esta situación, las empresas están reajustando sus estrategias y presupuestando cambios significativos. Aproximadamente seis de cada diez empresas planean cambiar o añadir proveedores en cada una de las cinco capas de control en el próximo año. Esta decisión refleja una carrera para alcanzar estándares propios que se han visto comprometidos por la rápida adopción de la tecnología.
Las capas de control en la adopción de IA
Las organizaciones están trabajando en cinco capas fundamentales para garantizar un despliegue efectivo de los agentes de IA: identidad (qué agente tiene acceso a qué), evaluación (calidad del trabajo realizado), telemetría de costos (gastos asociados), capas contextuales (datos que los agentes utilizan para responder) y control de orquestación (software que coordina tareas múltiples). Estas dimensiones definieron los esfuerzos de control en las empresas encuestadas, donde muchas reconocen la necesidad de fortalecer las estructuras previas a la implementación.
Las consecuencias de un despliegue apresurado son palpables. Un 54% de las empresas reportaron incidentes de seguridad relacionados con los agentes en el último año, mientras que un 27% sólo gestiona presupuestos de forma reactiva, descubriendo costos una vez que las facturas llegan. Este vacío en la gestión financiera puede resultar en sobrecostos significativos.
Uso ineficiente de los recursos
Los datos también revelan que el 86% de las empresas que operan sus propios procesadores gráficos (GPUs) los utilizan a una capacidad inferior al 50%. Esta subutilización genera interrogantes sobre la efectividad de las inversiones realizadas en hardware para la IA. La falta de un seguimiento riguroso sobre los costos y beneficios relacionados llevan a los líderes empresariales a replantearse su enfoque en cuanto a la adopción de nuevas tecnologías.
El 45% de las empresas encuestadas planean evaluar opciones de computación en la nube especializadas en IA durante el próximo año, una decisión que viene acompañada de la necesidad de medir la utilización y costo de los recursos existentes antes de hacer nuevas apuestas. Además, un 32% considera alternativas a los aceleradores de Nvidia, lo que refleja la búsqueda de opciones para diversificar la infraestructura de IA.
Cualidades de los agentes IA
Un hallazgo significativo es que el 71% de los agentes desplegados en las organizaciones cumplen funciones muy básicas de un solo paso, lo que contrasta con las proyecciones de adopción de agentes más avanzados. Casi el 90% de los encuestados reconocen que no poseen la mayoría de los agentes verdaderamente autónomos, lo que plantea dudas sobre la preparación de las empresas para los desafíos que la IA presenta.
Es preocupante que dos tercios de las empresas actualmente permitan que un agente implemente cambios en sus sistemas basándose únicamente en evaluaciones automáticas, sin supervisión humana. Esto puede llevar a errores significativos, dado que el 50% de las organizaciones han experimentado fallos en el servicio tras confiar en evaluaciones automáticas que luego fueron inadecuadas. A pesar de esto, muchos están trabajando para eliminar la revisión humana en el flujo de trabajo, lo que solamente aumenta el riesgo.
Desafíos en la gestión de identidades y contextos
Uno de los problemas más comunes es la gestión de identidades de los agentes, con un 69% de las organizaciones permitiendo compartir credenciales entre múltiples agentes, lo que ha resultado en una tasa más alta de incidentes de seguridad. Las empresas están poco a poco reconociendo la necesidad de proporcionar a cada agente su propia identidad, lo cual es crucial para minimizar riesgos de seguridad.
La falta de un contexto empresarial consistente ha llevado a un 57% de las empresas a experimentar respuestas erróneas de agentes de IA. Esto sugiere que, a pesar de que algunas organizaciones ya han establecido capas semánticas gobernadas, hay un camino significativo por recorrer para asegurar que cada agente utilice definiciones claras y actualizadas al momento de operar.
Perspectivas para el futuro
El entorno de las empresas está cambiando rápidamente, y los líderes deben adaptarse a nuevas condiciones. La próxima ola de encuestas medirá si realmente se implementaron los cambios necesarios, como la creación de identidades adecuadas para los agentes, la mejora en las evaluaciones y la utilización efectiva de recursos. Las decisiones presupuestarias en esta área no solo definirán el éxito técnico, sino también el futuro financiero de las empresas en un mundo cada vez más impulsado por la inteligencia artificial.