El reciente informe de VentureBeat Research ha revelado que, a medida que las empresas apuestan por la adopción de agentes de inteligencia artificial, la falta de controles adecuados para su gestión se convierte en un tema crítico. La investigación, que incluye cinco encuestas paralelas realizadas en junio, muestra que la mayoría de estas organizaciones han implementado agentes sin los marcos necesarios para asegurar su funcionamiento eficaz y seguro.
Un hallazgo relevante indica que entre el 57% y el 68% de las empresas planean cambiar de proveedor o añadir nuevos en el próximo año, una clara señal de que buscan ponerse al día con los estándares que ellos mismos requieren. Este movimiento se concentra en cinco controladores fundamentales: identidad, evaluación, telemetría de costos, capa de contexto y orquestación. Cada uno de estos elementos es crucial para construir la confianza en la operativa de los agentes.
Desafíos en la implementación de agentes
Un dato sorprendente refleja que el 71% de las empresas considera que solo un cuarto o menos de sus agentes tiene la capacidad de realizar tareas complejas de manera autónoma. De hecho, solo el 10% de las organizaciones afirma que la mayoría de sus agentes son verdaderamente autónomos. Este panorama sugiere que muchos de los llamados «agentes» en realidad son chatbots que requieren supervisión humana para cada respuesta, lo que desafía la noción de una Inteligencia Artificial verdaderamente autónoma.
Además, un hecho preocupante es que dos tercios de las empresas permiten a sus agentes ejecutar cambios en el código o sistemas basándose únicamente en evaluaciones automatizadas, sin revisión humana previa. A pesar de esto, solo el 5% de las empresas confía plenamente en estas evaluaciones, lo que pone de manifiesto una desconexión entre la autonomía de los agentes y la confianza que se tiene en ellos.
Consideraciones de seguridad y rendimiento
El informe también señala que el 69% de las organizaciones permite que al menos algunos de sus agentes compartan credenciales. Aquellas que permiten esta práctica experimentaron incidentes de seguridad a una tasa significativamente más alta (63.5%) en comparación con aquellas que implementan identidades únicas y controladas para cada agente. Este hallazgo subraya la importancia de un enfoque más robusto hacia la identidad y la seguridad para evitar vulnerabilidades.
Por otro lado, más del 80% de las empresas que operan sus propias GPU reportan una utilización inferior al 50%. Este dato revela la ineficiencia en el uso de hardware costoso, donde la necesidad real no radica en adquirir más recursos, sino en optimizar el rendimiento de los existentes y evaluar adecuadamente los costos asociados a cada carga de trabajo.
La necesidad de un contexto gobernado
La falta de un contexto empresarial claro también ha llevado a un 57% de las empresas a recibir respuestas equivocadas de sus agentes, debido a datos no gobernados o inconsistentes. Esto resalta la urgencia de establecer modelos de gobernanza que aseguren definiciones claras y métricas precisas antes de ampliar la implementación de agentes.
A medida que el panorama de la inteligencia artificial se desarrolla, queda claro que las empresas deben priorizar no sólo la adopción de tecnología, sino también la creación de un marco robusto que garantice la efectividad y la seguridad de los agentes. Con un mercado en constante evolución, la toma de decisiones estratégicas en cuanto a la implementación de herramientas de inteligencia artificial será fundamental para el crecimiento y la competitividad de las organizaciones.