En un mundo donde la inteligencia artificial (IA) se integra cada vez más en las operaciones empresariales, el desafío de establecer políticas de gobernanza y seguridad efectivas se vuelve crucial. Durante una mesa redonda entre directores de seguridad de información (CISO), Dev Rishi, Director General de IA en Rubrik, planteó una pregunta fundamental: ¿acaso todos tenían sus políticas escritas? La respuesta fue unánime, pero al indagar sobre su aplicación en la práctica, las sonrisas nerviosas revelaron un secreto incómodo: muchos carecen de los mecanismos para hacer realidad estas políticas.
Este dilema se evidencia en la adopción del modo «YOLO» (You Only Live Once) que Rubrik ha comenzado a implementar. Este enfoque permite que los agentes de IA actúen de manera autónoma, eliminando la necesidad de aprobación humana en ciertas tareas, lo que plantea interrogantes éticos y de seguridad. Rishi indica que, si se pide al agente actuar de manera autónoma, realmente lo hará, pero la cuestión permanece: ¿debería hacerlo?
El conflicto entre la autonomía de los agentes y la necesidad de supervisión humana es un reto constante que enfrenta Rubrik. Cuando se lanzaron los pilotos de Claude Code y Cowork, la compañía exigió que todas las órdenes se ejecutaran en modo «pregunta», lo que generó un debate extenso entre los desarrolladores sobre la viabilidad y la carga de esta medida. Según Rishi, aproximadamente el 80% de los responsables de TI y seguridad afirman que supervisar y aprobar las acciones de los agentes consume más tiempo del que realmente ahorran.
La gobernanza semántica como solución
Para abordar estos retos, Rubrik ha desarrollado SAGE, el Motor de Gobernanza Semántica de IA. Esta capa de arbitraje supervisa las acciones de los agentes y evalúa su intención semántica, decidiendo en tiempo real si una acción cumple con las políticas establecidas. Rishi resume este enfoque como sustituir «el humano en el bucle» por «la IA en el bucle», brindando a los ejecutivos de seguridad una solución más eficaz y menos costosa para la supervisión de las operaciones.
Históricamente, los sistemas de gestión de identidad y acceso no han tenido en cuenta las combinaciones de permisos, lo que se traduce en mayores riesgos de seguridad. Rishi advirtió sobre el ‘trifecta letal’, donde un agente con permisos aparentemente benignos puede, en combinación, convertirse en una amenaza significativa. Este fenómeno pone de manifiesto la necesidad de un enfoque más granulado en la supervisión de agentes de IA.
Retos en tiempos de crecimiento
La generalización del Rubrik Agent Cloud comenzó en febrero, aunque aún faltan funcionalidades criticas. Se están implementando pruebas retrospectivas que permiten analizar acciones históricas de los agentes contra nuevas políticas, pero un punto clave radica en la capacidad de detectar acciones problemáticas que no se activan en una sola interacción, lo que vuelve a poner de relieve la importancia del análisis en lote. Esta falta de capacidad para revertir acciones puede generar brechas de recuperación para las empresas.
El panorama de seguridad se complica, pues muchas empresas aún confían en las salvaguardas integradas de sus proveedores de IA sin contemplar soluciones más robustas. A pesar de que un número significativo de organizaciones está considerando realizar cambios en sus herramientas de seguridad para agentes, solo una pequeña fracción tiene en mente soluciones que incluyan productos de identidad para estos agentes.
A medida que la IA en el ámbito empresarial sigue evolucionando, la necesidad de políticas efectivas y mecanismos de implementación se vuelve más crítica. La indecisión reflejada por los CISO en la mesa redonda de Anthropic sobre la ausencia de mecanismos de enforcement indica una oportunidad latente para productos que logren cerrar esta brecha. La apuesta de Rubrik por un agente de IA que supervise a otros agentes es un paso audaz hacia la creación de un entorno empresarial más seguro y eficiente.