La creciente adopción de sistemas de agentes, como OpenClaw, ha puesto de manifiesto importantes desafíos en la gobernanza y seguridad de estos modelos en entornos empresariales. Brex, una empresa fintech, ha identificado y abordado estos problemas mediante la creación de una plataforma interna denominada CrabTrap, diseñada para fortalecer el control y la seguridad de los agentes al interceptar y analizar el tráfico de red de forma eficaz.
Brex ha desarrollado CrabTrap como un proxy HTTP/HTTPS de código abierto que examina todas las solicitudes de red, utilizando un modelo de lenguaje (LLM) como juez para decidir qué solicitudes de agentes deben ser aprobadas o rechazadas. Esta innovación surge de la observación de que el nivel de red era un punto de aplicación de políticas no explotado; cada solicitud de un agente representa la oportunidad de hacer una intervención y aplicar una decisión política.
Enfoque innovador en la capa de transporte
La solución inicial para cerrar la brecha de seguridad de los agentes se centró en establecer guardrails tradicionales y herramientas con permisos específicos. Sin embargo, este enfoque fue considerado limitado ya que, conforme los agentes evolucionan y adquieren nuevas capacidades, también se generan tensiones en su uso, donde hacerlos más seguros a menudo los vuelve menos funcionales. Franceschi, cofundador y CEO de Brex, destaca que estos sistemas deben ser lo suficientemente flexibles para permitir un uso efectivo sin comprometer la seguridad.
El equipo de Brex identificó que las soluciones existentes no brindaban un control adecuado, lo que llevó a la decisión de abordar el problema desde la raíz. CrabTrap opera en la capa de transporte, lo que le permite ser independiente de marcos, lenguajes y APIs específicos, resultando así en un sistema más ágil y adaptable. Los usuarios solo necesitan configurar variables de proxy en el entorno del agente, lo que asegura que todas las peticiones se redirijan a través del proxy, creando una capa de control central que regula la interacción con el mundo exterior.
Mejorando la inteligencia de las decisiones con LLM
CrabTrap combina reglas estáticas preventivas con un LLM que actúa como juez para manejar aquellas solicitudes que no cumplen patrones conocidos. Este sistema permite una mayor confianza en la exactitud de las decisiones de política, al utilizar comportamientos reales observados para formar las bases de las políticas de seguridad, en lugar de depender únicamente de manuales o configuraciones predefinidas.
Además, se ha implementado un bucle de retroalimentación en vivo que permite refinar estas políticas continuamente. Al registrar y analizar el tráfico histórico y las decisiones tomadas por el LLM, el sistema puede adaptarse y evolucionar en función de la realidad operativa, algo fundamental para los entornos empresariales dinámicos de hoy en día.
Desafíos encontrados y lecciones aprendidas
A pesar de sus innovaciones, el desarrollo de CrabTrap no estuvo exento de desafíos. Uno de los principales problemas fue la preocupación por la latencia al integrar un LLM en cada solicitud de API. Sin embargo, el equipo descubrió que la activación del juez era infrecuente, lo que permitió mantener un rendimiento adecuado. Otra dificultad clave fue la gestión de la inyección de comandos, para lo cual se adoptó un enfoque que estructuraba las solicitudes de manera que el contenido controlado por el usuario no comprometiera el juicio del sistema.
Desde la implementación, varios indicadores como engagement de agentes y patrones de tráfico han mostrado mejoras notables. Franceschi destaca que, al contar con un control que genera confianza, Brex ha podido expandir el uso de agentes autónomos en sus operaciones, cambiando su postura en cuanto a la implementación de tecnologías emergentes.
El potencial de CrabTrap y su evolución
CrabTrap ha sido lanzado como un proyecto de código abierto, abriendo la puerta a que la comunidad contribuya a su desarrollo y mejora. Brex tiene ambiciosos planes para su evolución, buscando integrar características adicionales que mejoren la autenticación, control de acceso y flujos de trabajo de escalado de permisos.
La experiencia de Brex con CrabTrap demuestra que las empresas no deben esperar a que la industria desarrolle soluciones adecuadas; en cambio, deben tomar la iniciativa y construir puentes donde existan brechas tecnológicas. Este enfoque práctico y colaborativo promete transformar la manera en que las organizaciones gestionan la seguridad y el control de sus agentes en el futuro.