La reciente intervención de Pedro Franceschi, CEO de Brex, en una conferencia de tecnología ha puesto en relieve uno de los desafíos más apremiantes que enfrenta hoy en día el mundo empresarial: la implementación segura de agentes de inteligencia artificial en entornos productivos. Durante su presentación, Franceschi subrayó la importancia de desarrollar un nuevo enfoque que trascienda las terminologías vagadas y se centre en roles concretos dentro de las empresas.
Franceschi criticó la noción de «agentes», un término que, según él, carece de significado claro en la práctica. Proponiendo en su lugar la idea de un «empleado virtual», describió un agente que pueda interactuar como un miembro del equipo humano a través de plataformas como Slack, con capacidad para enviar correos electrónicos y participar en reuniones.
Nueva seguridad para una nueva era
Esta visión de colaboración humano-agente exige un cambio en los paradigmas de seguridad. Brex enfrentó un dilema cuando su equipo de seguridad rechazó la propuesta de automatizar funciones internas mediante OpenClaw, un agente que permite la autoejecución y la gestión de sus propios códigos. La preocupación radicaba en la capacidad del agente para ejecutar código, algo que generó reticencias generales en el sector a otorgar autonomía a las máquinas en redes corporativas.
Para solucionar esto, Franceschi propuso un cambio en el perímetro de seguridad, pasando de un enfoque basado en la restricción del uso de herramientas a uno que monitorea el tráfico de red. En lugar de intentar controlar el código que se ejecuta dentro del contenedor, la atención se dirige a lo que dicho código intenta enviar o recibir del exterior. Este nuevo enfoque permitió el desarrollo de CrabTrap, una solución de proxy HTTP de código abierto creada por Brex.
CrabTrap: Innovación en evaluación de seguridad
CrabTrap actúa bajo la premisa de que OpenClaw puede ejecutar cualquier acción y que podría estar comprometido. Por lo tanto, supervisa todo el tráfico de red entre el contenedor y la internet, utilizando un modelo de lenguaje grande (LLM) para evaluar si este tráfico se ajusta a las políticas aprobadas. Esta evaluación presenta el desafío de añadir latencia a las respuestas, que puede afectar la eficiencia de los agentes.
Brex implementó un sistema bifurcado: las acciones rutinarias de bajo riesgo se evalúan instantáneamente a través de reglas preaprobadas, mientras que las acciones de alto riesgo desencadenan la revisión del LLM. Esta arquitectura asegura que solo cerca del 2% de las solicitudes complejas enfrente esta latencia adicional. Franceschi destacó que el LLM mostró una capacidad sorprendente para entender patrones de tráfico de red, gracias a su entrenamiento con miles de millones de páginas web.
En prácticas de pruebas, Brex verificó esta infraestructura mediante “Jim”, un reclutador virtual que utiliza OpenClaw, encargado de tareas como la selección de candidatos y la gestión de correos electrónicos. Cuando Jim intenta realizar una acción no aprobada, CrabTrap pone en marcha un flujo de trabajo que involucra a un humano que puede revisar y, al necesitarlo, ajustar las políticas en tiempo real.
Desafíos y aprendizajes en la frontera tecnológica
Como empresa fintech, Brex no se posiciona como un proveedor de ciberseguridad, pero la falta de soluciones comerciales maduras motivó la creación de CrabTrap internamente. Franceschi reconoció que asistir a la vanguardia tecnológica puede implicar riesgos, mencionando que la probabilidad de desechar la herramienta en seis meses era alta. Sin embargo, lo aprendido en esos meses previos a la adopción más amplia de estas tecnologías resultó invaluable.
El recorrido de Brex en este campo resalta la necesidad de que los líderes empresariales desarrollen tanto la cultura como las competencias técnicas necesarias para navegar en un mundo donde la colaboración humano-agente es cada vez más común. Franceschi concluyó que la respuesta no es la inacción, sino la proactividad en el desarrollo de entornos seguros y efectivos para la inteligencia artificial en la empresa.