La inteligencia artificial (IA) está reestructurando la forma en que las empresas abordan el desarrollo de productos, especialmente en sectores altamente competitivos como el turismo. Xavi Amatriain, actual director de IA y datos de Expedia Group, destacó recientemente en el evento VB Transform 2026 la importancia de las evaluaciones (evals) como nuevos documentos de requisitos del producto (PRD). Esta transformación implica una incorporación de los requisitos de seguridad desde las primeras etapas del diseño, antes incluso de comenzar la codificación.
Amatriain, quien anteriormente ocupó un cargo similar en Google, pone en evidencia la necesidad de adaptar la gobernanza de la IA mediante un enfoque por capas. En esta estructura, los principios organizacionales se comunican de manera clara y se refuerzan con procesos y herramientas que les otorgan peso. Cada nivel de riesgo involucrado en un agente automatizado determina la cantidad de gobernanza necesaria; a mayores riesgos, se requieren controles más estrictos.
Un enfoque en agentes especializados
El modelo propuesto por Expedia prioriza la composición de agentes especializados en tareas concretas, en lugar de depender de una inteligencia general única. Amatriain sostiene que esta estrategia permite no solo un mejor diseño del sistema, sino también una seguridad más avanzada al permitir que los equipos evalúen y aseguren cada agente por separado antes de integrarlos.
El sistema de Expedia involucra la orquestación de sub-agentes, lo que optimiza tanto la capacidad de respuesta como la calidad de las interacciones con los usuarios. En este contexto, el diseño se convierte en una cuestión sistémica: no se trata solamente de la tecnología utilizada, sino de cómo se estructura el ecosistema en su totalidad.
Empoderamiento del usuario en el proceso de toma de decisiones
En un entorno donde los precios y disponibilidad cambian constantemente, Amatriain subrayó la importancia de que el agente de IA no realice transacciones sin la intervención final del usuario. Este enfoque garantiza que los clientes mantengan el control sobre sus decisiones, lo cual no solo es una cuestión de usabilidad, sino también de seguridad.
La dinámica de interacción se ve facilitada por un sistema que combina generación aumentada de información y llamadas a APIs directas, optimizando así la rapidez con la que se ofrece la información requerida. Esto se traduce en una experiencia más ágil y eficiente para el usuario, quien puede comparar recomendaciones basadas en datos concretos y no solo en lo que los proveedores declaran.
Desafíos en la gobernanza de la IA
A pesar de las ventajas que ofrece la implementación de IA, Amatriain enfatiza que la gobernanza debe ser una prioridad desde el inicio del proceso de desarrollo. Según un estudio reciente, el 54% de las empresas ha enfrentado incidentes de seguridad relacionados con agentes de IA, y el peligro no solo proviene de errores humanos, sino también de amenazas generadas por otros sistemas de IA.
La necesidad de adoptar un ciclo de retroalimentación que vincule los datos operacionales con la evaluación del rendimiento es esencial para mitigar estos riesgos. Esto implica que, además de detectar problemas, el tiempo que se tarde en resolverlos es crítico para evitar desastres mayores.
La evolución del manejo de la IA en empresas como Expedia ilustra un cambio fundamental en la manera en que se desarrollan y gestionan los productos, donde la gobernanza adaptada al riesgo y el enfoque en agentes especializados juegan un papel crucial en la creación de un entorno más seguro y eficiente. A medida que la tecnología avanza, la capacidad para adaptarse y gestionar estos nuevos desafíos será determinante para el éxito en el ámbito de los negocios digitales.