El evento VB Transform 2026, celebrado en el lujoso Hotel Nia de Menlo Park, reunió a líderes empresariales y expertos técnicos en el ámbito de la inteligencia artificial generativa. Esta conferencia se ha consolidado como uno de los encuentros más importantes del año, centrada en la implementación de agentes de IA para obtener resultados comerciales significativos.
Rachad Alao, vicepresidente de ingeniería de productos en la startup canadiense Cohere, participó en un diálogo con Matt Marshall, CEO y editor en jefe de VentureBeat, donde discutieron sobre la construcción de sistemas inteligentes sin comprometer el control de datos sensibles ni la infraestructura de las empresas. Alao, con experiencia previa en Google y Meta, subrayó que la soberanía en la inteligencia artificial va más allá de simplemente activar un modelo abierto o ejecutar una aplicación dentro de una red corporativa.
Según Alao, las organizaciones que manejan sistemas críticos, como bancos, hospitales y entidades gubernamentales, deben mantener un control riguroso sobre la localización de sus datos y las operaciones de IA. “Es fundamental tener un control estricto de dónde reside la información y cómo se utiliza”, destacó, añadiendo que las operaciones de IA deben llevarse a cabo en jurisdicciones conocidas o controladas directamente por la organización.
Retos en la utilización de modelos de IA
A medida que las empresas evolucionan desde simples chatbots hacia agentes que analizan y procesan información de manera más compleja, los costos de consumo y utilización de los tokens están aumentando rápidamente. Marshall planteó una inquietud sobre la sostenibilidad económica de los modelos más pequeños en un entorno donde los precios de inferencia están en descenso. Sin embargo, Alao argumentó que el consumo total está creciendo aún más rápido debido a la complejidad de los nuevos casos de uso de IA.
“La utilización de tokens está aumentando exponencialmente, ya que lidiamos con casos de uso más sofisticados que requieren múltiples pasos para llegar a una respuesta”, indicó Alao. En este contexto, Cohere adopta un enfoque distinto a otros proveedores que cobran a los clientes según el consumo de tokens. En lugar de maximizar esta utilización, Cohere se enfoca en ayudar a las empresas a resolver problemas complicados de forma privada, sugeriendo seleccionar el modelo adecuado según la tarea y sus requisitos específicos.
Modelos más pequeños para la mayoría de los casos de uso
Ante la pregunta sobre la competencia entre el North Mini Code de Cohere y modelos propietarios de codificación, Alao reconoció que los modelos más grandes pueden tener un desempeño superior en las tareas más desafiantes. Sin embargo, enfatizó que para el 80% de los casos de uso, su modelo resulta significativamente más efectivo y menos costoso.
El North Mini Code, diseñado para funcionar en una sola GPU Nvidia H100, se centra en la ingeniería de software ágil, incluyendo tareas como revisión de código y uso de herramientas. Además, la compañía ha lanzado el modelo Command A+, compuesto por 218 mil millones de parámetros, optimizado para una implementación privada.
La búsqueda como componente integral
En el ámbito de la búsqueda empresarial, Alao destacó que se está evolucionando hacia la búsqueda multimodal, que ahora integra no solo texto, sino también documentos y otros tipos de información. Esta innovación es vital para los flujos de trabajo inteligentes, donde el modelo decide cuándo y cómo utilizar herramientas de recuperación.
Alao también abordó la necesidad de que las empresas superen las soluciones de IA empaquetadas de proveedores de nube tradicionales, enfatizando la importancia del control de datos y la portabilidad. “Si realmente te importa la soberanía, necesitas tener más control sobre tus datos”, concluyó, mostrando cómo el enfoque de Cohere permite a los clientes evitar el bloqueo de proveedores y navegar con mayor libertad en el uso de modelos de IA adaptados a sus necesidades.