En el entorno dinámico de la inteligencia artificial, una de las principales preocupaciones para startups y emprendedores es la economía asociada con el uso de agentes AI. Comprender lo que realmente implica el ‘tokenomics’ puede ser crucial para optimizar la inversión en tecnología. Recientemente, un investigador ha revelado su experiencia en la creación de un marco de trabajo que no solo mejora la eficiencia de la investigación, sino que también reduce costos significativamente.
El reto inicial surgió tras agotar el límite de una cuenta de un servicio de AI en apenas 30 minutos, lo que llevó al investigador a reflexionar sobre la mejor forma de utilizar las herramientas que ya tenía. Con las subscripciones existentes de Claude, Codex y Antigravity, encontró una vía para combinar estos servicios de manera eficiente, maximizando así sus recursos sin incurrir en gastos adicionales.
Un Enfoque Integrado
La clave del éxito en esta investigación fue el uso de un sistema integrado que unía las capacidades de los diferentes modelos de AI. Al emplear Claude Code como el armazón principal y extender la funcionalidad del plugin ‘claude-mem’ para trabajar en conjunto con Codex y Antigravity, el investigador logró compartir memoria entre los agentes. Esta estrategia permitió que cualquier información que un modelo obtuviera fuera accesible para los demás, creando un entorno colaborativo que optimizó el proceso de investigación.
El investigador llevó a cabo un análisis cuidadoso de diferentes modelos y sus aplicaciones. Cada uno fue utilizado para roles específicos en el proceso: desde la búsqueda hasta la verificación y la planificación, ajustando modelos según su eficacia real. Esta orquestación, basada en un patrón de trabajo claro y flexible, demostró que, al utilizar herramientas más baratas como subagentes, se podía prolongar el tiempo de investigación de forma considerable.
Reducción de Costos y Aumento de Confianza
La estrategia no solo se enfocó en optimizar costos, sino también en establecer un sistema de confianza en los hallazgos. Se implementaron rigurosas reglas de verificación para evitar las «alucinaciones» típicas de algunos modelos de AI. Entre estas reglas, se enfatizaba que cada hallazgo debía estar respaldado por una fuente confiable, evitando así la incorporación de información errónea o sin verificar.
El desarrollo de un marco de trabajo híbrido, donde los agentes realizan la investigación intensiva bajo la supervisión y verificación humana, se perfiló como la solución más efectiva. Este enfoque permite combinar lo mejor de ambos mundos: la rapidez y capacidad de procesamiento de AI con la perspectiva crítica y analítica del ser humano.
Aprendajes Clave
La investigación resultó en la creación de una base de datos fiable, que abarca cientos de notas sobre precios, herramientas y benchmarks. Algunos hallazgos sorprendieron a su creador, como el impacto que el ‘harness’ (o armazón) tiene sobre los costos de los modelos, y cómo algunos cambios en el flujo de trabajo podían influir drásticamente en las facturas recibidas.
Además, se evidenció que la compresión de contexto, aunque intuitiva a priori como una forma de reducir costos, puede llevar a un aumento inesperado en el consumo de tokens. Cada una de estas observaciones alimenta la continua mejora del marco de investigación.
Para aquellos que enfrentan desafíos similares, el consejo del investigador es simple: replantear el orden de las operaciones puede ser la clave. Utilizar modelos económicos para la búsqueda, modelos precisos para la verificación y la investigación profunda como una etapa final puede cambiar la dinámica de los costos y la eficiencia en la obtención de información.