La conversación en torno a los modelos de lenguaje grande (LLM) ha cambiado drásticamente en los últimos años, especialmente en lo que respecta a la infraestructura necesaria para su implementación eficiente. Aunque las unidades de procesamiento de gráficos (GPUs) han dominado este espacio, la creciente complejidad de las aplicaciones de inteligencia artificial y el cambio hacia arquitecturas más integradas están promoviendo un regreso significativo del uso de unidades de procesamiento central (CPUs). Este artículo explora por qué este cambio está ocurriendo y cómo podría redefinir el futuro del desarrollo y despliegue de IA.
Transformación en la Inferencia de AI: CPUs en el Centro del Escenario
Históricamente, el papel del CPU en la infraestructura de IA era de apoyo; servía principalmente para realizar tareas de coordinación y gestión de la carga de trabajo presentada al GPU. Con un ratio de aproximadamente 1 CPU por cada 8 GPUs en las etapas de entrenamiento, los CPUs eran vistos como meros facilitadores de la potencia computacional de las GPUs. Sin embargo, este paradigma está empezando a cambiar, una transformación impulsada por el advenimiento de la IA «agente», caracterizada por sistemas que requieren una coordinación más compleja entre múltiples tareas y modelos.
En este contexto, los CPUs están comenzando a desempeñar un rol más activo, convirtiéndose en elementos cruciales debido a su capacidad para manejar operaciones condicionales y lógicas complejas. **Intel** ha señalado este cambio significativo en la relación CPU-GPU, indicando que en operaciones de inferencia su proporción ha cambiado de 1:8 a 1:1 y, en ciertos casos, a 4:1 en aplicaciones específicas.
El Auge de la IA Agente y su Impacto en la Demanda de CPU
El desarrollo de sistemas de IA que operan como agentes integrados ha creado nuevos patrones de trabajo. Estos sistemas suelen descomponer tareas en múltiples llamadas a modelos, cada una de las cuales es contexto-dependiente y puede requerir varias ejecuciones. Esto significa que el CPU ahora tiene que gestionar no solo la coordinación de tareas, sino también la ejecución de estas en un ciclo continuo, transformando efectivamente al CPU en un posible cuello de botella debido a la cantidad de trabajo organizativo que implica.
Estudios recientes, como el realizado por investigadores de Georgia Tech e Intel, indican que las operaciones de procesamiento en el lado del CPU pueden representar entre el 50% y el 90% de la latencia total en un sistema de IA agente. La tendencia muestra que las arquitecturas de infraestructura están empezando a ajustarse hacia un mayor uso de CPUs debido a estas necesidades operativas complejas.
Presiones Estructurales que Fomentan el Uso de CPUs
Aparte de la IA agente, un segundo factor importante en esta transición es la creciente adopción de modelos más pequeños y específicos de dominio, que son cada vez más utilizados en sistemas locales, en lugar de depender completamente de soluciones en la nube. Estas decisiones están impulsadas por varias presiones, incluyendo la necesidad de baja latencia, consideraciones de privacidad, costos más accesibles y la disponibilidad en entornos sin conexión.
Por ejemplo, el despliegue de modelos pequeños de lenguaje (SLMs) ha evolucionado al punto en que pueden ser eficaces para tareas específicas sin requerir la capacidad de computo masivo ofrecida por las GPUs. Esto se traduce en que los costos de implementar sistemas de CPU en infraestructuras ya existentes son mucho menores y pueden ser más eficientes en situaciones donde la latencia y la privacidad son críticas.
La Evolución de la Infraestructura y sus Implicaciones
El paisaje industrial está reflejando estos cambios. Recientemente, empresas como OpenAI y AWS han firmado asociaciones estratégicas que incluyen una amplia gama de CPUs y GPUs para apoyo en cargas de trabajo agente. Además, empresas como NVIDIA han presentado nuevos procesadores, específicamente diseñados para la implementación de IA agente, como su CPU Vera, que promete mejorar el rendimiento y la eficiencia operativa en este campo.
Este giro en la relación entre CPU y GPU no representa simplemente un cambio en el hardware; es una evolución hacia un enfoque más pragmático y equilibrado en la construcción de soluciones de IA. La flexibilidad en el uso de hardware, donde el CPU desempeña un rol protagonista, permite una mayor eficiencia y efectividad en el procesamiento de solicitudes y la ejecución de tareas complejas.
En conclusión, mientras que el GPU seguirá siendo la solución preferida para cargas de trabajo de alta concurrencia donde se requieren grandes modelos, el panorama está cambiando con la introducción de nuevas demandas que hacen que el CPU no solo sea relevante, sino esencial. La era del CPU está regresando, impulsada por las necesidades de la inteligencia artificial moderna y la búsqueda de arquitecturas más integradas y eficientes.