La inteligencia artificial generativa ha experimentado un crecimiento notable en los últimos ocho años, impulsado por un modelo basado en la acumulación de datos, parámetros y potencia de cálculo. Sin embargo, este enfoque ha comenzado a encontrar límites en términos de eficiencia económica, lo que sugiere la necesidad de una revisión fundamental en la forma de abordar el desarrollo de modelos inteligentes.
La clave de esta transformación gira en torno al modelo Transformer, introducido en 2017 con el artículo Attention Is All You Need. Su innovación principal fue el mecanismo de atención, que permite a los modelos identificar qué partes de un texto son relevantes para comprender el contexto general. Este avance ha dado lugar a modelos actuales como GPT, Claude y Gemini, estableciendo la norma de que a mayor tamaño del modelo, mejores resultados se obtienen. Sin embargo, las implicaciones económicas de este aumento en tamaño se tornan complejas, especialmente post-entrenamiento.
El costo de la inferencia
El proceso de adiestrar un modelo de IA representa una inversión considerable, a menudo puntual. Sin embargo, la fase posterior de inferencia, que se lleva a cabo miles de millones de veces al día, genera costos recurrentes significativos. Recientemente, un estudio de Microsoft Research reveló que una consulta convencional en un modelo de última generación consume una mediana de 0.31 vatios-hora, un dato que contrasta con estimaciones previas mucho más exageradas. Interrogaciones que requieren razonamiento más profundo pueden llegar a incrementar este consumo significativamente.
Los nuevos agentes autónomos, que han emergido como una tendencia clave, representan un cambio de paradigma. A diferencia del Transformer original que se centra en la predicción de texto, los modelos de razonamiento implícitos en estos agentes analizan problemas complejos antes de ofrecer respuestas. Sin embargo, este aumento en la autonomía también puede resultar en un aumento de las consultas necesarias para completar un solo encargo del usuario, lo que puede influir en los costos.
Redefiniendo la arquitectura de la IA
Frente a estos desafíos de costes, la industria está explorando dos caminos principales para mejorar la eficiencia. La primera es repensar la arquitectura de los modelos de IA. Investigaciones actuales combinan el enfoque de atención del Transformer con modelos de espacio de estados, un método centrado en aplicar la atención solo en las áreas relevantes, reduciendo así costos operativos. La segunda estrategia se enfoca en disminuir el tamaño efectivo de los modelos, permitiendo que una fracción solamente del mismo se active ante cada consulta.
Ambos enfoques vislumbran una meta común: maximizar la capacidad cognitiva por cada unidad de energía y dinero gastos. Un estudio de la Universidad de Stanford sugiere que los modelos más pequeños que pueden ser ejecutados localmente cuentan con una sorprendente tasa de éxito del 89% en consultas cotidianas, mientras que la eficiencia energética ha mejorado en un 5.3 durante el periodo de 2023 a 2025.
Desafíos energéticos y hardware
A pesar de estas mejoras en eficiencia, se presenta una paradoja: la IA puede convertirse en más eficiente a nivel individual y, sin embargo, consumir más electricidad en total. Este efecto rebote se produce cuando el costo de cada consulta disminuye notablemente, pero el número total de consultas se incrementa de manera exponencial.
Además, a medida que el software se vuelve más selectivo, la presión se traslada al hardware. La tendencia actual apunta a que no es simplemente cuestión de tener más unidades de procesamiento gráfico (GPU), sino de garantizar que los chips posean suficiente memoria y ancho de banda para optimizar la operación de datos. Esto ha llevado a un aumento en el diseño de chips de alta capacidad de memoria y aquellos especialmente creados para inferencias.
Con el avance hacia una inteligencia artificial más localizada, los modelos optimizados podrían proporcionar respuestas a consultas comunes sin requerir grandes centros de datos, generando ahorros en costos y mejorando la latencia y privacidad de los usuarios. Esta distribución de tareas promete aliviar la carga en las infraestructuras centralizadas, permitiendo que los centros de datos se concentren en las tareas más complejas.
El futuro de la inteligencia artificial probablemente no se verá dominado por un solo modelo, sino que se caracterizará por un ecosistema de arquitecturas híbridas, que combinan modelos de diferentes tamaños y capacidades, además de integrar agentes que operan tanto en entornos locales como en la nube. Este escenario podría replantear cómo se monetiza el uso de la inteligencia artificial, orientando el enfoque hacia el pago por tareas específicas, en lugar de suscripciones tradicionales.