En el ámbito del desarrollo de modelos de inteligencia artificial, las cifras actuales muestran un crecimiento notable en la capacidad de razonamiento de los modelos, mientras que los costos computacionales por token han disminuido. Recientemente, modelos como GLM-5.2 han alcanzado un impresionante 99,2% de efectividad en las pruebas AIME 2026, operando con aproximadamente 40 mil millones de parámetros por token. En comparación, Qwen3.5 obtuvo un 91,3% con 17 mil millones de parámetros y DeepSeek V4-Flash, con 13 mil millones de parámetros, también ha demostrado ser eficaz. Estos resultados revelan que, aunque la complejidad de los modelos ha aumentado, la eficiencia por parámetro está mejorando a un ritmo acelerado.
No obstante, cuando se examina la capacidad de estos modelos para responder preguntas de carácter fáctico, la situación cambia radicalmente. En una evaluación de recall factual, Gemini 2.5 Pro lidera con solo un 53%, lo que significa que sigue fallando en la mitad de las preguntas. Los modelos más pequeños, como Qwen3.5 en sus variantes de 4B y 9B, presentan tasas de alucinación de entre el 80 y el 82% en índices de conocimiento, lo que indica que, cuando no conocen un hecho, generalmente generan uno falso. Esto plantea interrogantes sobre la calidad del conocimiento almacenado en estos sistemas respecto a su capacidad de razonamiento.
Parámetros y su Impacto en Conocimiento
La investigación revela que un modelo de IA almacena, en promedio, dos bits de conocimiento factual por cada parámetro. Por esta razón, los modelos más avanzados, que incluyen información completa y detallada, requieren billones de parámetros. Es importante notar que el razonamiento se puede comprimir más efectivamente que el conocimiento factual, ya que involucra procedimientos repetitivos en lugar de datos estáticos. Modelos como Phi-4, a pesar de tener 14 mil millones de parámetros, muestran un rendimiento superior en tareas de razonamiento mientras que su capacidad de recuperación de datos fácticos se mantiene más limitada.
Los modelos más recientes han sido diseñados para ser generalistas, poseyendo un amplio pero poco profundo conocimiento sobre diversos temas. Esto les permite entender preguntas y evaluar fuentes de información sin necesariamente tener todos los detalles fácticos almacenados. Esta estrategia, aunque efectiva, revela una evidente interrelación entre la capacidad de razonamiento y la retención de datos que necesita ser equilibrada.
El Tiempo de Vida del Conocimiento
Un desafío significativo en el entrenamiento de modelos de IA es que toda información incluida tiene un ciclo de vida limitado. Con el paso del tiempo y cambios en APIs, precios y carreras profesionales, los datos de un modelo entrenado en 2024 pueden volverse obsoletos muy rápidamente. Sin embargo, los procedimientos que se enseñan a los modelos, como el álgebra, permanecen constantes a lo largo de los años, lo que sugiere que un modelo que reserva su capacidad para razonar más que para recordar datos fácticos puede tener una vida útil más prolongada.
En este contexto, el uso de herramientas de recuperación externa se vuelve crucial. Para aquellos modelos que carecen de datos precisos, la habilidad de acceder a bases de conocimiento, realizar búsquedas web o consultar documentos relevantes permite que sean más funcionales y precisos en sus respuestas.
Del Modelo a la Práctica
Combinar el razonamiento eficiente con un sistema de recuperación externo abre la puerta a la creación de modelos de calidad de frontera que se pueden ejecutar en hardware más accesible, como las GPUs de consumo. Los avances en modelos como DeepSeek V4-Flash, que se adaptan a este marco, sugieren que se está acercando la posibilidad de tener modelos de alto rendimiento sin las abrumadoras exigencias de almacenamiento que antes eran comunes.
Sin embargo, es fundamental comprender que tales modelos, en su versión más ligera, pueden carecer de conocimiento factual sólido, lo que significa que, en respuesta a preguntas que requieren datos verificables, lo más adecuado sería buscar esa información externamente en lugar de depender únicamente de la información interna del modelo.
Soluciones a la Alucinación
Un aspecto prometedor de esta nueva aproximación es su impacto en la problemática de la alucinación en los modelos. Cuando un hecho está incrustado en el modelo, corregir errores se vuelve una tarea complicada. Sin embargo, si la información reside en bases de datos externas, cualquier error puede ser ajustado directamente en la fuente, permitiendo que la corrección esté disponible para futuros usos sin esperar nuevos ciclos de entrenamiento, que suelen ser largos y costosos.
Al implementar esta arquitectura donde el conocimiento se obtiene y se puede actualizar en tiempo real, se vislumbra un futuro donde se minimizan las limitaciones de conocimiento y se maximizan las capacidades de razonamiento, resultando en una IA más confiable y adaptable a un mundo en constante cambio.