El auge de la inteligencia artificial está transformando la manera en que las empresas abordan sus operaciones, y Liquid AI, una startup formada por ex-científicos del MIT en 2023, se encuentra a la vanguardia de esta revolución. Recientemente, la empresa lanzó LFM2.5-2.6B, un nuevo modelo de lenguaje de código abierto diseñado para tareas específicas de inteligencia artificial que se ejecutan en hardware local, desde teléfonos inteligentes hasta Raspberry Pi.
Este modelo, que cuenta con 2.6 mil millones de parámetros y un contexto de 128,000 tokens, se presenta como una opción atractiva para empresas que manejan información sensible y que prefieren no recurrir a la nube por razones de privacidad. La capacidad del LFM2.5-2.6B para operar en entornos con conectividad limitada hace que sea ideal para aplicaciones en vehículos y robótica, donde los modelos más grandes pueden no ser prácticos.
Un nuevo enfoque para la inteligencia artificial local
En una reciente entrevista, Maxime Labonne, responsable de post-entrenamiento en Liquid AI, destacó que el modelo está diseñado para ser ejecutado eficientemente en procesadores centrales (CPUs) en lugar de depender de gráficos procesadores (GPUs). Esto implica que las empresas pueden desplegar AI de manera más económica y flexible, utilizando simplemente electricidad como costo operativo. Labonne menciona que incluso un Raspberry Pi puede ejecutar el modelo «muy, muy bien».
Las cifras proporcionadas por la empresa indican un rendimiento promedio de 220 tokens por segundo en un Apple M5 Max y un total de 113 tokens por segundo en un procesamiento de carga sostenida en un AMD Ryzen AI Max+. Además, el modelo permite la ejecución de herramientas nativas y ofrece un marco de afinación de código abierto llamado LEAP, lo que facilita su adaptación a diversas necesidades empresariales.
Una redefinición en el uso de modelos de lenguaje
A diferencia de muchos modelos de lenguaje que suelen enfocarse en chatbots, Liquid AI ha desarrollado el LFM2.5-2.6B con la idea de que estos modelos sean utilizados a través de marcos de trabajo que actúan como agentes. Según Labonne, el modelo no solo se ocupa de tareas matemática o de programación, sino que también está entrenado para utilizar herramientas de manera efectiva.
El modelo ha sido entrenado con aproximadamente 34 billones de tokens, y su fase de entrenamiento incluye modelos especializados en distintas áreas, lo que le ha permitido sobresalir en tareas complejas como la gestión de documentos y la automatización de flujos de trabajo. Este enfoque en la capacitación de modelos dirigidos a tareas específicas ha demostrado ser efectivo, presentando un notable rendimiento en varios benchmarks en comparación con otros modelos de gran escala.
Implicaciones para el futuro del trabajo empresarial
El lanzamiento de LFM2.5-2.6B se produce en un contexto en el que las empresas están cada vez más interesadas en implementar soluciones de IA locales. Liquid AI ha establecido una asociación con MacPaw, lo que resalta la viabilidad de su modelo para integrarse en entornos de trabajo reales. El acuerdo implica el desarrollo de un asistente de macOS que operará de manera local en los dispositivos de Apple, destacando la utilidad y eficiencia del modelo.
La oferta de Liquid AI, que permite a las empresas sin grandes presupuestos de hardware operar modelos de IA sofisticados, abre nuevos horizontes en la automatización y en tareas repetitivas que requieren continuidad. Con la promesa de ejecutar tareas complejas de manera más accesible, Liquid AI está bien posicionada para ser un competidor clave en el espacio de la inteligencia artificial empresarial.