En un contexto donde la inteligencia artificial (IA) avanza a pasos agigantados y la diversidad de hardware se vuelve cada vez más crucial, la empresa Modular ha realizado importantes desarrollos que prometen transformar el ecosistema tecnológico. Durante el reciente evento ModCon, la compañía presentó su plataforma Modular, ahora lista para producción y capaz de manejar billones de tokens por minuto, así como las innovaciones que acompañan esta evolución.
Una de las novedades más destacadas es el lanzamiento de Mojo 1.0 como software completamente de código abierto bajo la licencia Apache 2.0. Esta apertura permite a los desarrolladores extender el lenguaje y crear aplicaciones sobre él, incentivando un entorno de colaboración en la comunidad tecnológica. Este desarrollo es un paso significativo en la visión de Modular de construir un stack de software que se adapte a entornos de hardware heterogéneos.
Modular Cloud y su impacto en el sector
Complementando el lanzamiento de Mojo, la plataforma Modular Cloud se presenta como un servicio de producción que facilita el acceso a un rendimiento de inferencia de alta calidad, eliminando la complejidad asociada al despliegue y optimización de modelos en diversas infraestructuras. Modular Cloud, que ya ha comenzado a operar con clientes emblemáticos como MiniMax, permite compartir y desplegar modelos de código abierto a través de puntos finales accesibles, lo que representa una opción eficiente y rentable para las empresas.
MiniMax, un cliente principal, se beneficia de la implementación de M3 en una arquitectura que exige una atención esparcida única, aumentando de esta manera su capacidad de operar a gran escala. Gracias a esta colaboración, la compañía está procesando miles de millones de tokens por minuto mientras optimiza su sistema para alcanzar un rendimiento récord.
Soporte para hardware personalizado
Modular no se detiene en el uso de GPUs tradicionales; la plataforma ahora admite también AWS Trainium, Google TPUs, y otros aceleradores de IA de Qualcomm. Este enfoque de hardware flexible permite a los desarrolladores diseñar un modelo una sola vez y desplegarlo en múltiples arquitecturas sin necesidad de reescribir el software, facilitando así el acceso a nuevas tecnologías y acelerando el proceso de integración.
Esta innovación es particularmente notable ya que la compañía ha logrado implementar soportes para nuevos hardware con un esfuerzo de ingeniería significativamente menor, lo que representa una reducción del 90% en comparación con los métodos convencionales. Este avance podría revolucionar cómo se desarrollan y utilizan las soluciones de IA en diversas industrias.
Construyendo un futuro colaborativo
Si bien la innovación en hardware continúa, Modular trabaja en abrir su modelo de licencia para MAX, permitiendo así que desarrolladores, empresas y socios contribuyan y extiendan la plataforma. Este enfoque busca crear un programa de alianza en la industria que junte diferentes actores del ecosistema, facilitando una construcción conjunta que apoye la interoperabilidad y el uso de estándares abiertos.
Con esta visión, Modular aspira a ser el fundamento sobre el que se desarrollen las futuras aplicaciones de IA, permitiendo a los vendedores competir no solo con su hardware sino con el valor que aportan a través de la solución completa que ofrecen.
Este enfoque innovador de Modular se posiciona como una respuesta a la necesidad del mercado por soluciones más eficientes y adaptables a un entorno tecnológico en constante cambio, marcando un paso decisivo hacia un futuro colaborativo en el desarrollo de la inteligencia artificial.