En el contexto actual de la inteligencia artificial, las empresas están empezando a evaluar con mayor atención los costes que implica la implementación de estas tecnologías. Los modelos de código abierto han ganado terreno gracias a sus tarifas por token significativamente más bajas, pero elegir el modelo adecuado sigue siendo un desafío. Para abordar esta necesidad, Writer ha lanzado su nuevo modelo emblemático, Palmyra X6, diseñado específicamente para optimizar este proceso y reducir los costos asociados.
Palmyra X6 se fundamenta en una variante posterior al entrenamiento del modelo de código abierto GLM-5.2 de Z.ai. Con esta novedad, Writer prevé que los usuarios puedan disfrutar de capacidades listas para el despliegue a un precio mucho más accesible. Según las estimaciones de la compañía, esta nueva solución, combinada con modificaciones en su infraestructura, podría traducirse en una reducción de costos de hasta un 50% para tareas básicas.
Además del modelo, Writer ha introducido mejoras significativas en su infraestructura de agentes. Estos avances estarán disponibles para los clientes de Writer a partir de este jueves, ofreciendo herramientas que facilitarán la ejecución de tareas más complejas a un ritmo más rápido y con un uso reducido de tokens. La optimización de la infraestructura se presenta como un factor esencial para lograr estos objetivos.
Enfoque en la Eficiencia
Un estudio reciente realizado por investigadores de Writer respalda esta nueva estrategia, mostrando que pequeñas modificaciones en la eficiencia del sistema pueden resultar en una reducción de costos más efectiva que simplemente seleccionar un modelo diferente. La investigación reveló que, en múltiples casos, los ajustes en la infraestructura ofrecieron un descenso en los costos del 40% en promedio.
La eficiencia del sistema se convierte en un componente crítico, ya que maximiza su impacto en todos los modelos utilizados por una organización, tanto actuales como futuros. Como destacaron los investigadores, «el sistema es el único componente cuya eficiencia se multiplica en cada modelo que una organización emplea».
Para los clientes de Writer, la experiencia se mantiene agnóstica al modelo, lo que significa que Palmyra X6 coexistirá con otros modelos de Writer o incluso con modelos externos que se integren a través de plataformas como Azure o Amazon Bedrock. Sin embargo, May Habib, CEO de Writer, señala que la creciente presión para reducir costes ha generado un escepticismo hacia los laboratorios de IA más grandes, los cuales, según él, están incentivados a incrementar el uso de tokens. «La explosión de costos aquí es sin precedentes», afirma Habib, añadiendo que muchas organizaciones están perdiendo la confianza en estos laboratorios y cuestionando su capacidad para ofrecer beneficios tangibles en el ámbito empresarial.
Este nuevo enfoque de Writer no solo tiene el potencial de cambiar la forma en que las empresas gestionan sus gastos en inteligencia artificial, sino que también puede marcar un punto de inflexión en la relación entre los clientes y los proveedores de tecnología. Con un enfoque centrado en la eficiencia y reducción de costos, Writer busca establecer un nuevo estándar en la industria.