La reciente presentación de Writer, una plataforma de inteligencia artificial destinada a empresas, ha dejado claro que el futuro del mercado de la IA empresarial amenaza con transformar los presupuestos de las organizaciones. La compañía ha revelado su nuevo modelo insignia, Palmyra X6, junto a innovadoras herramientas para la gestión y gobernanza de la IA que buscan dar a los líderes de TI un control más efectivo sobre el gasto de tokens en sus agentes de inteligencia artificial.
Writer sostiene que su modelo Palmyra X6 ofrece una operación que reduce los costos en un 52%, mejora la velocidad en un 48% y aumenta la calidad en un 10% comparado con versiones anteriores. Además, se trata de un modelo posentrenado basado en GLM-5.2, un modelo de código abierto proveniente de Z.ai, lo que ha generado debate sobre el uso de fundamentos abiertos de origen chino en el contexto estadounidense.
Desafíos en el gasto de tokens de IA
El panorama del gasto en inteligencia artificial se encuentra en una encrucijada. Goldman Sachs predice que el consumo de tokens aumentará 24 veces entre 2026 y 2030, alcanzando cifras astronómicas a causa del uso continuo de agentes empresariales. Esto significa que, aunque los precios por token disminuyan, el gasto total podría aumentar si no se gestionan adecuadamente los ciclos de consumo. Waseem AlShikh, CTO de Writer, señala que «el costo alrededor de la IA es la principal barrera para su adopción en las empresas.»
El directivo argumenta que la reducción de gastos en tokens no significa afectar negativamente las ganancias de la empresa. Al contrario, argumenta que un costo más bajo por tarea abrirá la puerta a la automatización de flujos de trabajo que de otra manera no se consideraría. Esto recuerda a las dinámicas del sector de la computación en la nube, donde los precios unitarios bajaron durante años mientras el consumo en total aumentó.
Características de Palmyra X6
Palmyra X6 es un modelo que utiliza 744 mil millones de parámetros y se ha entrenado con una técnica llamada «fine-tuning supervisado anclado» (ASFT), empleando un corpus extremadamente reducido de solo 626 ejemplos generados sintéticamente. Este enfoque busca optimizar costos y, a su vez, preservar las capacidades generales del modelo base.
En pruebas internas, Palmyra X6 ha superado otros modelos destacados, obteniendo un promedio de 0.87 en capacidades evaluadas, siendo especialmente efectivo en tareas de recuperación y generación de contenido. Además, con un tiempo promedio de finalización de tareas de 26 segundos, se posiciona como una opción ágil y eficiente frente a la competencia.
La preocupación por la seguridad y la confianza en la IA
La elección de Writer de basar su modelo en GLM-5.2 plantea preguntas sobre la seguridad y la confianza en la IA. A pesar de la reputación del modelo como uno de los más competentes a nivel global, estudios han señalado posibles problemas en cuanto a comportamiento ofensivo y la falta de un marco de seguridad claro.
Writer ha dado prioridad a la trazabilidad y la evaluación del riesgo, asegurando que todas las etapas de la formación y el uso del modelo se llevaron a cabo en infraestructuras estadounidenses, y que se realizaron rigurosas evaluaciones para identificar y mitigar sesgos y problemas de seguridad.
Herramientas de gobernanza y control del gasto
El lanzamiento de nuevas herramientas de gobernanza aspira a proporcionar a las empresas un control completo sobre el uso y los gastos derivados de la IA de Writer. Estas ofrecen una vista centralizada de las actividades de los agentes y facilitan la implementación de límites y alertas de consumo. La finalidad es reforzar la confianza de los líderes empresariales al expandir el uso de la IA dentro de sus organizaciones.
A medida que las empresas se adaptan a un entorno donde el costo por tarea exitosa se vuelve fundamental, Writer parece estar marcando una dirección clara: la gobernanza efectiva no solo se convertirá en un requisito, sino también en un factor decisivo para el éxito sostenible en un mercado de IA que se expande rápidamente.
Con una inversión sólida y un enfoque en el uso empresarial de la IA, Writer está dando pasos firmes hacia un futuro donde la inteligencia artificial no solo es más accesible, sino también más eficiente y confiable.