El panorama de la inteligencia artificial se encuentra en constante evolución, y la controversia en torno a la empresa china Moonshot y su modelo de lenguaje Kimi K3 ha captado la atención del sector. Michael Kratsios, asesor científico de la Casa Blanca, alega que Moonshot ha desarrollado su tecnología imitando el modelo Fable de Anthropic, lo que ha generado un debate sobre la legalidad y la ética detrás de la obtención de tecnología estadounidense.
Kratsios ha enfatizado que el robo de tecnología propietaria y la infracción de la investigación estadounidense son inaceptables. En medio de conversaciones sobre la posible prohibición de modelos de código abierto provenientes de China, Moonshot no ha respondido a las preguntas sobre su proceso de entrenamiento. Asimismo, la Secretaría del Tesoro ha señalado que han encontrado «marcas de agua» de modelos estadounidenses en varios modelos chinos, aunque no han especificado en qué consisten dichas marcas.
A pesar de las suposiciones, expertos en el área tienen dudas sobre la viabilidad de que Kimi K3 haya sido creado únicamente a través de un proceso de destilación, que implica analizar un modelo de lenguaje para replicar sus capacidades. Braden Hancock, investigador del Laude Institute y cofundador de Snorkel AI, ha comentado que no es factible que un modelo tan avanzado como Kimi K3 haya emergido de esta manera en tan poco tiempo. Según Hancock, esta rápida aparición no es justificable considerando que el modelo de Anthropic se hizo público recientemente.
El Proceso de Distilación y su Complejidad
El proceso de destilación normalmente requiere un laboratorio que realice consultas sistemáticas a un modelo objetivo con el fin de generar datos para un posterior entrenamiento. Algunos investigadores, como Nathan Lambert del Allen Institute for AI, sugieren que el enfoque de destilación se está volviendo menos efectivo a medida que nuestros modelos se vuelven más complejos. Este avance complica aún más el uso de técnicas de aprendizaje por refuerzo, que son cruciales para alcanzar capacidades comparables a modelos de vanguardia.
La implementación de estas técnicas requiere una infraestructura de gran escala, incluyendo millones de agentes que valoran las respuestas de un modelo más pequeño. Este tipo de operación no solo es costosa, sino que también presenta serios desafíos logísticos, lo que complica aún más la suposición de que el modelo Kimi K3 se haya desarrollado a través de destilación directa de Fable.
Además, se ha informado que Moonshot ha sido acusado anteriormente por Anthropic de realizar actividades de destilación sistemáticas, con evidencia de interacciones inusuales entre sus modelos y usuarios. Las consultas realizadas por estas empresas sugieren un intento deliberado de extracción de capacidades más que un uso legítimo del modelo de Anthropic.
No obstante, la destilación no es un fenómeno exclusivo de China. Empresas como SpaceX han admitido utilizar modelos de OpenAI para el desarrollo de su propia inteligencia artificial, lo que indica que la práctica está extendida en la industria. La delgada línea entre destilación y el desarrollo de conjuntos de datos sintéticos complica aún más el análisis de estos procesos.
Por otro lado, también se han planteado preocupaciones sobre si Moonshot ha podido obtener chips avanzados, prohibidos para la exportación a China, lo que podría plantear interrogantes sobre la legalidad de sus operaciones. Según fuentes, existe un mercado negro activo para estos chips, lo cual complica aún más los esfuerzos por regular la tecnología de inteligencia artificial en el ámbito internacional.
A medida que los modelos tecnológicos continúan evolucionando, queda claro que el debate sobre la ética, la legalidad y la innovación en inteligencia artificial está lejos de resolverse, y la comunidad global debe estar atenta a los desarrollos en este campo crucial.