La creciente adopción de la inteligencia artificial (IA) en el mundo empresarial ha suscitado importantes debates sobre la seguridad y la propiedad de los datos. Recientemente, figuras prominentes como el CEO de Microsoft, Satya Nadella, han expresado su preocupación por cómo las empresas están utilizando modelos de IA de laboratorios como OpenAI y Anthropic, y el impacto que esto tiene sobre sus datos sensibles.
Nadella advierte que las empresas están, en esencia, pagando dos veces por la inteligencia proporcionada por estos modelos. Primero, a través de la compra de tokens de uso de IA, y segundo, al proporcionar información valiosa y propietaria que es necesaria para que estos sistemas sean efectivos. Este fenómeno se agrava con el hecho de que, al utilizar estos modelos, las organizaciones están enseñando a la IA sobre las particularidades de sus negocios, lo cual podría beneficiar a los propios competidores de estas empresas.
El CEO de Microsoft destaca que cada interacción que las empresas tienen con un modelo IA se traduce en conocimiento institucional, un tipo de información que normalmente un competidor no podría adquirir. Este rico «exhaust» de datos –incluidos los mensajes de entrada y las correcciones que los usuarios realizan al modelo– es en realidad un tesoro que las empresas están entregando de manera inadvertida.
La Ironicidad del Acceso a Datos
Nadella también subraya una contradicción significativa: mientras las empresas deben pagar por el uso de modelos de IA, los creadores de esos modelos se benefician de la información que reciben a través de estas interacciones. Si bien los desarrolladores de modelos pueden acceder libremente a los datos públicos de Internet para entrenar sus sistemas, es irónico que impongan restricciones en el uso de los modelos por parte de las empresas que los utilizan. La solución que plantea es que las empresas mantengan la propiedad de sus datos, incluyendo las solicitudes y los comentarios que brindan.
Para afrontar estas inquietudes, Nadella sugiere que las empresas desarrollen entornos de aprendizaje propios en la nube, donde puedan gestionar sus datos de manera segura. Además, plantea la necesidad de tener capas de orquestación que faciliten la interacción con distintos modelos de IA y eviten la dependencia de un solo proveedor. Este enfoque fomentaría una mayor flexibilidad y control sobre la información que se comparte con estos sistemas.
Cambio Hacia Modelos de Código Abierto
Otro aspecto relevante en esta discusión es la creciente inclinación de las empresas hacia modelos de código abierto que pueden ser instalados en sus propias instalaciones. Idit Levine, CEO de Solo.io, ha observado un cambio significativo en las organizaciones que, tras probar modelos propietarios, comienzan a cuestionarse si pueden adoptar soluciones de código abierto en sus sistemas. Este enfoque no solo puede ofrecer un ahorro considerable, sino que también otorga a las empresas mayor control y seguridad sobre sus datos.
Este movimiento se refleja en el aumento en la demanda de modelos de código abierto, como evidencia el tráfico que ha recibido Vercel, un proveedor de herramientas de desarrollo, que ha mostrado un crecimiento notable en el uso de estas tecnologías alternativas. Nadella añade que, en el uso de la inteligencia, las empresas no solo consumen, sino que también producen conocimiento que debería pertenecerles.
Con el respaldo de una figura tan influyente como Nadella, es previsible que la tendencia hacia un mayor uso de modelos de código abierto en el ámbito empresarial continúe su auge, promoviendo un entorno más equitativo y seguro para la adopción de la inteligencia artificial.