En el vertiginoso mundo de la inteligencia artificial, las palabras del fundador y CEO de Anthropic, Dario Amodei, han captado la atención de la industria. A través de un post, Amodei aclaró que su empresa nunca ha apoyado la prohibición de los modelos de «open weight» (peso abierto), en respuesta a las crecientes especulaciones sobre el papel de Anthropic en las discusiones sobre la regulación de estos modelos en Estados Unidos.
La controversia inició tras la publicación de una carta abierta, impulsada por el CEO de Nvidia, Jensen Huang, en la que varias empresas de inteligencia artificial como Meta, Microsoft y Hugging Face pidieron a los legisladores evitar restricciones prematuras en modelos de AI de acceso abierto. Aunque este documento no mencionaba directamente a China, las inquietudes sobre la capacidad creciente de los laboratorios de inteligencia artificial chinos, en gran parte, a través del robo de propiedad intelectual, han dominado el debate.
Amodei destacó que los modelos de peso abierto, que no poseen capacidades peligrosas, deberían considerarse un bien público, ya que su costo se limita a los recursos computacionales necesarios para ejecutarlos. “Proporcionan valor a negocios, desarrolladores e investigadores,” afirmó en su publicación, subrayando su perspectiva respaldada por la experiencia en su campo.
A pesar de sus preocupaciones sobre el AI, Amodei aclaró que los riesgos no provienen del uso de modelos de peso abierto, incluso aquellos provenientes de China. Su mayor temor radica en que gobiernos autoritarios desarrollen modelos de inteligencia artificial que superen a los de EE. UU., utilizando estos avances para mantener una superioridad militar o para reprimir a sus poblaciones. En sus palabras, el Partido Comunista Chino es el “más capaz” en este sentido.
El fundador de Anthropic no solo se centró en el peligro que representan los gobiernos autoritarios, sino que también mencionó la posibilidad de “ataques biológicos” como un riesgo nuevo y urgente, en donde los modelos de peso abierto presentan desafíos adicionales dado que es complicado establecer medidas de control sobre ellos. Destacó que, una vez liberados al público, estos modelos no pueden ser retirados, lo que contrarresta la argumentación de los defensores de los modelos de código abierto, quienes sostienen que estos proporcionan una ventaja defensiva.
Amodei sugirió medidas para frenar a China, como limitar su acceso a chips de alto rendimiento, una política histórica en EE. UU. También propuso un enfoque colaborativo a nivel global, donde todos los países, incluida China, participen en la creación de una organización para la certificación de la seguridad de los modelos. Esta acción, según él, podría ser factible y facilitaría un mínimo de cooperación internacional para prevenir el desarrollo de armas biológicas basadas en inteligencia artificial.
En conclusión, el debate sobre la regulación de modelos de inteligencia artificial de acceso abierto sigue siendo un tema candente, con múltiples voces en la mesa. Mientras algunos abogan por restricciones drásticas, otros, como Amodei, promueven un enfoque más matizado que enfatiza la necesidad de cooperación global y la responsabilidad compartida en el desarrollo de esta tecnología transformadora.