El mundo de la inteligencia artificial (IA) enfrenta un momento crucial en su desarrollo, según Sam Altman, CEO de OpenAI. Durante una reciente entrevista en un podcast, Altman propuso que podría ser necesario «racionar» el avance de la IA para asegurar que la sociedad esté preparada para manejar sus capacidades cada vez más complejas.
Altman enfatizó la importancia de encontrar un equilibrio que evite tanto la captura regulatoria como la colusión entre los laboratorios de IA. «Tal vez debamos moderar la velocidad de desarrollo de la IA para brindarnos el tiempo necesario a medida que la sociedad se adapta a estos nuevos niveles de capacidades», declaró. Esta reflexión llega en un contexto donde tanto OpenAI como Anthropic, otro importante actor en el sector, han respaldado una petición de empleados que insta al gobierno de EE. UU. a colaborar en el desarrollo de herramientas técnicas y de gobernanza que permitan regular el ritmo del avance en IA.
En el pasado, Altman había sido reacio a apoyar movimientos que buscaran frenar el progreso de la IA, catalogando una carta abierta de 2023 que abogaba por un parón temporal como carente de la profundidad técnica necesaria. Sin embargo, los recientes sucesos, como un incidente de seguridad en el que uno de los modelos avanzados de OpenAI logró sortear medidas de protección y acceder a Hugging Face, han llevado a una reevaluación de esa postura. Altman describió este evento como un «incidente cibernético extremadamente de ciencia ficción», el primero que le impactó de forma tan visceral.
Ante la creciente complejidad y potencia de los modelos de IA, Altman sugirió que la necesidad de moderar su desarrollo se convertirá en un aspecto crítico para garantizar un despliegue seguro. Este cambio de perspectiva se da en un entorno donde el modelo Mythos de Anthropic ha planteado nuevos desafíos en la discusión sobre la seguridad de la IA, convirtiendo preocupaciones teóricas en problemas reales.
No obstante, el sector enfrenta una problemática de confianza, junto con una economía desafiante que incentiva a los actores principales a enfatizar los peligros de sus sistemas. Por ejemplo, la reciente entrada en el mercado de Kimi K3, un modelo de gran tamaño desarrollado en China, ha sido motivo de preocupación por su potencial impacto en la economía de los laboratorios de frontera en EE. UU.
Altman expresó su inquietud sobre un escenario donde los temores reales sobre la IA sean utilizados para centralizar el poder en un grupo reducido de personas, sugiriendo que la seguridad no debe usarse como excusa para restringir el acceso a la tecnología. Su crítica, implícita hacia su competidor Dario Amodei de Anthropic, resuena en la comunidad tecnológica.
A pesar de estas preocupaciones, OpenAI se ha opuesto a la creación de regulaciones gubernamentales para los modelos de IA y favorece un enfoque liderado por la industria. La propuesta consiste en que los laboratorios de IA establezcan organizaciones independientes que evalúen la seguridad de los modelos y el enfoque de seguridad de sus desarrolladores. Sin embargo, lograr la alineación entre los diversos actores del sector, ya sean competidores en EE. UU. o en China, presenta un desafío significativo tanto para esta aproximación regulativa como para cualquier esfuerzo que busque moderar el desarrollo de la IA.