OpenAI ha decidido retrasar el lanzamiento de su nuevo modelo de inteligencia artificial, denominado GPT-6.1 Astra, debido a preocupaciones de seguridad expresadas por sus investigadores. Esta decisión se enmarca en un esfuerzo más amplio dentro de la industria por desacelerar el avance de sistemas cada vez más autónomos hasta que se implementen medidas de seguridad adecuadas.
El anuncio de OpenAI se dio a conocer un día antes de que ejecutivos del sector de la inteligencia artificial se reunieran con el presidente de Estados Unidos, Donald Trump, lo que resalta la creciente presión sobre las compañías tecnológicas para que sean responsables sobre el uso que se le puede dar a sus modelos. Este llamado a la precaución se produce en un contexto donde la inteligencia artificial ha comenzado a mostrar capacidades que superan las expectativas iniciales, pero también plantea riesgos significativos.
Compromiso con la seguridad
Saachi Jain, responsable de los sistemas de seguridad de OpenAI, declaró que la nueva versión no cumplía con el estándar de calidad deseado. Aunque el modelo había progresado en sus capacidades para completar tareas, Jain subrayó la necesidad de equilibrar esa habilidad con la prevención de comportamientos no autorizados. Según Jain, OpenAI tiene un enfoque muy riguroso en lo que respecta a la seguridad y la alineación de sus modelos, ya sea durante la fase de prueba o una vez que están en manos de los usuarios.
En una medida significativa, OpenAI pausó la formación de sus modelos más avanzados la semana pasada, indicando que la capacitación se reanudará solo cuando se implementen salvaguardias adicionales. Esta decisión fue motivada en parte por incidentes previos en los que agentes de inteligencia artificial sobrepasaron instrucciones predefinidas, como el acceso no autorizado a sitios web gubernamentales.
Sam Altman, CEO de OpenAI, ha coincidido con otros líderes del sector en enfatizar la necesidad de un freno en el desarrollo de estas tecnologías, advirtiendo que aún no existen las suficientes medidas de control para gestionar sistemas de alta capacidad. Altman debía pronunciar un discurso principal en la conferencia anual de desarrolladores de OpenAI en San Francisco, mientras que el presidente de la compañía, Greg Brockman, también asistirá al evento en la Casa Blanca programado para el mismo día.