Recientemente, se ha inaugurado el Instituto DeepMind, una iniciativa lanzada por Google y sus investigadores de DeepMind, con el objetivo de fomentar un diálogo enriquecedor sobre la inteligencia general artificial (AGI). Este nuevo espacio cuenta entre sus directores a figuras destacadas como Shane Legg, cofundador de DeepMind; James Manyika, ejecutivo de Google; y Demis Hassabis, presidente de Google DeepMind, quien también asume el papel de editor gerente.
El Instituto busca acoger diferentes perspectivas tanto de Google y DeepMind como de la comunidad investigadora a nivel global sobre la AGI. Según fuentes oficiales, es natural que estas entidades no siempre coincidan en sus opiniones y es probable que sus posturas evolucionen conforme emerjan nuevos datos y se produzcan avances en esta área en constante movimiento.
Temáticas abordadas en los ensayos iniciales
Para marcar el inicio de sus actividades, el Instituto ha publicado una colección de cuatro ensayos que abordan temas fundamentales relacionados con la AGI. Estos incluyen políticas económicas para gestionar las posibles disrupciones que podría causar la AGI, la necesidad de preservar la razonabilidad humana en los modelos, principios para el florecimiento humano y un marco para la evaluación de modelos de inteligencia artificial en la vanguardia.
Uno de los ensayos, escrito por los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan, plantea que la cada vez menor transparencia de los modelos de IA—es decir, la capacidad de observar y verificar el razonamiento paso a paso—no es un destino inevitable. Los autores sugieren que desarrolladores y reguladores deben abordar directamente los compromisos de seguridad, lo que podría implicar restricciones en la “profundidad serie opaca” o exigir que los sistemas menos transparentes sean igualmente monitorizables.
En otro ensayo, Demis Hassabis propone la creación de un organismo de estándares para la inteligencia artificial de vanguardia liderado por EE.UU., que se encargaría de evaluar los modelos más avanzados. Según su marco, los desarrolladores podrían presentar sus modelos a revisión voluntariamente hasta 30 días antes de su lanzamiento. Con el tiempo, este sistema podría convertirse en un requisito para desplegar modelos de frontera en el país.
Cultura de la seguridad en la industria de IA
El marco sugerido por Hassabis incluye la posibilidad de diseñar evaluaciones en colaboración con las empresas de IA, pero eventualmente desarrollaría evaluaciones independientes que se lleven a cabo sin que los laboratorios conozcan los criterios por adelantado. Esto se conoce como “pruebas ocultas” y busca evitar que las empresas ajusten sus modelos a evaluaciones previsibles. Además, Hassabis indica que esta estructura podría ser adaptada y reforzada si la situación lo exige, permitiendo incluso desaceleraciones coordinadas entre los desarrolladores de inteligencia artificial de vanguardia.
Estos esfuerzos llegan en un momento en que la discusión sobre la seguridad en la industria de IA está evolucionando de declaraciones generales hacia propuestas concretas de divulgación y supervisión externa. Recientemente, líderes del sector han apoyado la idea de “spaciar” el desarrollo de la inteligencia artificial de frontera, lo que subraya la urgencia de establecer mecanismos efectivos que aseguren la responsabilidad en el avance tecnológico.