Nvidia ha lanzado una nueva plataforma de seguridad destinada a prevenir el desbordamiento de modelos de inteligencia artificial (IA) y su acceso no autorizado a sistemas ajenos. Este anuncio se produce en un contexto de creciente preocupación por la seguridad de los modelos de IA, después de varios incidentes que han puesto en evidencia vulnerabilidades importantes.
La compañía, que se ha asociado con más de 100 empresas, incluidas gigantes tecnológicos como Cisco, Microsoft y Oracle, tiene como objetivo proporcionar un marco de protección para las IA que se implementan en entornos corporativos. Sin embargo, destaca que OpenAI no es parte de esta iniciativa, lo cual ha generado interés y especulación en la comunidad tecnológica.
Innovación en seguridad: OpenShell y Sentry
En su presentación, el CEO y fundador de Nvidia, Jensen Huang, trazó un paralelo entre la situación actual de la IA y los inicios de la World Wide Web. Según Huang, los programas de navegación de la época, que permitían un acceso irrestricto, derivaron en una proliferación de virus y en la necesidad de implementar barreras de seguridad. Así, la nueva plataforma de Nvidia, que consiste en las herramientas OpenShell y Sentry, aspira a cumplir una función similar.
“Lo que estamos haciendo es crear un navegador moderno para agentes de IA”, declaró Huang en una entrevista. La idea es que al desplegar un agente, se le retiren automáticamente todos sus derechos de acceso y, posteriormente, se le concedan permisos específicos solo si es necesario.
El desarrollo de estas medidas de seguridad comenzó hace aproximadamente un año. Huang aseguró que, de haberse implementado antes, se podría haber evitado un incidente de seguridad en Hugging Face, lo que subraya la importancia de este avance.
La plataforma utiliza dos niveles de protección: OpenShell actúa sobre los procesadores centrales para limitar las capacidades del agente, mientras que Sentry, que opera sobre chips de red, supervisa y puede aislar a un agente si intenta exceder sus límites establecidos, todo en cuestión de milisegundos.
Un enfoque abierto y colaborativo
El software de Nvidia es de código abierto, lo que invita a la comunidad a contribuir a su mejora y a detectar posibles vulnerabilidades. Huang enfatizó que se busca hacer visible el entorno de trabajo para fomentar la colaboración y el refinamiento continuo de la tecnología.
A pesar de que OpenAI no es un socio oficial, el CEO de Nvidia expresó su esperanza de que la naturaleza abierta del proyecto fomente su participación en el futuro, lo que podría enriquecer la plataforma y su alcance en la industria.
La presentación de esta plataforma también ha coincidido con un anuncio significativo: Nvidia aumentó su programa de recompra de acciones en $150 mil millones, el mayor en la historia de EE. UU., un movimiento que corrobora su valoración de más de $5 billones, impulsada por la creciente demanda de chips de IA.
A medida que surgen preocupaciones sobre el potencial destructivo de la IA, Huang se ha posicionado como un «optimista responsable», comparando el desarrollo de la IA con la evolución del automóvil. Si bien reconoce los riesgos, aboga porque la regulación no ahogue la innovación, sugiriendo que una vez que la tecnología se clarifica, se debe establecer un marco regulador adecuado que garantice su desarrollo seguro.
Además, Huang propuso la necesidad de estándares industriales que aseguren la calidad y seguridad en el desarrollo de tecnologías de IA, sugiriendo que auditorías externas podrían convertirse en un pilar fundamental para la confianza pública en la industria. Este enfoque podría ser clave para consolidar la percepción positiva de la IA en el futuro.