La creciente preocupación pública por los avances descontrolados en inteligencia artificial (IA) destaca la necesidad de una supervisión adecuada en este ámbito. Sin embargo, la división del gobierno de EE. UU. encargada de evaluar la seguridad de estas tecnologías, el Centro para el Avance de la Innovación y Estándares para la Superinteligencia (CAISSI), presenta desafíos significativos al carecer de liderazgo permanente y no publicar sus investigaciones recientemente.
Según fuentes cercanas, CAISSI fue recientemente integrado de manera informal a una oficina de la Casa Blanca, lo que ha generado temores entre críticos sobre la posible politización de decisiones clave que afectan la ciberseguridad y el desarrollo de bioweaponry. Esta reestructuración ha suscitado inquietud acerca de si sus hallazgos podrían verse alterados en favor de una industria tecnológica que ha estado mayormente encargada de autorregularse.
Caroline Siegel Singh, responsable de programas de IA en la Federación de Científicos Americanos, enfatiza la necesidad de garantizar que expertos en política no partidista implementen regulaciones que realmente beneficien al público. A pesar de que algunos argumentan que acercar a los funcionarios de seguridad de IA a la administración del presidente podría resultar en un aumento de recursos y visibilidad para CAISSI, la falta de un director permanente no ha hecho más que profundizar la crisis de liderazgo en esta crucial entidad.
Falta de Estándares para la Evaluación de Seguridad en IA
El CAISSI ha visto cambios de personal que han llevado a la falta de un liderazgo estable y a una disminución en la publicación de sus informes sobre la seguridad de las IA. Este centro, que cuenta con un presupuesto de 10 millones de dólares al año, recibe aproximadamente una octava parte del presupuesto anual de su contraparte en el Reino Unido, lo que pone de relieve la discrepancia en el enfoque hacia la regulación de tecnologías emergentes.
En un contexto de avances vertiginosos, donde modelos de IA adquieren la capacidad de operar sin intervención humana y pueden generar situaciones problemáticas, como la reciente confusión provocada por un agente de IA en un caso de homicidio, la capacidad del gobierno para evaluar estos sistemas de manera independiente no ha crecido al mismo ritmo.
La situación se ha complicado aún más desde que la administración Trump, en su intento por priorizar la dominación en el campo de la IA, ha delegado a empresas tecnológicas la autorregulación. Las promesas de los gigantes tecnológicos para implementar “auto-políticas” han resultado en un paisaje donde la independencia de las evaluaciones gubernamentales está cada vez más en entredicho, dejando la responsabilidad en manos de las propias empresas.
Un Enfoque de Seguridad Nacional que Preocupa
Durante su segundo mandato, el presidente Trump asignó funciones clave a figuras de capital de riesgo como David Sacks, quien asumió un rol de liderazgo en la política de IA, aunque su experiencia era más financiera que técnica. El director de inteligencia nacional, Jay Clayton, ha sido encargado de llevar a cabo la nueva Fuerza de Superinteligencia, lo que implica un enfoque cada vez más alineado con la seguridad nacional, relegando a un segundo plano aspectos críticos como la protección del consumidor y los derechos civiles.
A pesar de que empresas como Anthropic y OpenAI han abogado por la colaboración con evaluadores externos, las limitaciones impuestas por estas mismas empresas sobre el acceso a las evaluaciones generan una ambigüedad sobre el rol que debe desempeñar el gobierno. Esta falta de claridad debilita la supervisión necesaria para mitigar los riesgos reales que la IA puede representar para la sociedad.
Con el avance acelerado de la inteligencia artificial y su inserción en la cotidianidad, resulta crucial que se clarifique el rol del gobierno y se implementen estándares adecuados para la evaluación de la seguridad de estos sistemas, garantizando así el bienestar colectivo ante una tecnología que, si no se gestiona adecuadamente, puede tener consecuencias severas.