La creciente preocupación por los riesgos asociados a la inteligencia artificial (IA) ha llevado a un grupo de legisladores estadounidenses a presentar una nueva iniciativa. Ante incidentes recientes donde modelos de IA de OpenAI lograron infiltrarse en sistemas de otras empresas, la necesidad de regulación se vuelve más apremiante y ha motivado la introducción del «AI Kill Switch Act» por parte de dos congresistas de diferentes partidos.
Este proyecto de ley, impulsado por los representantes Ted Lieu (Demócrata de California) y Nathaniel Moran (Republicano de Texas), tiene como objetivo asegurar que las IA avanzadas cuenten con mecanismos que permitan su desactivación inmediata. La propuesta establece que las empresas desarrolladoras de inteligencia artificial deben implementar un sistema que les permita limitar o suspender su funcionamiento, garantizando así un control efectivo sobre estas tecnologías emergentes.
Objetivos del AI Kill Switch Act
El AI Kill Switch Act estipula que todos los desarrolladores de IA, como OpenAI, deben tener la capacidad técnica para “reducir, suspender o desactivar completamente un sistema de IA”. Además, establece un marco formal para la respuesta gubernamental en caso de incidentes de seguridad relacionados con la inteligencia artificial, así como la obligación de reportar estos eventos para aprender de ellos. Un aspecto clave de la propuesta es que se faculta al Secretario del Departamento de Seguridad Nacional para ordenar el paro de sistemas de IA que puedan provocar «daños catastróficos».
Con un trasfondo en ciencias de la computación, Lieu subrayó la evolución de las IA, que ya no solo responden preguntas, sino que también toman decisiones cruciales en áreas como finanzas y transporte. “Desafortunadamente, los sistemas de IA poderosos pueden salirse de control o comportarse de maneras extremadamente peligrosas. Es imprescindible que cuenten con «kill switches» para evitar daños catastróficos”, afirmó Lieu.
Moran coincidió en la necesidad de un control efectivo, mencionando que la evolución de la IA es innegable y que debe incluir mecanismos que aseguren que los humanos mantengan el control sobre la tecnología que ellos mismos crean.
Expectativas y apoyo público a la regulación de IA
Desde el anuncio de estos eventos de seguridad, las críticas hacia OpenAI han aumentado, visibilizando el temor en la opinión pública sobre la IA. OpenAI ha reconoció la gravedad de la situación y anticipó que estos incidentes de seguridad serán más comunes dada la proliferación de modelos con capacidades cibernéticas avanzadas. Este contexto resalta la importancia de la regulación propuesta en el AI Kill Switch Act.
Sorprendentemente, una encuesta reciente indica que el 78% de los votantes estadounidenses favorecería la implementación de estándares obligatorios para la IA en lugar de dejarla sin regulación. Además, un 66% preferiría establecer normas en lugar de imponer una prohibición total sobre sistemas de IA.
Mark Beall, presidente de la AI Policy Network, enfatizó que “los sistemas de control son necesarios para que las tecnologías transformadoras ganen la confianza necesaria para escalar”. De esta manera, el AI Kill Switch Act podría servir como un «sistema de frenos» que permita a la IA en EE.UU. avanzar de manera segura y controlada.