El uso de inteligencia artificial (IA) ha transformado el paisaje de la ciberseguridad, pero las restricciones impuestas por las empresas tecnológicas están generando un debate candente dentro de la comunidad de investigación en seguridad. A medida que los gigantes de la IA implementan programas de acceso restringido para prevenir el uso malicioso de sus modelos, muchos expertos advierten que estas medidas están obstaculizando la capacidad de los investigadores legítimos para defender sus sistemas.
En junio, el gobierno de Estados Unidos introdujo controles de exportación sobre los modelos de IA de Anthropic, Mythos y Fable. Esta decisión se vio impulsada, al menos en parte, por un informe que sugería que era posible eludir las salvaguardias diseñadas para prevenir ataques cibernéticos. Aunque estos controles se han levantado posteriormente, el impacto de las restricciones plantea preocupaciones sobre la seguridad.
Anthropic no es la única empresa que ha implementado este tipo de guardarailes. OpenAI, por ejemplo, también ha lanzado programas que permiten a los investigadores en ciberseguridad acceder a modelos de IA con menos limitaciones tras un proceso de selección. Sin embargo, estas guardrails han sido objeto de críticas, especialmente desde sectores dedicados a identificar vulnerabilidades y desarrollar formas de explotarlas antes que los delincuentes.
Desafíos de la Ciberseguridad en un Contexto de Control
Expertos como Mark Dowd, un destacado investigador en seguridad, han expresado su preocupación sobre el hecho de que grandes empresas determinen arbitrariamente qué es seguro en el ámbito de la ciberseguridad. Dowd, que ha trabajado durante años en la identificación y venta de vulnerabilidades, sostiene que los estándares impuestos pueden inhibir la actividad de defensa, obligando a los investigadores a buscar alternativas.
Por ejemplo, Chris Anley, científico jefe de NCC Group, indica que, al intentar utilizar un modelo de IA para explotar una vulnerabilidad, si el sistema se niega a responder debido a las restricciones, esto perjudica el trabajo defensor. La tensión entre el uso de herramientas para la ofensiva y la defensa se vuelve evidente, ya que las mismas herramientas pueden servir para ambos propósitos.
En este contexto, algunos investigadores han recurrido a modelos de IA de código abierto que no cuentan con estas restricciones, debido a la necesidad de flexibilidad en sus trabajos. Paolo Stagno, CTO de CrowdFense, menciona que, aunque emplean modelos avanzados, prefieren usarlos para ingeniería inversa en lugar de para la búsqueda activa de vulnerabilidades, ya que esto podría comprometer información sensible.
El Futuro de la IA en Ciberseguridad
A pesar de la crítica hacia las limitaciones, algunos investigadores como Giuseppe Cali encuentran que las restricciones no afectan su trabajo. Utilizan la IA principalmente para ingeniería inversa y generación de herramientas, manteniendo el control sobre el proceso de descubrimiento de vulnerabilidades.
Sin embargo, hay voces que alertan sobre el peligro potencial de estas guardrails. Chris Thompson, CEO de RemoteThreat, señala que las inconsistencias en el funcionamiento de los modelos pueden llevar a una pérdida de tiempo en la investigación, desviando a investigadores hacia modelos de código abierto extranjeros como el GLM, que no tienen las mismas limitaciones. Esta tendencia podría resultar contraproducente para la ciberseguridad en Estados Unidos.
Thompson aboga por una apertura en los programas de IA, sugiriendo que una mayor responsabilidad en el uso de estas herramientas es esencial para los investigadores defensores. En un momento crucial para la ciberseguridad, donde las amenazas están en constante evolución, el equilibrio entre la innovación y la protección se vuelve indispensable. Los próximos pasos que tomen las empresas de IA determinarán no solo el futuro de sus modelos, sino también la seguridad de la infraestructura digital global.