El auge de la inteligencia artificial (IA) ha llevado a muchas empresas a adoptar agentes autónomos en sus operaciones diarias, pero esta transición también ha suscitado preocupaciones sobre la seguridad. Un reciente estudio revela que, en el camino hacia la implementación de la IA, las organizaciones están enfrentando desafíos significativos en la gestión de riesgos, lo que ha generado una creciente desconfianza en la seguridad de estos agentes.
Según la investigación, más de la mitad de las empresas encuestadas (53%) ya tienen sistemas de IA operativos, y un 27% está en fases de pilotaje o despliegue limitado. Sin embargo, la seguridad no ha seguido el mismo ritmo de adopción. Un alarmante 53% de estas organizaciones ha experimentado un evento de seguridad relacionado con agentes de IA, mientras que el 19% ha confirmado un incidente. Esta situación pone de manifiesto una brecha preocupante: las empresas no están equipadas para contener eficazmente los problemas de seguridad que surgen junto con la implementación de estas tecnologías autónomas.
Desigualdad entre vigilancia y contención
Una de las principales conclusiones del estudio es la “brecha de contención”. Aunque el 65% de las empresas implementa permisos limitados para los agentes en tiempo real y el 56% monitoriza la actividad de estos, solo el 18% aísla a los agentes considerados de alto riesgo. Esta falta de aislamiento significa que, a pesar de que se están tomando medidas para observar y prevenir incidentes, las empresas son vulnerables a ataques que pueden comprometer múltiples sistemas.
Además, cerca del 63% de las flotas de agentes están compartiendo credenciales, lo que agrava aún más esta situación. La gestión de la identidad ha mejorado, con el 49% de las organizaciones afirmando que cada agente tiene su propia identidad gestionada, pero la prevalencia del uso compartido muestra que queda mucho por hacer en esta área.
Dependencia de controles de proveedores
Otro hallazgo notable es que el 92% de las empresas que nombraron una capa de seguridad primaria mencionaron herramientas nativas de proveedores o hiperescaladores, como OpenAI y Microsoft Azure. Esto refleja una dependencia preocupante de soluciones que no necesariamente abordan los problemas de contención y aislamiento necesarios para una seguridad robusta.
A pesar de la insatisfacción con la capacidad de contención, las empresas califican su satisfacción con las herramientas de seguridad de agentes en un sorprendente 4.29 de 5. Aun así, el 74% planea adoptar, agregar o reemplazar herramientas de seguridad en los próximos doce meses, lo que indica una discrepancia entre la percepción de satisfacción y la urgencia por mejorar.
Inversión en seguridad y cambio de percepción
En términos de presupuesto, los datos muestran un cambio lento pero positivo: una tercera parte de las empresas ahora asignan más del 10% de su presupuesto de seguridad a la protección de los agentes de IA. Sin embargo, la inversión aún no refleja adecuadamente los riesgos actuales que enfrentan estas organizaciones.
La mayoría de las empresas coincide en que hay un cambio en la dinámica de la seguridad, con el 33% de los encuestados creyendo que los atacantes armados con IA están a la delantera respecto a sus defensas. Este es un claro indicativo de que la confianza en las defensas de seguridad ha disminuido, a pesar de reportar que la mayoría ha tenido algún tipo de incidente relacionado con la IA.
En resumen, aunque las empresas están adoptando tecnologías de IA y mostrando un compromiso creciente para mejorar su seguridad, queda un largo camino por recorrer. La falta de estrategias de contención eficaces y la dependencia de soluciones de proveedores destacan la necesidad de una reevaluación en la forma en que se gestionan los riesgos asociados a la implementación de agentes autónomos. A medida que estas tecnologías continúan evolucionando, la capacidad de las organizaciones para protegerse contra amenazas potenciales será fundamental para su éxito a largo plazo.