El Black Hat, uno de los eventos más destacados en el ámbito de la seguridad informática, se congregó recientemente en Las Vegas, donde las innovaciones en inteligencia artificial (IA) jugaron un papel central, tanto como herramienta útil como fuente de nuevos riesgos. Cada año, los responsables del Centro de Operaciones de Red (NOC) se enfrentan a la complejidad de gestionar la seguridad en un entorno saturado de pruebas y demostraciones de ataque, donde el comportamiento anómalo en la red se vuelve la norma.
En esta edición, la IA fue fundamental para optimizar la evaluación de amenazas. Según James Pope, administrador del NOC y director de investigación de productos de seguridad en Corelight, la capacidad de la IA para identificar comportamientos sospechosos ha transformado la gestión de incidentes. “Tenemos alertas que combinamos en detecciones, y eso nos lleva a lo que llamamos triage agentic”, explicó Pope, destacando la efectividad de este enfoque en un contexto donde se registraron casi 9,000 incidentes y miles fueron gestionados de manera automática.
El uso de herramientas de triage que amalgaman tecnologías de seguridad de red existentes, componentes desarrollados internamente y soluciones de terceros, permite a los administradores no solo confiar en los datos generados, sino verificar su validez mediante registros primarios. “Se trata de facilitar su uso en su entorno habitual, evitando que deban adaptarse a nuevas plataformas”, añadió Pope, enfatizando que la integración es clave para maximizar la adopción de nuevas tecnologías.
Desafíos de la IA en la Ciberseguridad
Sin embargo, el impacto de la IA no solo se ha limitado a mejorar la detección de amenazas, sino que también ha provocado preocupaciones sobre su uso indebido. Durante el evento, se discutieron casos de IA empleada en ataques cibernéticos, un fenómeno creciente. “Sí, la gente está utilizando IA de manera ofensiva. Pero no se trata de agentes que se descontrolan”, aclaró Pope, refiriéndose a este tipo de incidentes como planificados para fines educativos o de investigación.
Un problema más preocupante, identificado por Pope, es el ‘vibe coding’, término que se refiere a la creación de software sin las debidas medidas de seguridad, como la encriptación de datos durante su transmisión. “Todos están creando aplicaciones sin protocolos de seguridad básicos. La falta de cifrado en herramientas utilizadas para tareas cotidianas genera vulnerabilidades significativas”, advirtió. Esto resalta la necesidad de mayores estándares en el desarrollo de software, especialmente en un entorno donde la seguridad de la información es esencial.
Pope instó a los asistentes a revisar las aplicaciones que utilizan, sugiriendo el uso de herramientas como Wireshark para identificar posibles filtraciones de datos. Las recomendaciones surgieron tras identificar múltiples aplicaciones no seguras en el evento, que ponen en riesgo tanto a los usuarios como a sus datos personales.
Educación y Conciencia en Seguridad
El desafío no solo radica en identificar y mitigar ataques, sino también en educar a los usuarios sobre los riesgos inherentes a sus herramientas digitales. El equipo del NOC fue consciente de su credibilidad en la comunicación de alertas, dado que cualquier aviso provenía de una dirección ubicada en blackhat.com, lo que les daba un nivel de autoridad frente a otros participantes.
Los administradores del NOC subrayan que el uso de redes seguras como las VPN no siempre garantiza protección, especialmente si estas presentan vulnerabilidades propias. “Algunos proveedores de VPN son deficientes y pueden filtrar información. Por ello, es necesario que los usuarios reconsideren qué aplicaciones utilizan y cómo afectan su seguridad en línea”, concluyó Pope, instando a una mayor responsabilidad en el diseño y desarrollo de software.
En resumen, el Black Hat 2023 mostró un panorama donde la inteligencia artificial puede ser tanto una aliada como una amenaza. La necesidad de una infraestructura de seguridad robusta y el desarrollo consciente de aplicaciones seguras son más relevantes que nunca en un mundo digital en constante evolución.