La creciente dependencia de la inteligencia artificial en el desarrollo de software ha abierto la puerta a nuevos riesgos en la cadena de suministro, destacando una amenaza emergente conocida como slopsquatting. Este fenómeno se basa en los errores de generación de modelos de lenguaje (LLM), que pueden ser aprovechados por cibercriminales para inyectar código malicioso en proyectos desde las primeras etapas de desarrollo.
¿Qué es el slopsquatting?
El slopsquatting combina los conceptos de «AI slop» y «typosquatting”, un ataque común donde los delincuentes registran versiones mal escritas o similares a dominios populares para engañar a los usuarios. Esta técnica aprovecha la tendencia de los LLM a generar nombres de paquetes de software ficticios, que los atacantes pueden registrar y llenar con malware.
Cuando los desarrolladores utilizan asistentes de codificación basados en IA, se arriesgan a incorporar paquetes falsos en su código. Aunque los modelos puedan generar estos nombres de manera inocente, registrar esos nombres por parte de los atacantes permite la inserción directa de malware en los proyectos de los desarrolladores.
El riesgo en la cadena de suministro
Históricamente, los riesgos asociados a la inteligencia artificial han surgido de la mala interpretación de información generada por los modelos. Sin embargo, estas «alucinaciones» se han transformado en vulnerabilidades de seguridad explotables. Mientras que el typosquatting ha conocido protecciones a lo largo del tiempo, el slopsquatting presenta un desafío diferente al generar nombres plausibles que no son simplemente errores tipográficos.
Por ejemplo, un registro puede prevenir que un delincuente publique «crossenv», una versión errónea de «cross-env», pero no estará protegido contra nombres como «cross-env-extended» o «mpn install cross-env file».
La persistencia de las alucinaciones
Las alucinaciones de LLM pueden persistir a largo plazo, permitiendo que paquetes maliciosos permanecen en producción durante meses o incluso años antes de ser detectados. Un estudio que analizó más de 31,000 vulnerabilidades descubrió que el crecimiento anual de las vulnerabilidades es del 98%, una tasa alarmante en comparación con el incremento del 25% en el número de paquetes de software de código abierto.
Peligros reales de las alucinaciones de IA
Los atacantes pueden crear paquetes de acceso abierto con nombres que imitan a bibliotecas populares, llenándolos de malware. Dado que los modelos frecuentemente repiten nombres alucinados, esto hace que sea fácil para los delincuentes engañar a miles de desarrolladores. La detección se complica debido a la similitud de estos paquetes con bibliotecas legítimas y la confianza que los desarrolladores depositan en sus herramientas de codificación.
Causas de las alucinaciones en los LLM
Los LLM tienden a generar la respuesta estadísticamente más probable, priorizando cantidad sobre precisión. Un estudio encontró que las tasas de alucinación pueden oscilar entre el 50% y el 82%, lo que implica que, en muchos casos, los modelos se ven obligados a proporcionar respuestas incorrectas.
Además, los ataques adversarios que manipulan el modelo a nivel de tokens podrían aumentar la probabilidad de que recomiende paquetes maliciosos.
¿Cuáles LLM son más vulnerables al slopsquatting?
Todos los LLM enfrentan el riesgo de slopsquatting, pero algunos son más susceptibles. La investigación muestra que los modelos de código abierto producen alucinaciones con mayor frecuencia que los propietarios. En un conjunto de pruebas, se demostró que los modelos propietarios generaron alucinaciones en un 3.59%, en comparación con el 13.63% de los modelos de código abierto.
Esto sugiere que las organizaciones que dependen de herramientas de IA de código abierto están más expuestas a ataques de slopsquatting, un problema que podría intensificarse a medida que los atacantes busquen explotar esta vulnerabilidad.
El problema del ‘vibe coding’
Los desarrolladores que usan herramientas de IA han informado que más del 40% de su código incluye asistencia de IA, con un aumento esperado en los próximos años. Este incremento en el uso de la codificación asistida por IA amplifica la superficie de ataque, permitiendo que los slopsquatters encuentren oportunidades para explotar errores humanos en los procesos de desarrollo.
Navegando el desarrollo asistido por IA
Para mitigar estos riesgos, es crucial implementar verificaciones automatizadas que validen los nombres de los paquetes contra registros conocidos antes de que sean utilizados en producción. Además, los equipos de seguridad deben estar atentos a instalaciones inusuales de paquetes y mantenerse actualizados con la inteligencia sobre amenazas relacionadas con campañas de slopsquatting.