Detección de Vulnerabilidades en Código Generado Automáticamente por Modelos de Lenguaje

Abstract

La adopción de modelos de lenguaje de gran escala (LLM) para la generación automática de código ha transformado significativamente los procesos de desarrollo de software, permitiendo incrementar la productividad y reducir los tiempos de implementación. Sin embargo, esta evolución tecnológica introduce riesgos asociados a la seguridad del software debido a la posible generación de código vulnerable. La presente investigación tuvo como objetivo evaluar la seguridad del código fuente generado por herramientas de inteligencia artificial en sus versiones gratuitas, utilizando pruebas de análisis estático fundamentadas en el marco OWASP Top Ten 2021. Para ello, se diseñaron escenarios de prueba orientados a identificar vulnerabilidades relacionadas con inyección, fallas criptográficas, configuraciones inseguras, problemas de autenticación e integridad de software. Los resultados evidenciaron que los modelos evaluados son capaces de generar código funcional, pero no incorporan mecanismos de seguridad de forma consistente. Asimismo, se determinó que la calidad y nivel de seguridad del código dependen en gran medida de la especificidad del prompt utilizado. Como resultado, se propone el uso de estrategias de generación segura guiada para reducir la presencia de vulnerabilidades, complementadas con procesos tradicionales de validación y revisión de seguridad.