La IA está escribiendo ahora una gran parte del software en producción. Según el informe de Aikido State of AI in Security and Development 2026, el 24% del código en producción es ahora generado por IA. Sin embargo, el 69% de las organizaciones han descubierto vulnerabilidades en el código generado por IA y el 20% ha reportado un incidente grave como resultado.
Gran parte de la conversación sobre seguridad en torno a los LLM se centra en establecer barreras de seguridad en los modelos. Pero se presta mucha menos atención a la capa de aplicación, a pesar de que es ahí donde se originan muchos de estos incidentes y donde las barreras de seguridad no pueden ayudar. En enero de 2025, una configuración errónea crítica en código generado por IA dejó más de 170 aplicaciones desarrolladas por Lovable exponiendo correos electrónicos, API keys, detalles de pago y datos personales. Ninguna barrera de seguridad situada delante de un modelo lo habría detectado.
Esta publicación explica qué abarca realmente la seguridad de aplicaciones LLM, por qué la necesita, cómo elegir una herramienta que la aborde y qué plataformas ofrecen la mejor cobertura.
{{cta}}
TL;DR
Aikido Security es la opción más sólida para equipos que buscan seguridad de aplicaciones LLM de nivel empresarial en todo el ciclo de vida de desarrollo de IA. Escanea el código generado por IA en el IDE, bloquea paquetes maliciosos y alucinados en el momento de la instalación, protege el entorno del desarrollador contra amenazas como servidores MCP maliciosos y rastrea qué modelos de IA está llamando su aplicación en producción.
¿Qué es la seguridad de aplicaciones LLM?
En este artículo, nos centraremos en la seguridad de LLM desde el lado de la aplicación, lo que significa proteger el código, las dependencias y la infraestructura alrededor de un LLM. Es distinto de la seguridad del modelo, que cubre el comportamiento del LLM en runtime y es gestionada por barreras de seguridad y herramientas de red-teaming como Lakera Guard, Prisma AIRS, NeMo Guardrails y Garak. Ninguna es suficiente por sí sola.
La investigación PromptPwnd de Aikido demostró por qué el lado de la aplicación merece atención. Se inyectó entrada no confiable en prompts para Gemini CLI y otros agentes que se ejecutan dentro de flujos de trabajo de GitHub Actions, y esos agentes utilizaron sus tokens privilegiados para filtrar secretos. Al menos cinco empresas de Fortune 500 se vieron afectadas.
El modelo fue el punto de entrada para el atacante, pero la vulnerabilidad residía en el archivo de flujo de trabajo, algo que las herramientas de seguridad de aplicaciones pueden verificar. Las reglas SAST pueden señalar la entrada no confiable que fluye hacia los prompts y los tokens privilegiados expuestos a los agentes, que es exactamente lo que detectan las reglas Opengrep de Aikido y lo que Google corrigió en los cuatro días posteriores a la divulgación.
El Top 10 OWASP para aplicaciones LLM 2025 es el marco de referencia para este ámbito, y varias de sus categorías recaen en la capa de aplicación, incluyendo Cadena de Suministro (LLM03), Manejo inadecuado de la salida (LLM05), Agencia excesiva (LLM06) y Desinformación (LLM09). Pero la taxonomía fue escrita pensando en aplicaciones LLM en runtime, y solo captura parcialmente los riesgos del desarrollo asistido por IA.
Estas vulnerabilidades ya están apareciendo en el mundo real. Bajo LLM09, investigadores de USENIX 2025 probaron 16 modelos en 2.23 millones de muestras de código y encontraron que el 19.7% contenía al menos un nombre de paquete alucinado. Cuando se volvieron a ejecutar prompts idénticos, el 43% de los paquetes alucinados reaparecieron en cada una de las 10 consultas. Los atacantes ahora registran nombres falsos con antelación, convirtiendo las peculiaridades del modelo en ataques a la cadena de suministro.
Cubrir estas categorías requiere varias capacidades distintas. SAST y el escaneo de secretos en el código de la aplicación detectan credenciales codificadas y entradas no saneadas que fluyen hacia los prompts. SCA señala versiones de frameworks de IA conocidas como vulnerables, mientras que la detección de malware en la cadena de suministro detecta paquetes maliciosos y alucinados. La protección del entorno del desarrollador detecta servidores MCP maliciosos distribuidos como paquetes y extensiones comprometidas antes de que se instalen. Y el seguimiento del uso de LLM monitoriza qué modelos está llamando realmente su aplicación, revelando integraciones de IA no autorizadas.
¿Por qué necesita herramientas de seguridad LLM?
El desarrollo de IA ha introducido nuevas vulnerabilidades que los equipos de seguridad deben abordar.
- El código generado por IA se entrega sin revisar: Con una cuarta parte del código en producción ahora generado por IA, la revisión no ha seguido el ritmo de la producción.
- Los LLM heredan las vulnerabilidades del código en el que se ejecutan: No solo importa el código escrito por IA. Cualquier código que un LLM lea, ejecute o del que tome contexto se convierte en parte de su superficie de ataque, que es exactamente lo que hizo que PromptPwnd fuera explotable.
- Paquetes Slopsquatted: Los atacantes registran los nombres de paquetes que los asistentes de IA alucinan, convirtiendo una peculiaridad del modelo en un ataque a la cadena de suministro.
- Shadow AI: Los equipos están llamando a modelos que nadie ha inventariado, enviando datos a proveedores que nadie ha aprobado.
- La presión de cumplimiento está empezando a exigir seguridad para LLM: La EU AI Act es el ejemplo más claro, y el Top 10 OWASP para LLM se está convirtiendo en el marco de referencia de facto en las revisiones de seguridad.
Cómo elegir una herramienta de seguridad LLM
Cobertura de todo el SDLC de IA
Una plataforma que cubre el código generado por IA, la cadena de suministro que lo alimenta y el entorno de desarrollo que lo produce. Las herramientas puntuales cubren una parte, y unir proveedores significa múltiples paneles y hallazgos duplicados.
¿Verifica el código generado por IA en el IDE?
El código escrito por un asistente debe escanearse en el momento de su creación, no descubrirse en CI después de que ya esté en una pull request. El IDE es la primera línea de defensa contra las vulnerabilidades en el código generado por IA, porque es donde un humano está revisando activamente cada línea.
Relación señal/ruido
La IA ha inflado el volumen de código y de hallazgos por igual. Una herramienta que no puede clasificar su propia salida se convierte en otra pila de trabajo pendiente.
Seguimiento del uso de LLM
Visibilidad de los modelos que llama la aplicación, para que la IA en la sombra aflore antes de que un auditor o un atacante la encuentre.
Las mejores herramientas de seguridad LLM para aplicaciones de IA
Aikido Security
Aikido Security cubre el ciclo de vida de las aplicaciones de IA de principio a fin. Esto comienza en el IDE, donde se origina el código generado por IA, y se extiende hasta el entorno de producción donde se ejecuta.
En la capa de código, el plugin MCP de Aikido conecta el motor de seguridad de Aikido directamente a las herramientas de codificación de IA, ejecutando automáticamente SAST y detección de secretos en el código generado dentro del IDE. Las vulnerabilidades se detectan en el punto de creación en lugar de aparecer en una solicitud de extracción o, peor aún, en producción. Safe Chain funciona junto a él, bloqueando paquetes npm maliciosos y "alucinados" en el momento de la instalación y cortando la ruta de ataque de slopsquatting antes de que un paquete llegue a su árbol de dependencias (una coincidencia directa con OWASP LLM09).
En la capa del entorno, Device Protection monitoriza las máquinas donde se realiza el desarrollo asistido por IA. Las herramientas de codificación de IA se conectan a servidores MCP, instalan extensiones y extraen paquetes, y cada uno de ellos es un canal que un atacante puede explotar. Device Protection detecta servidores MCP maliciosos y extensiones comprometidas antes de que se instalen.
DSPM aborda dónde terminan los datos de las aplicaciones de IA. Los datos sensibles de los clientes fluyen hacia almacenes que las herramientas tradicionales no ven, incluyendo bases de datos vectoriales y registros de prompts, a menudo sin ser redactados primero. DSPM encuentra esos datos expuestos, de modo que la PII no se acumula silenciosamente en la infraestructura a la que escriben sus funciones de IA.
Y en producción, Zen proporciona un seguimiento del uso de LLM en la aplicación que muestra exactamente qué modelos de IA está llamando su aplicación en tiempo real, rastrea dónde van los datos hasta el nivel de región, y aplica el cumplimiento del uso de IA para que las integraciones no autorizadas afloren inmediatamente.
Detrás de todo esto, AutoTriage realiza la deduplicación, el filtrado de accesibilidad y la correlación entre escáneres que mantiene los volúmenes de hallazgos inflados por la IA manejables a escala empresarial.
Y RBAC, SSO y las pistas de auditoría respaldan cada capa, garantizando el cumplimiento de los requisitos de gobernanza empresarial.
Ideal para: Equipos empresariales que buscan seguridad de aplicaciones con IA en todo el ciclo de vida de desarrollo, con el RBAC, SSO y las pistas de auditoría que la gobernanza requiere.
{{walkthrough}}
Snyk
La plataforma de Snyk abarca SAST, SCA, escaneo de contenedores y escaneo IaC, con su motor DeepCode AI impulsando la detección y el análisis de código generado por IA en el IDE. Durante el último año, Snyk se ha reposicionado como una "Plataforma de Seguridad de IA", lanzando Evo AI-SPM para la gestión de la postura de IA agéntica, Agent Security para gobernar agentes de IA a lo largo del ciclo de vida, y Agent Fix para la remediación autónoma en el IDE.
El valor consolidado sigue siendo el motor AppSec tradicional de Snyk, ya que la mayoría de estos productos de IA tienen menos de un año, por lo que aún no han sido probados a la escala de los motores SAST y SCA tradicionales de Snyk. Las compensaciones habituales con Snyk tampoco han cambiado. El volumen de hallazgos de Snyk es una queja común, y su modelo de precios funciona mejor para grandes organizaciones que para equipos pequeños.
Ideal para: equipos que buscan una plataforma consolidada con amplia cobertura de lenguajes y están dispuestos a invertir en las herramientas de postura de IA en expansión de Snyk. Sin embargo, los equipos deben presupuestar tiempo para el ajuste y así mantener el volumen de hallazgos manejable, y esperar precios empresariales que no se ajustarán a organizaciones más pequeñas.
Semgrep
La fortaleza de Semgrep son las reglas personalizables. Los equipos pueden escribir su propia lógica de detección para patrones de código específicos de LLM. Semgrep Multimodal, lanzado en marzo de 2026, combina el motor de reglas determinista de Semgrep con el razonamiento de LLM para reducir la carga de triaje y generar guías de remediación paso a paso en las pull requests. Semgrep Guardian, lanzado en mayo de 2026, es un escaneo de seguridad en tiempo real para código generado por IA que se ejecuta dentro de Claude Code, Cursor, Windsurf, Kiro y otras herramientas de codificación agénticas. Se entrega con tres paquetes de reglas curados específicamente dirigidos a riesgos de IA.
La compensación es el alcance. Semgrep es una plataforma de seguridad de código, por lo que la protección de la cadena de suministro más allá del escaneo de vulnerabilidades de paquetes, la defensa del entorno de desarrollador, el DSPM y el seguimiento del uso de LLM en producción, todo debe provenir de otro lugar. La base basada en reglas también sigue siendo un factor. La cobertura depende de los paquetes de reglas que actives y cómo los ajustes, aunque los paquetes específicos de IA que Semgrep incluye ahora hacen gran parte de ese trabajo de forma predeterminada, más de lo que lo hacían en el pasado.
Ideal para: Equipos de ingeniería de seguridad que desean escribir y ajustar sus propias reglas de detección, y se sienten cómodos con una plataforma centrada en el código en lugar de una suite de seguridad de pila completa. Sin embargo, aún necesitará cobertura separada para la protección de la cadena de suministro, las amenazas del entorno de desarrollador y la visibilidad del uso de LLM en producción.
Endor Labs
Endor Labs es una plataforma unificada que abarca SCA, SAST, detección de secretos, escaneo de contenedores y detección de paquetes maliciosos a través de su Package Firewall. En el lado de la IA, Endor descubre modelos de IA incorporados en su base de código, genera AI-BOMs y ofrece puntuación de riesgo para modelos de repositorios públicos como Hugging Face. Su servidor AURI MCP se conecta directamente a Cursor, Claude Code, Copilot y otros asistentes de codificación de IA para un escaneo en tiempo real a medida que se escribe el código.
Pero Endor no cubre el entorno de desarrollador más allá de los plugins del IDE (sin protección contra servidores MCP maliciosos como amenazas instaladas), no se ejecuta en producción (sin seguimiento del uso de LLM, sin protección de aplicaciones en tiempo de ejecución) y no realiza DSPM.
Ideal para: equipos cuyo riesgo principal de IA es la cadena de suministro de código abierto, pero si sus riesgos incluyen código generado por IA en el IDE, servidores MCP maliciosos en máquinas de desarrolladores o llamadas de modelos no autorizadas en producción, necesitará algo más además de esto.
Wiz
Wiz aborda la seguridad de la IA desde la nube. Su AI-SPM descubre servicios, modelos e infraestructura de entrenamiento de IA en entornos de nube y señala configuraciones erróneas y exposiciones. Wiz DSPM extiende ese descubrimiento a almacenes vectoriales y registros de prompts donde tienden a acumularse datos sensibles adyacentes a la IA. Wiz Code, lanzado para expandirse al flujo de trabajo del desarrollador, cubre SAST, SCA, detección de secretos y escaneo IaC con plugins de IDE para VS Code, JetBrains y Lovable. Desde que se cerró la adquisición por parte de Google en marzo de 2026, Wiz sigue operando bajo su propia marca dentro de Google Cloud.
La cobertura de Wiz se debilita en los puntos más tempranos del pipeline de desarrollo de IA. No hay bloqueo en tiempo de instalación para paquetes maliciosos (Wiz los identifica después del hecho en lugar de interceptarlos antes de la instalación), sin protección para el entorno de desarrollador contra servidores MCP maliciosos, y sin seguimiento del uso de LLM a nivel de solicitud dentro de la aplicación.
Ideal para: equipos de seguridad cuya pregunta de seguridad de IA es la visibilidad en toda la nube, pero si su objetivo es detener las vulnerabilidades relacionadas con la IA antes de que lleguen a producción (bloqueando paquetes maliciosos antes de la instalación, detectando amenazas de servidores MCP en máquinas de desarrolladores, rastreando llamadas de modelos en producción), las fortalezas de Wiz se encuentran más abajo en el flujo de lo que desearía.
