Saltar al contenido

#amenazas5 notas

OWASP Top 10 for LLM ApplicationsRecorrido por las diez categorías de riesgo del OWASP Top 10 for LLM Applications (2025), con un ejemplo y una mitigación por categoría sobre un asistente tipo el de Citas.Inyección de prompt (directa e indirecta)El riesgo nº1 de los LLM. Por qué el modelo no distingue datos de instrucciones, cómo la inyección directa e indirecta secuestran un agente con herramientas, y la defensa en profundidad que lo contiene.Amenazas de agentes, MCP y MITRE ATLASLas amenazas propias de los agentes que planifican, recuerdan y actúan: OWASP Top 10 for Agentic Applications (ASI01–ASI10), el OWASP MCP Top 10 y MITRE ATLAS, el ATT&CK de la IA.Qué es un jailbreak (y qué no es)Un jailbreak ataca el entrenamiento de seguridad del propio modelo, no a la aplicación que lo rodea. Por qué la «jaula» es una probabilidad aprendida y no una regla, y cómo leer las cifras de éxito sin engañarse.STRIDELas seis categorías de amenaza de STRIDE, qué propiedad de seguridad viola cada una y cómo aplicarlas de forma sistemática a cada elemento de un diagrama de flujo de datos.
ESC
↑↓ para navegar↵ para abriresc para cerrar