#prompt-injection4 notas
Inyección de prompt (directa e indirecta)El riesgo nº1 de los LLM. Por qué el modelo no distingue datos de instrucciones, cómo la inyección directa e indirecta secuestran un agente con herramientas, y la defensa en profundidad que lo contiene.Seguridad de IA y agentesIntermedio · 1 oct 2026Defensa de prompts: no hay bala de plataPor qué la inyección de prompt y los jailbreaks no se pueden cerrar del todo dentro de la arquitectura actual, qué dice la evidencia sobre ataques adaptativos y cómo se apilan las capas que sí reducen el riesgo.Seguridad de IA y agentesIntermedio · 12 oct 2026Endurecer el system promptLos tres patrones que suben el listón (alcance, rechazo explícito, restricción de personajes), lo que nunca debe ir en un system prompt y cómo separar instrucciones de entrada con roles y delimitadores, con sus límites.Seguridad de IA y agentesIntermedio · 12 oct 2026Guardrails de entrada y salidaPor qué las listas de bloqueo fallan, qué aportan los clasificadores y los modelos juez, cómo se evaden también y por qué la inyección indirecta rodea la guardia de entrada. Con la cascada de latencia frente a precisión.Seguridad de IA y agentesIntermedio · 12 oct 2026