Saltar al contenido

#guardrails3 notas

Defensa de prompts: no hay bala de plataPor qué la inyección de prompt y los jailbreaks no se pueden cerrar del todo dentro de la arquitectura actual, qué dice la evidencia sobre ataques adaptativos y cómo se apilan las capas que sí reducen el riesgo.Guardrails de entrada y salidaPor qué las listas de bloqueo fallan, qué aportan los clasificadores y los modelos juez, cómo se evaden también y por qué la inyección indirecta rodea la guardia de entrada. Con la cascada de latencia frente a precisión.Guardrails y sandbox para agentesDefensa en profundidad para agentes de IA en AWS; cada control mapeado a la capa que protege, de los filtros de contenido a la aprobación humana y la trazabilidad.
ESC
↑↓ para navegar↵ para abriresc para cerrar