Saltar al contenido

#rag3 notas

Anatomía de un sistema de IADe qué está hecha una aplicación con LLM (gateway, orquestación, prompt, memoria, RAG, modelo, herramientas, salida y registro), siguiendo una petición de punta a punta y marcando las fronteras de confianza que cruza.Envenenamiento de memoria (memory poisoning)Cómo un atacante planta información falsa o instrucciones en el historial o la memoria persistente de un LLM o agente para controlar sus respuestas y acciones en el futuro, y cómo proteger la escritura y la lectura de la memoria.Guardrails de entrada y salidaPor qué las listas de bloqueo fallan, qué aportan los clasificadores y los modelos juez, cómo se evaden también y por qué la inyección indirecta rodea la guardia de entrada. Con la cascada de latencia frente a precisión.
ESC
↑↓ para navegar↵ para abriresc para cerrar