Seguridad de IA y agentes
Cómo está hecho un sistema de IA (gateway, orquestación, RAG, modelo, herramientas) y dónde se rompe: inyección de prompt directa e indirecta, fuga del system prompt, abuso de herramientas y exfiltración; los marcos OWASP (LLM, Agentic, MCP) y MITRE ATLAS para ordenarlo. Privacidad del modelo: extracción de datos de entrenamiento, inferencia de pertenencia, inversión y extracción de modelo. Reconocimiento de la infraestructura de IA: qué servicios expone una red y cómo se identifican. Y los controles en AWS AgentCore: identidad, autorización con Cedar, Guardrails, sandbox y red teaming.
● 30 notas