Seguridad de IA. 21 módulos publicados y 55 horas de estudio, del fundamento al sistema en producción.
Por qué el modelo de amenaza clásico se rompe: el texto es código, la confianza no es binaria y el perímetro es lejano.
Cartografía completa: prompt del sistema, historial, contexto recuperado, memoria, tools, MCP, salida, telemetría y dependencias.
Anatomía del ataque: objetivo, envoltorio, persuasión y evasión de filtros.
El ataque que no escribe el usuario: documento, web, correo, comentario de código, reseña o respuesta de API.
Familias de jailbreak y qué las hace funcionar: cambio de tarea, personaje, formato, idioma y presión contextual.
Vías de fuga: contexto del usuario equivocado, caché compartida, índice sin permisos, logs y trazas, respuesta enriquecida.
El agente como usuario privilegiado: qué puede tocar y con qué identidad.
Qué confía en qué: cliente, servidor, transporte, credenciales y descripción de herramientas.
Amenazas del recuperador: filtración por permisos ausentes, resultados envenenados, extracción del corpus.
Composición de un sistema de IA: modelos, pesos, tokenizadores, librerías, contenedores, servidores de inferencia y proveedores.
Cómo se envenena: ajuste fino, datos de usuario en producción, corpus de RAG, memoria de agente y feedback loop.
Qué se roba de verdad: comportamiento, capacidades destiladas, datos de entrenamiento o pesos.
Ciclo completo del dato personal: entrada, contexto, inferencia, salida, log, traza, evaluación y retención.
Capas de control: entrada, contexto, plan, acción, salida y post-proceso.
Metodología: alcance, reglas de enfrentamiento, entornos autorizados y evidencia admitida.
Ejemplos adversariales, transferibilidad y perturbaciones imperceptibles; por qué importan fuera del laboratorio.
Qué es un incidente de IA: fuga por contexto, acción no autorizada, abuso de herramienta, manipulación del modelo, caída del proveedor.
Qué se evalúa: resistencia a inyección, fuga, cumplimiento de política, calidad bajo ataque y regresión.
Secretos: gestión, rotación, no exponerlos al modelo ni a los logs, separación por entorno.
Clasificación del sistema según AI Act: papel, riesgo y obligaciones que se activan.
Sistema objetivo completo: aplicación con RAG, tools, MCP, multi-inquilino y telemetría.