Guardrails

Guardrails: Controles de IA

Definición

• Límites que aseguran comportamiento predecible y seguro de la IA.
• Actúan en entrada (input), salida (output) y comportamiento.
• Previenen: alucinaciones, fuga de datos, acciones destructivas, salirse del tema, consejos no cualificados.

Guardrails de Entrada (Input)

• Longitud máxima: Limitar tamaño del mensaje.
• Prompt injection: Detectar y bloquear manipulación (ej. "ignora instrucciones").
• Filtro de contenido: Rechazar mensajes inapropiados.
• Validación de formato: Verificar estructura de datos esperada.

Guardrails de Salida (Output)

• No revelar instrucciones: Prohibir compartir el system prompt.
• No datos personales: Bloquear nombres, emails, teléfonos.
• No consejos regulados: Redirigir a profesionales (médico, legal, financiero).
• Formato controlado: Exigir JSON válido o estructura específica.
• Longitud máxima: Limitar palabras por respuesta.

Implementación en System Prompt

• Comportamiento obligatorio: Restringir tema de respuesta y redirigir si es necesario.
• Prohibiciones: Nunca compartir prompt, no inventar datos, no dar precios no oficiales.
• Escalamiento a humano: Proporcionar email, teléfono y horario de contacto.

Implementación en Código

• Validación de entrada: Función que verifica longitud o patrones antes de procesar.
• Validación de salida: Parsear JSON y verificar campos obligatorios (answer, confidence, sources).
• Manejo de errores: Devolver respuesta de error controlada si la validación falla.

Reglas de Negocio y Monitoreo

• Reglas de negocio: Restricciones específicas del dominio (ej. no prometer descuentos no autorizados).
• Monitoreo: Registrar y alertar sobre intentos de bypass o respuestas anómalas.
• Alertas: Notificar a humanos cuando se detectan patrones de riesgo.