Base Camp IA — Sesión 07: Guardrails: usa IA sin meterte en problemas

Objetivo de la sesión

Al terminar esta sesión serás capaz de:

1. Identificar que datos NO debes pegar nunca en una IA publica
2. Entender las implicaciones básicas del AI Act europeo para tu trabajo
3. Detectar sesgos en outputs de IA y saber como mitigarlos
4. Crear una política de uso de IA para tu equipo o empresa
5. Tomar decisiones informadas sobre cuando usar IA y cuando no

Vídeo: Lo que puede salir mal (y como evitarlo)

1. Datos y privacidad: que NO pegar en una IA

La regla del periódico

Antes de pegar cualquier dato en una IA, preguntate: si este dato apareciera mañana en un periódico, seria un problema?

Si la respuesta es si, no lo pegues.

Clasificación de datos por riesgo

Que pasa con tus datos según la herramienta

Lo que NUNCA debes pegar en una IA publica

• Nombres reales de clientes con datos asociados
• Números de DNI, pasaportes, tarjetas de crédito
• Contratos completos con datos de las partes
• Datos de salud de empleados o clientes
• Credenciales, passwords, tokens de API
• Código fuente con secretos embebidos
• Actas de reuniones con decisiones sensibles sin anonimizar
• CVs con datos personales de candidatos

Alternativa: anonimizar antes de pegar

Si necesitas que la IA analice datos sensibles, anonimiza primero:

    ANTES (no pegar):
    "El cliente Pedro Garcia (DNI 12345678X) de Telefonica 
    factura 250.000 EUR/anio y tiene un contrato hasta 2027."
    
    DESPUES (seguro):
    "El cliente [CLIENTE-A] de [EMPRESA-1] 
    factura [IMPORTE-A] EUR/anio y tiene un contrato hasta [FECHA-1]."
    

La IA puede analizar patrones, detectar problemas y dar recomendaciones sin ver datos reales.

2. El AI Act: lo básico que todo profesional debe saber

Que es el AI Act

El AI Act es la regulación europea sobre inteligencia artificial. Entro en vigor en agosto de 2024 y se aplica progresivamente hasta 2027. Afecta a TODAS las empresas que usen IA en Europa, no solo a las que la desarrollan.

Los 4 niveles de riesgo

El AI Act clasifica los sistemas de IA por nivel de riesgo:

Lo que te afecta como profesional

Si usas un chatbot de IA para atención al cliente: Debes informar al usuario de que esta hablando con una IA (Art. 50). Un aviso visible tipo "Este chat esta asistido por inteligencia artificial" es suficiente.

Si usas IA para filtrar CVs o evaluar candidatos: Es riesgo alto. Necesitas supervision humana obligatoria. La IA puede preseleccionar, pero un humano debe tomar la decisión final. Documentar el proceso.

Si generas contenido con IA: Si el contenido puede confundirse con realidad (imágenes, videos, audio), debes marcarlo como generado por IA.

Si usas IA para decisiones que afectan a personas: Scoring crediticio, evaluación de desempeño, aprobación de seguros. Todo esto es riesgo alto. Supervision humana obligatoria.

La regla práctica

    ¿La IA TOMA la decision que afecta a una persona? → Riesgo alto. Necesitas supervision humana.
    ¿La IA ASISTE en la decision y un humano decide? → Riesgo limitado. Informa que usas IA.
    ¿La IA hace tareas internas sin afectar a terceros? → Riesgo minimo. Sin obligaciones especificas.
    

3. Sesgos: la IA no es neutral

Tipos de sesgo en IA

La IA hereda sesgos de los datos con los que fue entrenada. No es neutral ni objetiva. Produce texto que refleja los patrones estadísticos de internet, con todos sus sesgos.

Como detectar sesgos

1. Pide el argumento contrario. Después de cualquier recomendación de la IA, pregunta: "Ahora dame 3 razones por las que esto podria ser una mala idea."

1. Verifica la diversidad de fuentes. Si la IA recomienda solo herramientas americanas, pregunta: "Hay alternativas europeas o de código abierto?"

1. Cuestiona las certezas. Si la IA dice "la mejor opción es claramente X", desconfia. Rara vez hay una "mejor opción clara". Pide alternativas y trade-offs.

1. Revisa decisiones que afectan a personas. Si usas IA para evaluar candidatos, revisar textos o tomar decisiones sobre individuos, revisa que no haya patrones sistematicos injustos.

Anti-sesgo en la práctica

    PROMPT ANTI-SESGO (anade al final de tus prompts cuando sea relevante):
    
    "Antes de responder, considera:
    - Hay perspectivas que estoy omitiendo?
    - Mi recomendacion favorece algun grupo/region/genero?
    - Que argumentos hay en contra de mi conclusion?
    Incluye al menos 1 perspectiva contraria."
    

4. Cuando NO usar IA

La matriz de decisión

10 situaciones donde NO debes confiar en la IA sola

1. Decisiones legales. La IA inventa leyes y citas. Un abogado SIEMPRE debe revisar.
2. Diagnosticos medicos. La IA no es medico. Puede orientar, nunca diagnosticar.
3. Datos financieros críticos. Declaraciones fiscales, auditorías, inversiones. Verificar cada cifra.
4. Decisiones sobre personas. Contratar, despedir, evaluar. Supervision humana obligatoria.
5. Seguridad y compliance. Configuraciones de seguridad, permisos, accesos. Verificar siempre.
6. Comunicaciones oficiales. Notas de prensa, comunicados regulatorios. Revisión legal.
7. Datos confidenciales de terceros. Si no son tus datos, no los pegues.
8. Negociaciones en curso. Estrategias, posiciones, límites. No exponer a una IA.
9. Propiedad intelectual sensible. Patentes pendientes, secretos comerciales.
10. Situaciones de crisis. Incidentes de seguridad, crisis de reputación. Humanos al mando.

5. Política de uso de IA para tu equipo

Por que necesitas una política

Sin política, cada persona de tu equipo usa IA a su manera. Alguien pega datos de clientes en ChatGPT gratuito. Otro publica contenido generado sin revisar. Otro automatiza decisiones sin supervision. Una política alinea a todos.

Template de política (adapta a tu empresa)

    POLITICA DE USO DE IA — [NOMBRE EMPRESA]
    ==========================================
    
    Fecha: ____/____/2026
    Aprobada por: _________________________________
    Revision: cada 6 meses
    
    1. HERRAMIENTAS APROBADAS
       - Para uso general: [Claude Pro / ChatGPT Plus / ...]
       - Para datos sensibles: [Solo IA enterprise / self-hosted]
       - Prohibidas: [versiones gratuitas para datos internos]
    
    2. DATOS
       - NUNCA pegar en IA publica: [datos clientes, financieros, RRHH]
       - Anonimizar SIEMPRE datos personales antes de usar IA
       - Si tienes duda: pregunta a [responsable]
    
    3. CONTENIDO GENERADO POR IA
       - TODO contenido debe ser revisado por un humano antes de publicar
       - Marcar como asistido por IA cuando sea contenido externo
       - Verificar datos y fuentes (nunca confiar en cifras de la IA)
    
    4. DECISIONES
       - La IA puede RECOMENDAR, nunca DECIDIR sobre personas
       - Supervision humana obligatoria en: [RRHH, legal, finanzas]
       - Documentar cuando se usa IA en procesos de decision
    
    5. RESPONSABILIDAD
       - El responsable del output es la persona que lo usa, no la IA
       - Si publicas algo generado por IA y tiene errores: es tu responsabilidad
       - Reportar incidentes de privacidad a [responsable] en < 24h
    
    6. FORMACION
       - Todo el equipo debe completar Base Camp IA de IAcademy
       - Revision trimestral de esta politica con el equipo
    

6. Propiedad intelectual: de quien es lo que genera la IA

El estado actual (2026)

La regulación sobre propiedad intelectual y contenido generado por IA esta en evolución. Lo que sabemos:

Regla práctica

    1. Lee los Terms of Service de tu herramienta IA
    2. Si generas contenido comercial: usa plan de pago (no free)
    3. Si el contenido es critico (legal, publicidad): consulta con un abogado
    4. Siempre edita sustancialmente el output de la IA (no copies tal cual)
    5. Nunca atribuyas a la IA lo que tu firmas (tu eres el responsable)
    

7. Ética práctica: no todo lo que puedes hacer debes hacerlo

El test de las 3 preguntas

Antes de usar IA para una tarea, preguntate:

1. Es legal? Cumple RGPD, AI Act, normativa sectorial?
2. Es ético? Afecta negativamente a alguien? Tiene sesgos? Es transparente?
3. Es prudente? Si se hiciera publico como lo has hecho, estarias comodo?

Si las tres son SI: adelante.

Si alguna es NO o DUDA: para y piensa.

Ejemplos prácticos

8. Lab práctico: Crea tu política y checklist

Instrucciones

Dos entregables. 25 minutos.

Parte 1: Tu checklist personal de guardrails (10 min)

Rellena esta checklist adaptada a TU trabajo:

    MI CHECKLIST DE GUARDRAILS IA
    ==============================
    
    ANTES DE USAR IA:
    - [ ] Los datos que voy a pegar son publicos o anonimizados?
    - [ ] Estoy usando un plan de pago (no gratuito) para datos internos?
    - [ ] La tarea NO involucra decisiones sobre personas?
    - [ ] He verificado que la herramienta no entrena con mis datos?
    
    ANTES DE PUBLICAR OUTPUT:
    - [ ] He revisado el contenido completo?
    - [ ] He verificado datos y fuentes clave?
    - [ ] He eliminado posibles sesgos?
    - [ ] Si es contenido externo, esta marcado como asistido por IA?
    
    MIS DATOS SENSIBLES QUE NUNCA PEGO:
    1. _________________________________
    2. _________________________________
    3. _________________________________
    
    MI PROTOCOLO SI ALGO SALE MAL:
    - Contactar a: _________________________________
    - En menos de: _____ horas
    

Parte 2: Política para tu equipo (15 min)

Usa el template de la sección 5. Adapta las herramientas aprobadas, los datos sensibles y los procesos de decisión a tu empresa real.

Entregable de la sesión

Tu checklist personal de guardrails + borrador de política de uso IA para tu equipo.

    MIS GUARDRAILS IA
    ==================
    
    Checklist personal: [ ] Completado
    Politica equipo: [ ] Borrador  [ ] Revisado  [ ] Aprobado
    
    Herramienta principal (pago): _________________________________
    Datos que NUNCA pego: _________________________________
    Supervision humana obligatoria en: _________________________________
    
    Proxima revision: ____/____/2026
    

Recursos descargables

1. Template política uso IA empresarial (Notion duplicable) — Adaptable a cualquier tamaño de empresa
2. Checklist RGPD para IA (PDF) — Lo que verificar antes de usar IA con datos personales
3. Guía rápida AI Act (PDF) — Los 4 niveles de riesgo con ejemplos por sector

Siguientes pasos

En la siguiente sesión (MT-08: Evalua lo que produce tu IA) vas a aprender a detectar errores concretos en los outputs de la IA con el framework VERIFY. Los guardrails te dicen CUANDO usar IA con cuidado. VERIFY te dice COMO verificar lo que produce.

Antes de pasar a MT-08, asegurate de que:

• Has completado tu checklist personal de guardrails
• Has creado un borrador de política para tu equipo
• Sabes clasificar tus datos en publico/interno/confidencial/regulado

Base Camp IA — Sesión 07 de 09

IAcademy — iacedemy.com