Alucinaciones en IA
Definición
- IA genera info que suena correcta pero es falsa (no miente, predice texto probable).
- Ejemplo: cita un libro/autor inexistente con ISBN y editorial creíbles.
Por qué ocurren
- Datos incompletos: rellena huecos con patrones plausibles.
- Preguntas específicas: nombres, fechas, estadísticas = alto riesgo.
- Sesgo de complacencia: prefiere responder a decir "no sé".
- Contexto ambiguo: suposiciones ante preguntas vagas.
Tipos de alucinaciones
- Datos inventados: citas, estadísticas, estudios falsos.
- Atribuciones falsas: declaraciones asignadas a quien no las dijo.
- Fechas erróneas: eventos reales con fechas incorrectas.
- URLs inexistentes: enlaces a páginas 404.
- Lógica circular: justifica falsedad con argumentos razonables.
- Mezcla de hechos: combina datos reales de contextos distintos → algo falso.
Tip 1: La alucinación más peligrosa = 90% correcto + 10% inventado. Casi indetectable sin verificación activa.
Cómo detectarlas (señales de alerta)
- Datos demasiado perfectos: encajan sospechosamente con tu argumento.
- Nombres propios no verificables rápidamente.
- Exceso de detalle no solicitado: año, página, ISBN sin que lo pidas.
- Consistencia interna sin externa: coherente consigo misma, no con la realidad.
- Confianza excesiva: "sin duda", "hecho comprobado" en temas con matices.
Técnicas de prevención
- Instrucción explícita: "Si no tienes info fiable, dilo. Prefiero 'no lo sé' a datos inventados."
- Pedir fuentes: "Cita fuente verificable o marca como [NO VERIFICADO]."
- Nivel de confianza: ALTO (establecido), MEDIO (probable), BAJO (inexacto).
- Separar hechos/análisis/especulación: verifiable vs interpretación vs posible.
- Proporcionar contexto verificado: sube documentos de referencia para basar respuestas.
Tip 2: Para dominios de alto riesgo (salud, legal, finanzas), aplica SIEMPRE las 5 técnicas de prevención y verificación externa de hechos.