Le preguntas a un chatbot por un libro y te da el título, el autor y hasta una cita textual. Todo suena convincente, pero el libro no existe. Este fenómeno tiene nombre: alucinaciones de la IA. Entender por qué ocurren es clave para usar estas herramientas con criterio.

Qué es una alucinación

Es una respuesta que la IA presenta con total seguridad pero que es falsa o inventada: datos incorrectos, fechas equivocadas, citas que nadie dijo, artículos científicos inexistentes o leyes que no existen. Lo peligroso no es que se equivoque, sino que lo hace con el mismo tono convincente que cuando acierta.

Por qué ocurre

Los modelos de lenguaje no funcionan como una enciclopedia que busca la respuesta en una base de datos. Generan texto prediciendo, palabra a palabra, qué es lo más probable que venga a continuación según lo que aprendieron durante su entrenamiento. Por eso:

• Si la información era escasa en sus datos de entrenamiento, rellenan los huecos con algo que «suena» bien.
• Tienden a dar una respuesta antes que admitir que no saben, aunque los modelos más recientes han mejorado en esto.
• No distinguen bien entre lo que es frecuente y lo que es verdadero.
• Pueden mezclar datos de personas, lugares o hechos parecidos.

Situaciones de mayor riesgo

• Datos muy concretos: cifras, fechas, precios, estadísticas.
• Referencias y fuentes: títulos de libros, enlaces, artículos científicos, sentencias judiciales.
• Personas poco conocidas: biografías de personas que no son famosas.
• Temas muy recientes: si el modelo no tiene acceso a búsqueda en internet.
• Preguntas con premisas falsas: si preguntas «¿por qué ganó X el premio Y?» y no lo ganó, puede inventar una explicación.

Cómo protegerte

1. Verifica lo importante: comprueba datos, nombres y cifras en fuentes oficiales o de confianza antes de usarlos.
2. Pide las fuentes, y luego compruébalas tú. Si el enlace no funciona o el documento no dice lo que la IA afirma, desconfía.
3. Usa la búsqueda integrada: muchos asistentes pueden buscar en internet y citar páginas reales. Las respuestas con fuentes visibles son más fáciles de comprobar.
4. Dale el material: si quieres que resuma o responda sobre un documento, pégalo o súbelo. Así trabajará con información real en lugar de con su memoria.
5. Invítala a reconocer la duda: frases como «si no estás seguro, dímelo» ayudan a obtener respuestas más prudentes.
6. Desconfía de la precisión excesiva: una respuesta con muchos decimales o detalles muy específicos sobre un tema poco conocido merece una doble comprobación.

Para qué sí es fiable

La IA es muy útil en tareas donde el riesgo de inventar es bajo o donde tú puedes comprobar fácilmente el resultado:

• Reescribir o corregir un texto que tú le das.
• Resumir un documento que le proporcionas.
• Proponer ideas, títulos o esquemas.
• Explicar conceptos generales y bien conocidos.
• Traducir textos.

Ámbitos donde ser especialmente prudente

En salud, derecho, finanzas o cualquier decisión importante, usa la IA para entender mejor el tema o preparar preguntas, pero consulta siempre a un profesional antes de decidir. Ha habido casos de profesionales que presentaron documentos con referencias inventadas por IA, con consecuencias serias.

En resumen

La IA a veces se inventa cosas porque genera texto probable, no necesariamente verdadero. Úsala para redactar, resumir y explicar, pero verifica los datos concretos, pide fuentes reales y no tomes decisiones importantes basándote solo en sus respuestas.