Las alucinaciones de la IA

Dos fallas que todo docente debería conocer

Un docente prepara un cuestionario de verdadero o falso para una clase. Sube sus apuntes a una herramienta de IA generativa, solicita diez preguntas basadas en ese material y revisa el resultado. La mayoría de las preguntas son correctas. Una no: afirma algo que el material fuente nunca dice. Usa el vocabulario del tema, respeta la estructura de una pregunta bien formulada, y se integra sin fricción al conjunto. Si no se la detecta, llega al estudiante, que aprende algo que no existe.
Este escenario no es excepcional. Es una consecuencia directa de cómo funcionan los modelos de lenguaje — y de dos fallas específicas que conviene conocer antes de incorporar estas herramientas a la práctica docente.

La primera falla: la alucinación

En el campo de la inteligencia artificial generativa, se denomina "alucinación" a la producción de contenido falso con apariencia de veracidad. No se trata de un error obvio — no es un número claramente inventado ni una fecha que no cierra. En contextos pedagógicos, la alucinación tiene forma de contenido plausible: respeta el registro del tema, sigue la lógica del material de referencia y no genera señales de alerta.
Esto tiene consecuencias específicas para el aprendizaje. Una afirmación construida sobre contenido falso no genera confusión en el estudiante: genera certeza. Si no contrasta la información con las fuentes, el estudiante no percibe que algo está mal — la pregunta o el enunciado tiene la misma textura que los correctos. En la mayoría de los casos, asume que su conocimiento previo estaba equivocado. Aprende con la misma confianza. El error se vuelve conocimiento incorporado.
En la preparación de contenidos, este riesgo recae exclusivamente sobre el docente: es el único que conoce el material fuente y, por lo tanto, el único que puede detectar la falla. El modelo no sabe que inventó. Para él, completó la tarea.
Respuesta práctica: asumir que la revisión es parte del flujo de trabajo, no una etapa opcional. Subir las fuentes exactas que se utilizan en clase, indicarle al modelo que no recurra a otras, y leer lo que genera con el mismo criterio con que se leería un trabajo estudiantil.

La segunda falla: la respuesta incompleta

La segunda falla es más silenciosa. El modelo produce menos de lo que se le solicitó — o menos de lo que se necesita — sin advertirlo. Para detectarlo, es necesario comparar el resultado con el pedido original con atención sostenida.
Un ejemplo frecuente: se solicita el código completo para una aplicación interactiva y el modelo entrega una parte, o indica "integrá este bloque al archivo anterior". En el trabajo con código, integrar dos fragmentos no es equivalente a leer dos párrafos: requiere comprensión técnica del contexto. Si no se insiste, el resultado es un producto incompleto — y la conclusión apresurada es que la herramienta no funciona.

Hay dos capas para entender por qué ocurre esto. La primera es técnica: los modelos de lenguaje predicen texto a partir de patrones, y esa predicción tiene un costo medido en unidades de procesamiento llamadas tokens. El modelo no decide conscientemente entregar la mitad — pero está optimizado para producir respuestas que parezcan suficientes con el menor costo posible. La segunda capa es empresarial: esa optimización responde a una lógica de escala. Los modelos deben atender a millones de usuarios simultáneos. La eficiencia importa.
[Las empresas de IA no documentan esto así. Lo llaman "eficiencia". El resultado para el usuario es el mismo.]

Respuesta práctica: ante un resultado incompleto, insistir con precisión. Una instrucción como "completá vos la tarea, para que puedas verificar que todo esté bien" — que parece un detalle menor — cambia el resultado. El modelo puede hacerlo. Necesita que se lo pida con exactitud.

El límite como método

Saber que la IA alucina obliga a adjuntar las propias fuentes y leer lo que genera con criterio.
Saber que retacea obliga a ser explícito en lo que se pide — y a insistir cuando el resultado está incompleto.
Ninguna de estas dos respuestas es una solución alternativa: son el método. El flujo de trabajo con IA generativa no funciona a pesar de estas fallas. Funciona porque se las conoce y se las puede anticipar.
Un docente que incorpora inteligencia artificial generativa sin saber que puede estar alucinando está tomando un riesgo que no eligió tomar. Uno que conoce estas limitaciones y sabe cómo responderles tiene el control del proceso.
Porque la diferencia no está en la herramienta. Está en quién la conduce.

¿Cuántas veces revisan lo que la IA genera antes de utilizarlo con estudiantes?

Texto producido con asistencia de Claude (Anthropic)