Cada vez que un LLM alucina, estoy agradecido: Agradecido de haberlo notado, y así recordarme que cualquier salida de LLM necesita ser validada. Nunca puedes confiar en estas cosas al 100%, a menos que tengas una validación adicional que sea 100% confiable.

Un ejemplo reciente: pegué un texto muy largo en Claude y le pedí que identificara partes duplicadas que se pueden eliminar, mostrando citas exactas. ¡Alucinó partes, con citas, que ni siquiera existen en ninguna entrada!