Cada vez que un LLM alucina, estoy agradecido: Agradecido de haberlo detectado y, por lo tanto, recordarme a mí mismo que todos y cada uno de los resultados de LLM deben ser validados. Nunca puedes confiar en estas cosas al 100%, a menos que tengas una validación adicional que sea 100% confiable.

Un ejemplo reciente: pegué un texto muy largo en Claude y le pedí que identificara las partes duplicadas que se pueden eliminar, mostrando comillas exactas. ¡Alucinó partes, con citas, que ni siquiera existen en ninguna entrada!