Cada vez que um LLM alucina, fico grato: Grato por tê-lo notado e, assim, lembrar-me de que qualquer saída de LLM precisa ser validada. Nunca se pode confiar nestas coisas a 100%, a menos que tenha uma validação adicional que seja 100% fiável.

Um exemplo recente: Colei um texto muito longo no Claude e pedi para identificar partes duplicadas que podem ser removidas, mostrando citações exatas. Ele alucina partes, com citações, que nem sequer existem em qualquer entrada!