Toda vez que um LLM alucina, sou grato: Grato por ter visto isso e, assim, me lembrar de que toda e qualquer saída de LLM precisa ser validada. Você nunca pode confiar nessas coisas 100%, a menos que tenha validação adicional que seja 100% confiável.
Um exemplo recente: colei um texto muito longo em Claude e pedi que identificasse partes duplicadas que podem ser removidas, mostrando citações exatas. Alucinou partes, com aspas, que nem existem em nenhuma entrada!
8,75K