Chaque fois qu'un LLM hallucine, je suis reconnaissant : Reconnaissant d'avoir pu le repérer, et ainsi de me rappeler que toutes les sorties des LLM doivent être validées. On ne peut jamais faire confiance à ces choses à 100 %, à moins d'avoir une validation supplémentaire en place qui soit 100 % fiable.

Un exemple récent : J'ai collé un texte très long dans Claude et lui ai demandé d'identifier les parties dupliquées qui peuvent être supprimées, en montrant des citations exactes. Il a halluciné des parties, avec des citations, qui n'existent même pas dans aucune des entrées !