Elke keer dat een LLM hallucinaties vertoont, ben ik dankbaar: Dankbaar dat ik het heb opgemerkt, en mezelf eraan herinner dat alle LLM-uitvoer gevalideerd moet worden. Je kunt deze dingen nooit voor 100% vertrouwen, tenzij je aanvullende validatie hebt die 100% betrouwbaar is.

Een recent voorbeeld: Ik plakte een zeer lange tekst in Claude en vroeg het om dubbele delen te identificeren die verwijderd kunnen worden, met exacte citaten. Het hallucineerde delen, met citaten, die niet eens in enige invoer bestaan!