detta har alltid varit fel - men nu kategoriskt fel i RL-eran på verifierbara domäner Modeller är sanningssökande och interagerar till och med med en hård omvärld via verktyg
David Deutsch
David Deutsch4 aug. 2025
LLMs are trained to imitate patterns of language, not to discover or verify truth. So, when asked to speak as an expert in an area where perceived experts have a widespread misconception, the LLM will parrot that misconception, adopting the register and vocabulary of experts.
658,41K