このOpenAIの論文には、幻覚が持続する理由とそれに対して何をすべきかについて、非常に説得力のある説明がいくつかあります。 特にトレーニング後では、答えがわからないと言ったモデルにペナルティを与えるのをやめ、自信過剰に自信のある推測に報いるのをやめるべきです。 幻覚を根絶することは、法律、金融、医療、その他多くの価値の高い分野などの企業ユースケースにおける AI の最大の改善の 1 つです。 この分野で大きな進歩を続けることができれば、これは非常に大きな問題となるでしょう。