AIの議論では、プロセスに重きを置く人と結果に注目する人との間に永遠のダンスがあるように思えます。「それは推論か?」という議論でかなり顕著に見えるようです。私は両者が異なる点で正しいと思います。もちろんモデルはある意味で推論であり、機能的にはCoTや出力に至るメカニズムが生物学的な脳のやり方と似ていなくても私はあまり気にしません。しかし同時に、使用される推論の種類、特定の選択された論理連鎖の根拠、そしてそれらが分布外の状況でどの程度強固に一般化できるかについても重要な考慮事項があります。「プロセスの人」が必ずしも盲目的に否定するわけではなく、「機能的同等性」の人たちも根本的に間違っているわけではありません。 しかし、プロセスの失敗(例:イチゴのR)は以前は見つけやすく、多くの「イデオロギー的懐疑派」は裏付けられない様々な主張をするためにそれに頼っています。そのため、「ナラティブ活動家」はプロセス上の懸念を完全に無視したくなる誘惑があります。明らかにモデルは驚異的な速度で改善されており、これは素晴らしいことです。しかし、結果を生み出す過程には失敗や欠落が残っています。これはコーディングや数学、形式論理、あるいは検証が容易な分野ではあまり問題になりませんが、プロセスの多様性を重視する曖昧な領域では、正しい方法が分からないからこそ、単一の方法が存在するかどうかすら分からないという点で、より顕著です。人間に関しては、文化的・科学的な進化が時間とともにヒューリスティックやメカニズムを洗練させてきました。モデルの多様性や認知の多様性も一定程度維持することが重要だと思います。 結果だけに最適化すれば、分布内では良好に機能する一方で、多様な推論手法が有用なシグナルを生み出せる状況で失敗する単一栽培に収束することも容易に可能です。だからこそ、私は「千の花を咲かせる」という規範的整合のアプローチに強い支持を持ち、ラボで誰がその権限を持っていれば別として、はるかに幅広い人々やグループがモデルをカスタマイズ・整合させることができるべきだと主張しています。 もちろん、多くの人間の認知的多様性は、動機付けされた推論、体系的なバイアス、真実を追わない文化的経路依存性などノイズでもあるので、単に多様性のための多様性を求めるべきではありません。実際に推論をストレステストする検証メカニズムが必要です。例えば、敵対的な協力関係が十分に使われていないなどです。真実の追求を促進するための制度が必要ですが、それは本当に築くのが難しいものです。また、アイデアの市場がますます圧力を受けている中で、強力な文化的・法的保護も必要です。そして、広く認知論的インフラの改善が必要です。科学の進め方を改善するためにできることは非常に多いです。