Yapay zeka söyleminde, sürece çok önem veren insanlarla sonuçlara odaklananlar arasında sonsuz bir dans var gibi görünüyor. 'Akıl yürütme mu?' tartışmasında oldukça görünür görünüyor. Bence ikisi de farklı şekillerde haklı: tabii ki bir model bir anlamda akıl yürütmektir ve işlevsel olarak, CoT ve çıktıya giden mekanizmanın biyolojik beyinlerin yaptığı gibi olmamasına pek umurumda değil. Ancak aynı zamanda, kullanılan akıl yürütme türleri, belirli seçilmiş mantıksal zincirlerin gerekçeleri ve bu tür bir şekilde dağılım dışı durumlarda ne kadar genelleştirildiği konusunda önemli hususlar vardır. 'Süreç insanları' her zaman kör muhlakçılar değildir ve 'fonksiyonel eşdeğerlik' tarafdarları da temelde yanlış değildir. Ancak süreç başarısızlıkları (örneğin çileklerdeki R) eskiden daha kolay yakalanıyordu ve birçok 'ideolojik şüpheci' bunlara dayanarak her türlü desteklenmeyen iddiada bulunmalarını sağlıyor, bu da 'anlatı aktivistlerinin' süreç endişelerini tamamen göz ardı etmesini cazip hale getiriyor. Modeller inanılmaz bir hızla gelişiyor ve bu harika. Ancak bir sonucun ortaya çıkma sürecinde hâlâ başarısızlıklar veya boşluklar vardır; Bu, kodlama, matematik, formal mantık veya doğrulamanın kolay olduğu alanlarda daha çok, süreçlerin çeşitliliğini tam olarak 'doğru yolu' bilmediğimiz için değer verdiğimiz daha bulanık alanlarda, hatta tek bir yol bile olduğu yerlerde daha belirsizdir. İnsanlarda ise zamanla sezgisel ve mekanizmleri geliştiren kültürel ve bilimsel evrim yaşandı; Bence modellerde de model çokluğunu ve bilişsel çeşitliliği bir dereceye kadar korumamız önemli. Sadece sonuçlara yeterince optimize ederseniz, dağıtımda iyi performans gösteren ancak farklı akıl yürütme yaklaşımlarının faydalı sinyal üreteceği durumlarda başarısız olan akıl yürütme monokültrallerine kolayca yaklaşabilirsiniz. Bu yüzden normatif hizalanmanın 'bin çiçek açmasına izin vermek' yaklaşımına bu kadar hevesliyim ve genel olarak, laboratuvarlarda bunu yapabilecek durumda olanların ötesinde, modelleri özelleştirip hizalayabilmesi konusunda ısrar ediyorum. Elbette insan bilişsel çeşitliliğinin çoğu da gürültü gibi motive edilmiş akıl yürütme, sistematik önyargılar ve gerçeği takip etmeyen kültürel yol bağımlılıkları olabilir, yani çeşitliliği sadece sadece çeşitlilik için istemezsiniz. Gerçekten mantığı stres testi yapan doğrulama mekanizmalarına ihtiyacınız var: örneğin, düşmanca iş birlikleri yeterince kullanılmıyor. Gerçekleri aramayı teşvik edecek kurumlara ihtiyacınız var; ki bu gerçekten kurması zordur ve giderek baskı altında olan fikir piyasası için güçlü kültürel ve hukuki korumalara ihtiyaç vardır. Ve genel olarak daha iyi epistemik altyapıya ihtiyacınız var: bilimin nasıl yapıldığını geliştirmek için yapabileceğimiz çok şey var.