W dyskursie na temat AI wydaje się, że istnieje ten wieczny taniec między ludźmi, którzy kładą duży nacisk na proces, a tymi, którzy koncentrują się na wynikach. Wydaje się to dość widoczne w debacie 'czy to jest rozumowanie?'. Myślę, że obie strony mają rację na różne sposoby: oczywiście model w pewnym sensie rozumuje, a funkcjonalnie nie obchodzi mnie, czy mechanizm prowadzący do CoT i wyniku nie jest analogiczny do tego, jak robią to biologiczne mózgi. Ale są też ważne kwestie dotyczące rodzajów używanego rozumowania, uzasadnienia dla pewnych wybranych łańcuchów logicznych oraz stopnia, w jakim te generalizują się w sytuacjach poza dystrybucją. 'Ludzie procesów' nie zawsze są ślepymi przeciwnikami, a 'ludzie równoważności funkcjonalnej' również nie są zasadniczo błędni. Jednakże błędy procesowe (np. R w truskawkach) były kiedyś łatwiejsze do wychwycenia, a wielu 'ideologicznych sceptyków' polega na nich, aby formułować wszelkiego rodzaju niepoparte twierdzenia, co sprawia, że 'aktywiści narracyjni' mają pokusę, aby całkowicie zignorować obawy dotyczące procesu. Wyraźnie modele poprawiają się w niesamowitym tempie, co jest świetne. Ale wciąż pozostają błędy lub luki w procesie, w którym generowany jest wynik; jest to mniej problematyczne w kodowaniu, matematyce, logice formalnej lub w obszarach, gdzie weryfikacja jest łatwa, ale bardziej w niejasnych dziedzinach, gdzie cenimy różnorodność procesów, ponieważ nie znamy 'poprawnej drogi', w stopniu, w jakim w ogóle istnieje jedna. W przypadku ludzi mieliśmy tę kulturową i naukową ewolucję, która z czasem udoskonala heurystyki i mechanizmy; myślę, że ważne jest, abyśmy utrzymali pewien stopień wielości modeli i różnorodności poznawczej również w modelach. Jeśli wystarczająco mocno zoptymalizujesz tylko wyniki, możesz łatwo zbiegać się w monokultury rozumowania, które dobrze działają w dystrybucji, ale zawodzą w dokładnie tych sytuacjach, w których różnorodne podejścia do rozumowania mogłyby wygenerować użyteczny sygnał. Dlatego tak bardzo zależy mi na podejściu 'pozwól, aby tysiąc kwiatów zakwitło' w zakresie normatywnego dostosowania i ogólnie nalegam, aby znacznie szerszy zestaw ludzi i grup mógł dostosowywać i dostosowywać modele, poza tymi, którzy akurat mają możliwość robienia tego w laboratoriach. Oczywiście wiele ludzkiej różnorodności poznawczej może być również szumem, takim jak motywowane rozumowanie, systematyczne uprzedzenia i kulturowe zależności, które nie śledzą prawdy, więc nie chcesz tylko różnorodności dla samej różnorodności. Potrzebujesz mechanizmów weryfikacyjnych, które rzeczywiście testują rozumowanie: np. współprace adwersarialne są niedostatecznie wykorzystywane. Potrzebujesz instytucji zaprojektowanych w celu promowania poszukiwania prawdy, które są naprawdę trudne do zbudowania, a także silnych ochron prawnych i kulturowych dla rynku idei, które są coraz bardziej pod presją. I potrzebujesz lepszej infrastruktury epistemicznej w szerokim zakresie: jest ogromna ilość rzeczy, które moglibyśmy zrobić, aby poprawić sposób, w jaki nauka jest prowadzona.