No discurso sobre IA, parece haver esta dança eterna entre pessoas que colocam muita ênfase no processo e pessoas que se concentram nos resultados. Isso parece bastante visível no debate 'é raciocínio?'. Acho que ambos estão certos de maneiras diferentes: claro que um modelo está raciocinando de certa forma, e funcionalmente não me importo muito se o mecanismo que leva ao CoT e à saída não é análogo a como os cérebros biológicos fazem isso. Mas também, há considerações importantes sobre os tipos de raciocínio utilizados, a razão para certas cadeias lógicas escolhidas e o grau em que estas se generalizam de forma robusta em situações fora da distribuição. As 'pessoas do processo' nem sempre são críticos cegos, e as pessoas da 'equivalência funcional' também não estão fundamentalmente incorretas. As falhas de processo (por exemplo, R em morangos) costumavam ser mais fáceis de detectar, e muitos 'céticos ideológicos' dependem delas para fazer todo tipo de afirmações não suportadas, o que torna tentador para os 'ativistas narrativos' desconsiderar completamente as preocupações com o processo. Claramente, os modelos estão melhorando a uma taxa incrível, e isso é ótimo. Mas ainda existem falhas ou lacunas no processo pelo qual um resultado é gerado; isso é menos um problema em codificação, matemática, lógica formal ou áreas onde a verificação é fácil, mas mais em domínios mais nebulosos onde valorizamos a diversidade de processos precisamente porque não sabemos qual é o 'caminho correto', na medida em que existe um único. Com os humanos, você teve essa evolução cultural e científica que, ao longo do tempo, refina heurísticas e mecanismos; acho que é importante que mantenhamos um grau de multiplicidade de modelos e diversidade cognitiva com os modelos também. Se você otimizar o suficiente apenas para os resultados, pode facilmente convergir em monoculturas de raciocínio que funcionam bem dentro da distribuição, mas falham precisamente nas situações em que abordagens de raciocínio diversas teriam gerado sinais úteis. Daí porque estou tão interessado na abordagem de 'deixar mil flores florescerem' para o alinhamento normativo, e geralmente insisto que um conjunto muito mais amplo de pessoas e grupos deve ser capaz de personalizar e alinhar modelos, além de quem quer que esteja em posição de fazê-lo nos laboratórios. Claro que muita diversidade cognitiva humana também pode ser ruído, como raciocínio motivado, vieses sistemáticos e dependências culturais que não rastreiam a verdade, então você não quer apenas diversidade por si só. Você precisa de mecanismos de verificação que realmente testem o raciocínio: por exemplo, colaborações adversariais são subutilizadas. Você precisa de instituições projetadas para promover a busca pela verdade, que são genuinamente difíceis de construir, assim como fortes proteções culturais e legais para o mercado de ideias, que estão cada vez mais sob pressão. E você precisa de uma melhor infraestrutura epistêmica de forma ampla: há uma quantidade enorme que poderíamos fazer para melhorar como a ciência é feita.