Astaga... makalah ini mungkin merupakan perubahan terpenting dalam cara kita menggunakan LLM sepanjang tahun ini. "Model Kausal Besar dari Model Bahasa Besar." Ini menunjukkan Anda dapat menumbuhkan model kausal penuh langsung dari LLM bukan perkiraan, bukan grafik kausal aktual, kontrafaktual, intervensi, dan struktur yang diperiksa kendala. Dan cara mereka melakukannya adalah liar: Alih-alih melatih model kausal khusus, mereka menginterogasi LLM seperti seorang ilmuwan: → mengekstrak grafik kausal kandidat dari teks → meminta model untuk memeriksa independensi bersyarat → mendeteksi kontradiksi → merevisi struktur → menguji kontrafaktual dan prediksi intervensi → mengulangi sampai model kausal stabil Hasilnya adalah sesuatu yang belum pernah kami miliki sebelumnya: sistem kausal yang dibangun di dalam LLM menggunakan pengetahuan dunia latennya sendiri. Di seluruh tolok ukur domain sintetis, dunia nyata, dan berantakan, KPK ini mengalahkan metode penemuan kausal klasik karena mereka menarik dari pengetahuan sebelumnya LLM yang besar, bukan hanya korelasi lokal. Dan penalaran kontrafaktual? Sangat kuat. Model ini dapat menjawab pertanyaan "bagaimana jika" yang benar-benar gagal dilakukan oleh algoritme standar, hanya karena sudah "mengetahui" hal-hal tentang dunia yang tidak dapat disimpulkan oleh algoritme tersebut dari data saja. Makalah ini mengisyaratkan masa depan di mana LLM bukan hanya mesin pola....