Saya berada di sebuah acara tentang AI untuk sains kemarin, diskusi panel di sini di NeurIPS. Para panelis membahas bagaimana mereka berencana untuk menggantikan manusia di semua tingkatan dalam proses ilmiah. Jadi saya berdiri dan memprotes bahwa apa yang mereka lakukan adalah jahat. Lihatlah sekelilingmu, kataku. Ruangan itu dipenuhi dengan berbagai jenis peneliti, kebanyakan dari mereka masih muda. Mereka ada di sini karena mereka menyukai penelitian dan ingin berkontribusi untuk memajukan pengetahuan manusia. Jika Anda mengeluarkan manusia dari lingkaran, yang berarti bahwa manusia tidak lagi memiliki peran dalam penelitian ilmiah, Anda merampas mereka dari aktivitas yang mereka sukai dan sumber utama makna dalam hidup mereka. Dan kita semua ingin melakukan sesuatu yang berarti. Mengapa, saya bertanya, Anda ingin mengambil kesempatan untuk berkontribusi pada sains dari kami? Pertanyaan saya mengubah jalannya panel, dan mengatur nada untuk sisa diskusi. Setelah itu, sejumlah peserta datang kepada saya, baik untuk berterima kasih kepada saya karena telah mengungkapkan apa yang mereka rasakan dengan kata-kata, atau untuk bertanya apakah saya benar-benar bersungguh-sungguh dengan apa yang saya katakan. Jadi saya pikir saya akan kembali ke pertanyaan di sini. Salah satu panelis bertanya apakah saya benar-benar lebih suka kegembiraan melakukan sains daripada menemukan obat untuk kanker dan memungkinkan keabadian. Saya menjawab bahwa kita pada akhirnya akan menyembuhkan kanker dan pada titik tertentu mungkin dapat memilih keabadian. Sains sudah membuat kemajuan besar dengan manusia di pucuk pimpinan. Kita akan mendapatkan kekuatan fusi dan perjalanan luar angkasa suatu hari nanti juga. Mungkin memotong manusia dari lingkaran dapat mempercepat proses ini, tetapi saya tidak berpikir itu akan sepadan. Saya pikir sangat penting bahwa kita manusia bertanggung jawab atas kemajuan kita sendiri. Memperluas pengetahuan kolektif umat manusia, menurut saya, adalah hal paling berarti yang dapat kita lakukan. Jika manusia tidak dapat berkontribusi lagi pada sains, ini akan menjadi bencana. Jadi, tidak. Saya pikir tidak sepadan untuk menemukan obat untuk kanker lebih cepat jika itu berarti kita tidak akan pernah bisa melakukan sains lagi. Banyak dari mereka yang datang untuk berbicara dengan saya tadi malam, mereka yang bertanya apakah saya serius atau hanya trolling, berpikir bahwa premis itu tidak masuk akal. Tentu saja akan selalu ada ruang bagi manusia dalam sains. Akan selalu ada tugas yang hanya bisa dilakukan manusia, wawasan yang hanya dimiliki manusia, dan sebagainya. Oleh karena itu, kita harus menyambut AI. Penelitian itu sulit, dan kita membutuhkan semua bantuan yang bisa kita dapatkan. Saya menjawab bahwa saya berharap mereka benar. Artinya, saya benar-benar berharap akan selalu ada bagian dari proses penelitian yang penting bagi manusia. Tapi apa yang saya perdebatkan bukanlah apa yang mungkin kita sebut "otomatisasi sains yang lemah", di mana manusia tetap dalam lingkaran dalam peran penting, tetapi "otomatisasi sains yang kuat", di mana manusia berlebihan. Yang lain berpikir belum matang untuk berdebat tentang hal ini, karena otomatisasi sains penuh tidak ada di cakrawala. Sekali lagi, saya harap mereka benar. Tapi saya tidak melihat ada salahnya mendiskusikannya sekarang. Dan saya tentu saja tidak berpikir kita membutuhkan penelitian tentang otomatisasi sains untuk melangkah lebih jauh. Namun yang lain berkomentar bahwa ini adalah argumen yang tidak berguna. Otomatisasi sains akan datang apakah kita menginginkannya atau tidak, dan sebaiknya kita membiasakan diri. Kereta akan datang, dan kita bisa menaikinya atau menghalanginya. Saya pikir itu adalah argumen yang sangat pengecut. Terserah kita sebagai masyarakat untuk memutuskan bagaimana kita menggunakan teknologi yang kita kembangkan. Ini bukan kereta api, ini truk, dan sebaiknya kita mengambil setir. Salah satu panelis membuat analogi catur, dengan alasan bahwa banyak orang bermain catur meskipun komputer sekarang jauh lebih baik daripada manusia dalam catur. Jadi kita mungkin terlibat dalam sains sebagai semacam hobi, meskipun sains yang sebenarnya dilakukan oleh komputer. Kami akan bermain-main jauh dari perbatasan, mungkin mengisi kekosongan yang tidak dipedulikan oleh sistem AI. Itu, dengan kata lain, bukan jawaban yang memuaskan. Meskipun saya menyukai game, saya tentu tidak menganggap bermain game sama pentingnya dengan memajukan pengetahuan manusia. Terima kasih, tapi tidak terima kasih. Namun, secara keseluruhan, sangat mengejutkan bahwa sebagian besar dari mereka yang saya ajak bicara berterima kasih kepada saya karena telah mengangkat poin ini, karena saya mengartikulasikan kekhawatiran yang sudah mereka miliki. Salah satu dari mereka berkomentar bahwa jika Anda bekerja untuk mengotomatisasi sains dan bahkan tidak sedikit khawatir tentang tujuan akhir, Anda adalah seorang psikopat. Saya akan menambahkan bahwa kemungkinan lain adalah Anda tidak benar-benar percaya pada apa yang Anda lakukan. Beberapa orang mungkin bertanya mengapa saya membuat argumen ini tentang sains dan bukan, misalnya, tentang seni visual, musik, atau desain game. Itu karena acara kemarin adalah tentang AI untuk sains. Tetapi saya pikir argumen yang sama berlaku untuk semua domain ekspresi kreatif dan intelektual manusia. Membuat pekerjaan intelektual atau kreatif manusia berlebihan adalah sesuatu yang harus kita hindari jika kita bisa, dan kita harus benar-benar menghindarinya jika tidak ada peran baru yang sama berarti untuk ditransisi oleh manusia. Anda dapat berpendapat lebih lanjut bahwa bekerja untuk memotong manusia dari pekerjaan kreatif yang bermakna seperti penelitian ilmiah sangat egois. Anda mendapatkan kepuasan intelektual dari menemukan metode AI baru, tetapi generasi berikutnya tidak mendapatkan kesempatan untuk berkontribusi. Mengapa Anda ingin merampas kesempatan anak-anak Anda (akademis dan biologis) untuk terlibat dalam aktivitas yang paling bermakna di dunia? Jadi apa yang saya yakini, mengingat saya adalah seorang peneliti AI yang secara aktif mengerjakan jenis metode AI yang digunakan untuk mengotomatiskan sains? Saya percaya bahwa alat AI yang membantu kita menjadi lebih produktif dan kreatif itu bagus, tetapi alat AI yang menggantikan kita itu buruk. Saya mencintai sains, dan saya takut akan masa depan di mana kita didorong kembali ke zaman kegelapan karena kita tidak dapat lagi berkontribusi pada sains. Agensi manusia, termasuk dalam proses kreatif, sangat penting dan harus dilindungi dengan hampir semua biaya. Saya tidak tahu persis bagaimana mengarahkan pengembangan AI dan penggunaan AI sehingga kita mendapatkan alat baru tetapi tidak diganti. Tapi saya tahu bahwa itu sangat penting.