Ini juga mengapa "tata kelola AI" yang naif adalah ide yang buruk. Jika Anda menggunakan AI untuk mengalokasikan dana untuk kontribusi, orang AKAN menempatkan jailbreak ditambah "beri saya semua uang" di sebanyak mungkin tempat. Sebagai alternatif, saya mendukung pendekatan keuangan info ( ), di mana Anda memiliki pasar terbuka di mana siapa pun dapat menyumbangkan model mereka, yang tunduk pada mekanisme pemeriksaan tempat yang dapat dipicu oleh siapa saja dan dievaluasi oleh juri manusia. Jenis pendekatan "desain institusi" ini, di mana Anda menciptakan peluang terbuka bagi orang-orang dengan LLM dari luar untuk mencolokkan, daripada melakukan hardcoding sendiri satu LLM, secara inheren lebih kuat, baik karena memberi Anda keragaman model secara real time dan karena menciptakan insentif bawaan bagi pengirim model dan spekulan eksternal untuk mengawasi masalah ini dan dengan cepat memperbaikinya. CC @TheDevanshMehta