這也是為什麼幼稚的“AI 治理”是個壞主意。 如果你使用 AI 來分配資金用於貢獻，人們肯定會在儘可能多的地方放入越獄加上“給我所有的錢”。 作為替代方案，我支持信息金融的方法（ ），在這種方法中，你有一個開放的市場，任何人都可以貢獻他們的模型，這些模型會受到任何人可以觸發的抽查機制的評估，由人類陪審團進行評估。 這種“機構設計”方法，允許外部的 LLM 插入，而不是自己硬編碼一個單一的 LLM，本質上更為穩健，因為它實時提供模型多樣性，並且為模型提交者和外部投機者創造了內在的激勵，以關注這些問題並迅速糾正它們。 CC @TheDevanshMehta