Questo è anche il motivo per cui una "governance dell'AI" ingenua è una cattiva idea. Se utilizzi un'AI per allocare fondi per i contributi, le persone METTERANNO un jailbreak più "dammi tutti i soldi" in quanti più posti possibile. Come alternativa, supporto l'approccio dell'informazione finanziaria ( ), dove hai un mercato aperto in cui chiunque può contribuire con i propri modelli, che sono soggetti a un meccanismo di controllo a campione che può essere attivato da chiunque e valutato da una giuria umana. Questo tipo di approccio di "design istituzionale", in cui crei un'opportunità aperta per le persone con LLM dall'esterno di collegarsi, piuttosto che codificare rigidamente un singolo LLM tu stesso, è intrinsecamente più robusto, sia perché ti offre diversità di modelli in tempo reale sia perché crea incentivi integrati sia per i presentatori di modelli che per gli speculatori esterni a monitorare questi problemi e a correggerli rapidamente. CC @TheDevanshMehta