Dlatego naiwna "gospodarka AI" jest złym pomysłem. Jeśli użyjesz AI do przydzielania funduszy na wkłady, ludzie ZDECYDOWANIE będą umieszczać jailbreak oraz "dajcie mi wszystkie pieniądze" w jak największej liczbie miejsc. Jako alternatywę, popieram podejście info-finansowe ( ), w którym masz otwarty rynek, gdzie każdy może wnosić swoje modele, które podlegają mechanizmowi losowej kontroli, który może być uruchomiony przez każdego i oceniony przez ludzką ławę przysięgłych. Tego typu podejście "projektowania instytucji", w którym tworzysz otwartą możliwość dla ludzi z LLM z zewnątrz, aby się podłączyli, zamiast twardo kodować jeden LLM samodzielnie, jest z natury bardziej odporne, zarówno dlatego, że daje ci różnorodność modeli w czasie rzeczywistym, jak i dlatego, że tworzy wbudowane zachęty dla zarówno dostawców modeli, jak i zewnętrznych spekulantów, aby obserwować te problemy i szybko je korygować. CC @TheDevanshMehta