Dit is ook waarom naïeve "AI-governance" een slecht idee is. Als je een AI gebruikt om financiering voor bijdragen toe te wijzen, zullen mensen een jailbreak plus "geef me al het geld" op zoveel mogelijk plaatsen indienen. Als alternatief steun ik de info-financieringsaanpak ( ), waarbij je een open markt hebt waar iedereen zijn modellen kan bijdragen, die onderworpen zijn aan een spot-checkmechanisme dat door iedereen kan worden geactiveerd en door een menselijke jury kan worden geëvalueerd. Dit type "institutioneel ontwerp" aanpak, waarbij je een open kans creëert voor mensen met LLM's van buitenaf om aan te sluiten, in plaats van zelf een enkele LLM hard te coderen, is van nature robuuster, zowel omdat het je modeldiversiteit in real-time biedt als omdat het ingebouwde prikkels creëert voor zowel modelindieners als externe speculanten om op deze problemen te letten en ze snel te corrigeren. CC @TheDevanshMehta