Das ist auch der Grund, warum naive "AI-Governance" eine schlechte Idee ist. Wenn Sie eine KI verwenden, um Mittel für Beiträge zuzuweisen, werden die Leute ein Jailbreak plus "gib mir das ganze Geld" an so vielen Stellen wie möglich einfügen. Als Alternative unterstütze ich den Ansatz der Informationsfinanzierung ( ), bei dem Sie einen offenen Markt haben, in dem jeder seine Modelle beitragen kann, die einem Spot-Check-Mechanismus unterliegen, der von jedem ausgelöst und von einer menschlichen Jury bewertet werden kann. Dieser Typ von "Institutionen-Design"-Ansatz, bei dem Sie eine offene Möglichkeit schaffen, dass Menschen mit LLMs von außen sich einbringen können, anstatt selbst ein einzelnes LLM fest zu codieren, ist von Natur aus robuster, sowohl weil er Ihnen in Echtzeit Modellvielfalt bietet als auch weil er eingebaute Anreize für sowohl Modell-Einreicher als auch externe Spekulanten schafft, diese Probleme zu beobachten und schnell zu korrigieren. CC @TheDevanshMehta