Вот почему наивное "управление ИИ" — плохая идея. Если вы используете ИИ для распределения финансирования на взносы, люди ОБЯЗАТЕЛЬНО вставят jailbreak и "дайте мне все деньги" в как можно больше мест. В качестве альтернативы я поддерживаю подход информационных финансов ( ), где у вас есть открытый рынок, где любой может предложить свои модели, которые подлежат механизму выборочной проверки, который может быть инициирован любым и оценен человеческим жюри. Этот тип подхода "дизайна институций", где вы создаете открытую возможность для людей с LLM извне подключаться, вместо того чтобы жестко кодировать один LLM самостоятельно, по своей сути более надежен, как потому, что он дает вам разнообразие моделей в реальном времени, так и потому, что создает встроенные стимулы как для отправителей моделей, так и для внешних спекулянтов следить за этими проблемами и быстро их исправлять. CC @TheDevanshMehta