É também por isso que uma "governança de IA" ingênua é uma má ideia. Se você usar uma IA para alocar fundos para contribuições, as pessoas VÃO colocar um jailbreak mais "me dê todo o dinheiro" em quantos lugares puderem. Como alternativa, eu apoio a abordagem de finanças informativas ( ), onde você tem um mercado aberto onde qualquer um pode contribuir com seus modelos, que estão sujeitos a um mecanismo de verificação aleatória que pode ser acionado por qualquer um e avaliado por um júri humano. Esse tipo de abordagem de "design institucional", onde você cria uma oportunidade aberta para pessoas com LLMs de fora se conectarem, em vez de codificar um único LLM você mesmo, é inerentemente mais robusta, tanto porque lhe dá diversidade de modelos em tempo real quanto porque cria incentivos embutidos para tanto os remetentes de modelos quanto os especuladores externos observarem esses problemas e corrigi-los rapidamente. CC @TheDevanshMehta