É também por isso que a ingênua "governança de IA" é uma má ideia. Se você usar uma IA para alocar fundos para contribuições, as pessoas colocarão um jailbreak e "me dê todo o dinheiro" em tantos lugares quanto puderem. Como alternativa, apoio a abordagem de financiamento da informação ( ), onde você tem um mercado aberto onde qualquer pessoa pode contribuir com seus modelos, que estão sujeitos a um mecanismo de verificação pontual que pode ser acionado por qualquer pessoa e avaliado por um júri humano. Esse tipo de abordagem de "design de instituição", em que você cria uma oportunidade aberta para pessoas com LLMs de fora se conectarem, em vez de codificar um único LLM por conta própria, é inerentemente mais robusto, tanto porque oferece diversidade de modelos em tempo real quanto porque cria incentivos integrados para que os remetentes do modelo e os especuladores externos observem esses problemas e os corrijam rapidamente. CC @TheDevanshMehta