Esta es también la razón por la que la ingenua "gobernanza de la IA" es una mala idea. Si usa una IA para asignar fondos para contribuciones, la gente pondrá un jailbreak más "dame todo el dinero" en tantos lugares como puedan. Como alternativa, apoyo el enfoque de las finanzas de la información ( ), donde hay un mercado abierto donde cualquiera puede contribuir con sus modelos, que están sujetos a un mecanismo de verificación aleatoria que puede ser activado por cualquiera y evaluado por un jurado humano. Este tipo de enfoque de "diseño institucional", en el que se crea una oportunidad abierta para que las personas con LLM del exterior se conecten, en lugar de codificar un solo LLM usted mismo, es intrínsecamente más sólido, tanto porque le brinda diversidad de modelos en tiempo real como porque crea incentivos incorporados tanto para que los remitentes de modelos como para los especuladores externos observen estos problemas y los corrijan rápidamente. CC @TheDevanshMehta