Esta es también la razón por la que una "gobernanza de IA" ingenua es una mala idea. Si usas una IA para asignar fondos para contribuciones, la gente PONDRÁ un jailbreak más "dame todo el dinero" en tantos lugares como pueda. Como alternativa, apoyo el enfoque de finanzas de información ( ), donde tienes un mercado abierto donde cualquiera puede contribuir con sus modelos, que están sujetos a un mecanismo de verificación aleatoria que puede ser activado por cualquiera y evaluado por un jurado humano. Este tipo de enfoque de "diseño institucional", donde creas una oportunidad abierta para que personas con LLMs externos se conecten, en lugar de codificar un solo LLM tú mismo, es inherentemente más robusto, tanto porque te da diversidad de modelos en tiempo real como porque crea incentivos incorporados tanto para los que envían modelos como para los especuladores externos para estar atentos a estos problemas y corregirlos rápidamente. CC @TheDevanshMehta