¿Por qué los LLMs alucinan? Porque ese comportamiento es recompensado. ¡Son como muchos profesionales de las finanzas! "Las alucinaciones persisten debido a la forma en que se evalúan la mayoría de las pruebas: los modelos de lenguaje están optimizados para ser buenos en los exámenes, y adivinar cuando hay incertidumbre mejora el rendimiento en las pruebas."