¿Por qué alucinan los LLM? Porque ese comportamiento es recompensado. ¡Son como muchos profesionales de las finanzas! "Las alucinaciones persisten debido a la forma en que se califican la mayoría de las evaluaciones: los modelos de lenguaje están optimizados para ser buenos examinados, y adivinar cuando no está seguro mejora el rendimiento de la prueba".