Jag pratade bokstavligen med den här "LLM-forskaren" om att ställa in temperaturen i LLM:er och jag frågade dig vet varför sänkning eller höjning av temperaturen resulterar i mer deterministiska eller slumpmässiga utgångar, eller hur? Och han sa ja, det förändrar hur tokens representeras. pojke wtf, folk i det jävla fältet har ingen aning om botzmann statistik eller ens softmax. Jag kommer att gråta.