majoritatea oamenilor nu își dau seama că temperatura este doar reglarea vitezei ventilatorului pe clusterul GPU care vă servește
gojo
gojo15 aug., 23:20
Vorbeam literalmente cu acest "cercetător LLM" despre setarea temperaturii în LLM-uri și l-am întrebat de ce scăderea sau creșterea temperaturii are ca rezultat ieșiri mai deterministe sau aleatorii, nu? Și a spus că da, schimbă modul în care sunt reprezentate jetoanele. băiat wtf, oamenii din domeniu habar n-au despre statisticile botzmann sau chiar softmax. O să plâng.
394