de meeste mensen realiseren zich niet dat de temperatuur gewoon de ventilatorsnelheid op de GPU-cluster die jou bedient, aanpast.
gojo
gojo15 aug, 23:20
ik was letterlijk met deze "LLM-onderzoeker" aan het praten over het instellen van de temperatuur in LLM's en ik vroeg, weet je waarom het verlagen of verhogen van de temperatuur resulteert in meer deterministische of willekeurige uitkomsten, toch? en hij zei ja, het verandert de manier waarop tokens worden weergegeven. jongen wtf, mensen IN het kutveld hebben geen idee van botzmann-statistieken of zelfs softmax. ik ga huilen.
404