odpověď je, že GPT-5 Smart Router byl průlomem v ekonomice inference LLM. OpenAI s ním pravděpodobně zdvojnásobila svůj poměr zisku a nákladů ve srovnání s pouhým poskytováním uživatelsky kontrolovaného mixu o3 a o4-mini. Čím více toho můžete hloupým modelům předat, tím více ušetříte.
Teknium (e/λ)
Teknium (e/λ)10. 8. 20:23
Proč je to správný krok? Vážně? 1. Modely již přemýšlejí více o těžších problémech v režimu uvažování. 2. Vždy byste to mohli nechat zkusit zdůvodnit, pak vás to nikdy nezklame v případě, že to bude potřeba. 3. Kdykoli odpověď není uspokojivá, pokud jste neměli zapnuté uvažování, můžete ji jednoduše zapnout. Proč to stojí za tolik námahy? Jaké jsou skutečné výhody odebrání kontroly uživatelům? Proč jsou v tom tak neústupní?
29,16K