Puține conversații rămân cu tine, cea cu @JonathanRoss321 din Bangalore (mulțumesc Lightspeed @MohapatraHemant ) a fost una dintre ele. Principalele concluzii: 1. Inferența mai rapidă nu se referă doar la viteză. Când timpul este constrângerea, calitatea ieșirii se îmbunătățește semnificativ (mai multe jetoane procesate) 2. Pentru întreprinderi, adevăratul joc este economia: vor continua să investească în inferențe mai rapide până când anumite sarcini vor vedea costurile scăzând sau veniturile cresc.