Hier wat context: een toename van de rekenkracht betekent ook een grotere energieconsumptie, wat niet duurzaam is. EpochAI heeft geprojecteerd dat: ➤ De rekenkracht voor training jaarlijks met 4-5x toeneemt. ➤ De vraag naar energie naar verwachting met 2,2x tot 2,9x per jaar zal toenemen. Tegen 2030 zou elke trainingsronde 4-16 gigawatt (GW) kunnen vereisen, genoeg om miljoenen Amerikaanse huizen van stroom te voorzien. Er zijn verschillende oplossingen beschikbaar: ➤ Verbeter de energie-efficiëntie van hardware ➤ Ontwikkel methoden om de trainingsduur te verkorten ➤ Maak gebruik van gedistribueerde training over meerdere GPU's op verschillende geografische locaties. Van deze opties lijkt de derde, geleid door projecten zoals @ionet, @render en @AethirCloud, de meest haalbare en directe oplossing te zijn. h/t @EpochAIResearch