Przemysł AI przechodzi od treningu modeli do wnioskowania na dużą skalę, a globalny rynek wnioskowania ma osiągnąć 254,98 miliardów dolarów do 2030 roku. Aby nadążyć, infrastruktura GPU na gołych metalach staje się kluczowa, ponieważ tradycyjne ustawienia chmurowe z warstwami wirtualizacji wprowadzają wąskie gardła wydajności.