In dieser Woche hat das Modellleistungsteam von Baseten die schnellsten TPS und TTFT für gpt-oss 120b auf @nvidia-Hardware freigeschaltet. Als gpt-oss gestartet wurde, haben wir uns beeilt, es mit 450 TPS anzubieten... jetzt haben wir 650 TPS und 0,11 Sek. TTFT überschritten... und wir werden weiterhin daran arbeiten, die Messlatte höher zu legen. Wir sind stolz darauf, die beste E2E-Latenz mit nahezu unbegrenzter Skalierung, unglaublicher Leistung und der höchsten Verfügbarkeit von 99,99 % anzubieten.