нельзя не заметить параллель между масштабированием людей и масштабированием GPU, оба сталкиваются с узким местом в коммуникации довольно быстро