极致协同设计(Extreme Co-Design)理念
极致的 Blackwell GB200 MB Grace Blackwell、NVLink 72,极致协同设计(Extreme co-design)为我们带来了代际间的 10 倍性能提升。这简直令人难以置信。现在,真正令人难以置信的部分是这个。这是我们制造的第一台 AI 超级计算机。这是在 2016 年,当时我把它交付给了旧金山的一家初创公司,这家公司后来证明就是 OpenAI。这就是那台计算机。为了制造那台计算机,我们设计了一块芯片。我们设计了一块新的芯片。
现在,为了进行协同设计(co-design),看看我们必须做多少块芯片。这就是所需的代价。你不可能只用一块芯片就能让计算机快十倍。那是不可能发生的。要让计算机快十倍,以便我们能够持续地呈指数级提升性能,持续地呈指数级降低成本,方法就是极致协同设计(extreme co-design),并同时开发所有这些不同的芯片。