极致协同设计(Extreme Co-Design)理念
极致的 Blackwell GB200 MB Grace Blackwell、NVLink 72,极致协同设计(Extreme co-design)为我们带来了代际间的 10 倍性能提升。这简直令人难以置信。现在,真正令人难以置信的部分是这个。这是我们制造的第一台 AI 超级计算机。这是在 2016 年,当时我把它交付给了旧金山的一家初创公司,这家公司后来证明就是 OpenAI。这就是那台计算机。为了制造那台计算机,我们设计了一块芯片。我们设计了一块新的芯片。
现在,为了进行协同设计(co-design),看看我们必须做多少块芯片。这就是所需的代价。你不可能只用一块芯片就能让计算机快十倍。那是不可能发生的。要让计算机快十倍,以便我们能够持续地呈指数级提升性能,持续地呈指数级降低成本,方法就是极致协同设计(extreme co-design),并同时开发所有这些不同的芯片。
相关内容
- 一种新计算模型的诞生 正如你们在视频中看到的,NVIDIA 在六十年里首次发明了一种全新的计算模型。一种新的计算模型很少出现。它需要大量的时间和一系列条件。我们观察到这一点。我们发明...
- 介绍 NVQ Link 所以今天,我们宣布推出 NVQ Link。它之所以能实现,靠的是两件事。当然,首先是这个互连技术,它能进行量子计算机的控制和校准、量子纠错,还能连接两台计算机,...
- 与美国能源部的合作 我还有一个额外的宣布。今天,我们宣布美国能源部(Department of Energy, DOE)将与 NVIDIA 合作,共同构建七台全新 AI 超级计算机...
- 理解 AI:超越聊天机器人 我们来谈谈AI。什么是AI?大多数人会说AI是一个聊天机器人(chatbot),这么说也没错。毫无疑问,ChatGPT处于人们心目中AI的最前沿。然而,正如你们...
- 新的计算基础设施 一切都始于对能源的需求。这是另一个值得我们政府和特朗普总统给予巨大肯定的领域。他的亲能源倡议,他认识到这个行业需要能源才能发展,需要能源才能进步,我们需要能源才...
- AI 模型的多元化 在这些模型之上,才是应用。Transformer 并不是一个通用模型。它是一个极其高效的模型,但并不存在一个通用的模型。只是 AI 具有普遍的影响力。模型类型多...