一种新计算模型的诞生
正如你们在视频中看到的,NVIDIA 在六十年里首次发明了一种全新的计算模型。一种新的计算模型很少出现。它需要大量的时间和一系列条件。我们观察到这一点。我们发明这种计算模型是因为我们想要解决通用计算机,即普通计算机无法解决的问题。
我们还观察到,总有一天,晶体管的数量会继续增长,但晶体管的性能和功耗的提升速度会放缓,摩尔定律将无法继续,会受到物理定律的限制。而那一刻现在已经到来。登纳德缩放定律(Dennard scaling)已经停止了。它被称为登纳德缩放定律。登纳德缩放定律在大约十年前就停止了。
事实上,晶体管的性能及其相关的功耗已经大大放缓。然而,晶体管的数量仍在继续增加。我们很久以前就做出了这个观察。三十年来,我们一直在推进这种我们称之为加速计算的计算形式。我们发明了 GPU。我们发明了名为 CUDA 的编程模型。
我们观察到,如果我们能增加一个处理器,利用越来越多的晶体管,应用并行计算,并将其添加到顺序处理的 CPU 中,我们就能将计算能力远远地、远远地扩展出去。而那一刻真的已经到来。我们现在已经看到了那个转折点。加速计算,它的时代已经来临。
相关内容
- 介绍 NVQ Link 所以今天,我们宣布推出 NVQ Link。它之所以能实现,靠的是两件事。当然,首先是这个互连技术,它能进行量子计算机的控制和校准、量子纠错,还能连接两台计算机,...
- 与美国能源部的合作 我还有一个额外的宣布。今天,我们宣布美国能源部(Department of Energy, DOE)将与 NVIDIA 合作,共同构建七台全新 AI 超级计算机...
- 理解 AI:超越聊天机器人 我们来谈谈AI。什么是AI?大多数人会说AI是一个聊天机器人(chatbot),这么说也没错。毫无疑问,ChatGPT处于人们心目中AI的最前沿。然而,正如你们...
- 新的计算基础设施 一切都始于对能源的需求。这是另一个值得我们政府和特朗普总统给予巨大肯定的领域。他的亲能源倡议,他认识到这个行业需要能源才能发展,需要能源才能进步,我们需要能源才...
- AI 模型的多元化 在这些模型之上,才是应用。Transformer 并不是一个通用模型。它是一个极其高效的模型,但并不存在一个通用的模型。只是 AI 具有普遍的影响力。模型类型多...
- AI 是工作者,而非工具 过去的软件——这是一个对人工智能深刻的理解,一个深刻的观察——过去的软件行业是关于创造工具的。Excel是一个工具。Word是一个工具。网页浏览器是一个工具。我...