AI 工厂革命
我所说的这台计算机,它是一个工厂。它基本上只运行一件事。它运行 AI。它的设计目的是生产出尽可能有价值的“tokens”(代币/信息单元),这意味着它们必须是智能的。而且你希望以惊人的速度生产这些 tokens,因为当你向 AI 提问时,你希望它能回应。
请注意,在高峰时段,这些 AI 的响应速度现在变得越来越慢,因为它有大量的工作需要为很多人完成。因此,你希望它能以惊人的速度生产有价值的 tokens,并且希望它的成本效益高。我使用的每一个词都与 AI 工厂、汽车工厂或任何工厂的概念是一致的。它绝对是一个工厂。而这种工厂以前从未存在过。
在这些工厂内部,堆积如山的芯片,这就引出了今天的主题。过去几年发生了什么?事实上,这去年发生了什么?今年发生了一些相当深刻的事情。如果你看,在年初,每个人对 AI 都有一些看法。
这种看法通常是:这将是巨大的。它将是未来。然而,就在几个月前,它突然进入了“涡轮增压”模式。这背后的原因有几个。
相关内容
- 一种新计算模型的诞生 正如你们在视频中看到的,NVIDIA 在六十年里首次发明了一种全新的计算模型。一种新的计算模型很少出现。它需要大量的时间和一系列条件。我们观察到这一点。我们发明...
- 介绍 NVQ Link 所以今天,我们宣布推出 NVQ Link。它之所以能实现,靠的是两件事。当然,首先是这个互连技术,它能进行量子计算机的控制和校准、量子纠错,还能连接两台计算机,...
- 与美国能源部的合作 我还有一个额外的宣布。今天,我们宣布美国能源部(Department of Energy, DOE)将与 NVIDIA 合作,共同构建七台全新 AI 超级计算机...
- 理解 AI:超越聊天机器人 我们来谈谈AI。什么是AI?大多数人会说AI是一个聊天机器人(chatbot),这么说也没错。毫无疑问,ChatGPT处于人们心目中AI的最前沿。然而,正如你们...
- 新的计算基础设施 一切都始于对能源的需求。这是另一个值得我们政府和特朗普总统给予巨大肯定的领域。他的亲能源倡议,他认识到这个行业需要能源才能发展,需要能源才能进步,我们需要能源才...
- AI 模型的多元化 在这些模型之上,才是应用。Transformer 并不是一个通用模型。它是一个极其高效的模型,但并不存在一个通用的模型。只是 AI 具有普遍的影响力。模型类型多...