革命性的内存架构
然后是这款新的处理器,我今天不会花太多时间来谈论它。我没有足够的时间,但这绝对是革命性的。原因在于,你的 AI 需要越来越多的内存。你与它的互动越来越多。你希望它能记住我们上次的对话。所有你为我学到的东西,请在我下次回来时不要忘记。
因此,所有这些内存将会创建一种叫做 KV caching 的东西。而检索 KV caching,你可能已经注意到,每次你进入你的 AI 空间时,刷新和检索所有先前的对话所需的时间越来越长。造成这种情况的原因是,我们需要一款革命性的新处理器,它就是 BlueField 四代。