AI 100 天，第 16 天：NVIDIA 人工智能开发者活动的 5 个要点

如果说 AI 是一场淘金热，那么 Nvidia 就是终极的铁锹和镐公司。所有 AI 事物都通过 Nvidia 进行，因为它是唯一一家生产部署计算成本高昂的大型语言模型所需的芯片 (GPU) 的公司。随着模型的扩展，对更强大的 GPU 的需求也随之增加，而整个世界都依赖 Nvidia 来实现这些需求。毫不夸张地说，Nvidia 是所有 AI 事物的核心，他们最近举办了半年度开发者大会 GTC（3 月 18 日至 21 日）。在这篇文章中，我将总结我从这次非常特别的 GTC 大会上获得的关键收获，以及它对新一代 AI 领域的意义。

要点 1：人工智能并不局限于科技领域

新一代人工智能所能做到和带来的力量并没有在非科技领域消失。经济中所有行业的公司都认为他们有必要采用人工智能，并找到一种合作、执行和保持领先地位的方法。这里的证据是看看有多少非科技行业的公司与 Nvidia 合作。零售、汽车、建筑、设计和其他所有行业的公司都宣布与 Nvidia 建立合作伙伴关系。

要点 2：我们需要更强大的 GPU

自从发明了 transformers 以来，我们每 6 个月就会将 LLM 的规模翻一番。例如，看看下面 Open AI 模型的参数数量。

仅在 GPT-3 系列中，参数数量就从 1.25 亿到 1750 亿不等。据传，Open AI 预计将推出的最新模型的参数数量将超过万亿，如果扩展速度持续下去，很快就会在不到两年的时间内达到万亿。为了支持不断扩大的 LLM 规模，我们需要更高的计算能力。为了占领市场，Nvidia 推出了一个名为 Blackwell 的新 GPU 系列，以统计学家和数学家 David Blackwell 的名字命名。Blackwell 是 GPU 的新系列 (GB200)，也是一个新的超级计算机平台。

以下是新款 Blackwell GPU 与其上一代 GPU Hopper 的性能比较。

要点 3：从检索到生成

在当前一代计算中，一切都是关于检索以不同格式存储的数据并以对用户有用的方式呈现它。但在下一代计算和应用中，我们将看到更多根据用户请求生成内容并将其返回给用户。以 chat-gpt 为例，您获得的答案不是事先存储在某个数据库中，而是实时生成的，以回答用户的问题。我们将看到文本、图像、视频、化学物质、蛋白质等的生成。

要点 4：推理能力正在不断提高

推理是指当您向 chat-gpt 提问时，模型会以 token 生成的形式找出答案，并以 token 的形式返回答案。如果推理速度不够快，那么消费者将无法使用任何 AI 应用程序。推理尤其棘手，因为 LLM 越来越大，无法容纳在一个 GPU 中，因此跨 GPU 并行推理是一项艰巨的任务，需要对 Nvidia GPU 进行编程以使用多种优化技术。借助 Blackwell GPU，Nvidia 能够实现 30 倍的推理速度。

要点 5：真正的元宇宙是 NVidia 的 Omniverse

随着我对 Nvidia 的 Omniverse 了解得越来越多，我对该产品和想法也越来越看好。这是因为，要真正利用人工智能并解锁自动化和机器人技术的所有可能性，我们实际上并没有所需的所有数据。例如，假设你想创造一个可以烹饪各种美食的机器人。没有第一人称视角的厨师烹饪各种菜肴的数据。我们有 YouTube 视频形式的各种烹饪的一般数据，但要让机器人学习烹饪所涉及的身体动作，需要第一人称数据。Omniverse 中的世界 3D 模拟可以帮助弥补解锁所有这些用例所需的数据缺口。我对这个想法非常看好。

这就是 AI 100 天的第 22 天。

我写了一篇名为《高于平均水平》的新闻通讯，其中讨论了大型科技公司发生的一切事情背后的二阶见解。如果你身处科技行业，又不想平庸，那就订阅它吧。

在Twitter 、 LinkedIn或HackerNoon上关注我，了解 100 天 AI 的最新动态或收藏此页面。如果您是科技界人士，您可能有兴趣加入我这里的技术专业人士社区。