嘿大家！   我是纳塔拉吉 你一样，我对人工智能的最新进展非常着迷。意识到我需要跟上所有正在发生的发展，我决定踏上个人学习之旅，因此 和 100 天人工智能 诞生了！通过这个系列，我将学习 LLM，并通过我的博客文章分享想法、实验、观点、趋势和学习。你可以在 HackerNoon 上关注我的旅程 这里 或我的个人网站 这里 在今天的文章中，我们将讨论 Nvidia 的 如果说 AI 是一场淘金热，那么 Nvidia 就是终极的铁锹和镐公司。所有 AI 事物都通过 Nvidia 进行，因为它是唯一一家生产部署计算成本高昂的大型语言模型所需的芯片 (GPU) 的公司。随着模型的扩展，对更强大的 GPU 的需求也随之增加，而整个世界都依赖 Nvidia 来实现这些需求。毫不夸张地说，Nvidia 是所有 AI 事物的核心，他们最近举办了半年度开发者大会 GTC（3 月 18 日至 21 日）。在这篇文章中，我将总结我从这次非常特别的 GTC 大会上获得的关键收获，以及它对新一代 AI 领域的意义。 要点 1：人工智能并不局限于科技领域 新一代人工智能所能做到和带来的力量并没有在非科技领域消失。经济中所有行业的公司都认为他们有必要采用人工智能，并找到一种合作、执行和保持领先地位的方法。这里的证据是看看有多少非科技行业的公司与 Nvidia 合作。零售、汽车、建筑、设计和其他所有行业的公司都宣布与 Nvidia 建立合作伙伴关系。  要点 2：我们需要更强大的 GPU 自从发明了 transformers 以来，我们每 6 个月就会将 LLM 的规模翻一番。例如，看看下面 Open AI 模型的参数数量。 仅在 GPT-3 系列中，参数数量就从 1.25 亿到 1750 亿不等。据传，Open AI 预计将推出的最新模型的参数数量将超过万亿，如果扩展速度持续下去，很快就会在不到两年的时间内达到万亿。为了支持不断扩大的 LLM 规模，我们需要更高的计算能力。为了占领市场，Nvidia 推出了一个名为 Blackwell 的新 GPU 系列，以统计学家和数学家 David Blackwell 的名字命名。Blackwell 是 GPU 的新系列 (GB200)，也是一个新的超级计算机平台。  以下是新款 Blackwell GPU 与其上一代 GPU Hopper 的性能比较。  要点 3：从检索到生成 在当前一代计算中，一切都是关于检索以不同格式存储的数据并以对用户有用的方式呈现它。但在下一代计算和应用中，我们将看到更多根据用户请求生成内容并将其返回给用户。以 chat-gpt 为例，您获得的答案不是事先存储在某个数据库中，而是实时生成的，以回答用户的问题。我们将看到文本、图像、视频、化学物质、蛋白质等的生成。 要点 4：推理能力正在不断提高 推理是指当您向 chat-gpt 提问时，模型会以 token 生成的形式找出答案，并以 token 的形式返回答案。如果推理速度不够快，那么消费者将无法使用任何 AI 应用程序。推理尤其棘手，因为 LLM 越来越大，无法容纳在一个 GPU 中，因此跨 GPU 并行推理是一项艰巨的任务，需要对 Nvidia GPU 进行编程以使用多种优化技术。借助 Blackwell GPU，Nvidia 能够实现 30 倍的推理速度。  要点 5：真正的元宇宙是 NVidia 的 Omniverse 随着我对 Nvidia 的 Omniverse 了解得越来越多，我对该产品和想法也越来越看好。这是因为，要真正利用人工智能并解锁自动化和机器人技术的所有可能性，我们实际上并没有所需的所有数据。例如，假设你想创造一个可以烹饪各种美食的机器人。没有第一人称视角的厨师烹饪各种菜肴的数据。我们有 YouTube 视频形式的各种烹饪的一般数据，但要让机器人学习烹饪所涉及的身体动作，需要第一人称数据。Omniverse 中的世界 3D 模拟可以帮助弥补解锁所有这些用例所需的数据缺口。我对这个想法非常看好。 这就是 AI 100 天的第 22 天。 我写了一篇名为《高于平均水平》的新闻通讯，其中讨论了大型科技公司发生的一切事情背后的二阶见解。如果你身处科技行业，又不想平庸， 。 那就订阅它吧 在  、  或 上关注我，了解 100 天 AI 的最新动态或 。如果您是科技界人士，您可能有兴趣加入我 技术专业人士社区。 Twitter LinkedIn HackerNoon 收藏此页面 这里的

Product & Engineering @Microsoft Azure | On Deck Fellow |
Partner at planbcapital.co

2021 - HackerNoon Contributor of the Year - CROWDFUNDING

2022 - HackerNoon Contributor of the Year - Business Strategy

2022 - HackerNoon Contributor of the Year - India

2022 - HackerNoon Contributor of the Year - Netflix

2022 - Startup Blogger of the Year

Listen to Startup Project Podcast

Subscribe to Startup Project newsletter

Follow me @natarajsindam

Meet the Writer: HackerNoon Contributor Nataraj Sindam on Experimenting With AI 

該音頻是用故事的原始語言製作的！

AI 100 天，第 16 天：NVIDIA 人工智能开发者活动的 5 个要点

About Author

註釋

標籤

这篇文章刊登在

Related Stories

比特币 UTXO 模型，为独特的生态系统提供动力

扬帆起航：利用数据湖开发生产级 RAG 应用程序

架构师指南：构建 AI/ML 数据湖参考架构

成功云迁移的完整指南：策略和最佳实践

比特币 UTXO 模型，为独特的生态系统提供动力

扬帆起航：利用数据湖开发生产级 RAG 应用程序

架构师指南：构建 AI/ML 数据湖参考架构

成功云迁移的完整指南：策略和最佳实践

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps