全球知名的人工智能研究实验室 OpenAI 在宣布决定从非营利组织转型为营利性公司时登上了头条新闻 .据称，从 2015 年到 2018 年，该公司一直处于非营利状态。今天，该公司的估值惊人 . 2019 290亿美元 此举引起了人们的关注并引发了争论，代表着该组织的一次翻天覆地的转变，该组织长期以来一直被视为 在对先进人工智能技术的需求不断增长的情况下，它是由那些成功的人开发的。但随着 OpenAI 寻求在其崇高理想与市场现实之间取得平衡，关于该公司将如何驾驭 AI 开发的复杂格局并确保其技术用于更大利益的问题仍然存在。 有道德和负责任的人工智能 在这个故事中，我们深入研究了 OpenAI 的转型，并探讨了其大胆举措的影响。 OpenAI 的早期：一个非营利性研究实验室 曾几何时，在一个遥远的银河系……开个玩笑，那是在硅谷，OpenAI 作为一个非营利性研究实验室成立，其使命是用人工智能拯救世界。他们的计划？使用机器学习来消除癌症、制造自动驾驶汽车以及直接从旧金山的实验室中消除世界饥饿。没什么大不了的。 作为一家非营利性研究实验室，OpenAI 专注于开发前沿人工智能技术并在该领域开展开创性研究。借口？公司宣布他们将举办一场专利派对，所有人都被邀请了！宣布它将通过向公众提供其专利和研究成果，与其他组织和研究人员“自由合作”。 当公司 由一群知名企业家和研究人员——其中包括 Sam Altman、Reid Hoffman、Jessica Livingston、Elon Musk、Ilya Sutskever、Peter Thiel 和 Olivier Grabias，其使命很明确： 2015年开始 ，不受产生经济回报需求的限制。” “以一种有利于整个社会的方式推进人工智能 据报道，人工智能研究人员兼 OpenAI 的联合创始人格雷格·布罗克曼 (Greg Brockman) 在与加拿大计算机科学家 Yoshua Bengio 会面后创建了一份“该领域的顶级研究人员”名单，据称他是该领域的“创始人”之一深度学习运动，根据 . 2015 年 12 月，Brockman 聘请了其中九人作为公司的第一批员工，据说 OpenAI 的承诺和使命正是吸引这些研究人员加入公司的原因。 有线 Wojciech Zaremba 曾在谷歌和 Facebook 实习，后来来到 OpenAI 工作，他说他加入这家公司的部分原因是人才和使命，尽管 OpenAI 无法与他在其他地方获得的工作机会相提并论。他说，这些报价是他市场价值的两到三倍。按照他的说法， “OpenAI 是最好的去处。” 因为该公司提供了一些更有价值的东西，例如调查面向未来的研究的机会，并最终免费与任何提出要求的人分享这项研究的大部分（如果不是全部的话）。 https://twitter.com/sama/status/1610666441027772416?embedable=true 离开谷歌加入公司的 OpenAI 研究总监 Ilya Sutskever 谈到了他从谷歌之前的职位到 OpenAI 的转变， “他们确实让我留下来非常有吸引力，所以这不是一个容易的决定，但最终，我决定选择 OpenAI，部分原因是因为这里有非常强大的团队，而且在很大程度上，因为它的使命。” 公司成立伴随着承诺 在创始成员的资助下，其中还包括 YC 领导人保罗格雷厄姆，以及 AWS 和 Infosys 等企业赞助商，旨在创建一个安全网，使研究人员能够在不损害安全或道德的情况下探索人工智能的全部潜力。 10亿美元 OPenAI 发布的首批人工智能软件之一是， ，一种通过称为“强化学习”的技术构建人工智能系统的工具包。正是布罗克曼所说的公司将开始的事情。同年， 还引入了一个软件平台，用于通过各种游戏、网站和其他应用程序评估和磨练 AI 的一般智能。 OpenAI 健身房 “宇宙，” 然而，在公司崛起的这个初期阶段，埃隆·马斯克 (Elon Musk) 因与特斯拉在自动驾驶方面的人工智能 (AI) 研发工作可能存在的潜在利益冲突而于 2018 年离开了董事会席位，尽管他仍然是公司。但真的如此吗？根据最近的报道，“利益冲突”的内容比我们所知的要多，我们很快就会知道。 资助非营利组织的挑战 作为一个非营利组织，OpenAI 面临着平衡其研究目标与预算限制的持续斗争。研究人员必须学习如何像橡皮筋一样拉伸一美元，同时还要设法开发出能给投资者留下深刻印象的尖端人工智能技术。 公司拥有 一个开放的非营利组织是实现其目标的最有效方式。 之前说过 “由于我们的研究没有财务义务，我们可以更好地关注对人类的积极影响。我们相信人工智能应该是个人意志的延伸，并且本着自由的精神，尽可能广泛和均匀地分布。” 但是，几年后，他们得出的结论是，作为一个开放的非营利组织，实现这一目标会更加困难。因此，在 2019 年这个时代，OpenAI 经历了一个巨大的拐点。 OpenAI 采取了非营利组织的非正统举措 ，一个独特的实体，作为一个“上限利润”公司运作，这标志着其基础结构的变革性转变。 创建 OpenAI LP 的公告 向营利性转型背后的动机 当 OpenAI 做出向营利模式转型的大胆决定时。有人说这是因为他们厌倦了每顿饭都吃拉面，而另一些人则认为这是因为他们想比埃隆·马斯克赚更多的钱。不管是什么原因，这对非营利研究实验室来说都是一个巨大的变化。 实际上，做出这一决定的动机是希望提高财务可持续性并追求其技术的商业应用，而且显然，此举并非没有争议，因为一些批评家认为这可能会损害该组织对道德人工智能开发的承诺。 一、公司 它需要筹集“数十亿美元”并支付巨额签约奖金以招募顶尖人才。 声称 “未来几年，我们需要投资数十亿美元用于大规模云计算、吸引和留住人才以及构建人工智能超级计算机。” 该公司还认为让 OpenAI 保持开放也很危险。根据 Vox ，OpenAI 的安全团队得出的结论是，将他们的所有工作开源可能不符合人类的最大利益，反而会招来麻烦。因此，当他们创建 GPT-2 时，由于担心它可能很容易被滥用于剽窃、机器人、虚假的亚马逊评论和垃圾邮件，他们将其从公众中隐藏起来。 报告 但在公司经历这一转变的同时，它坚持将继续追求同样的目标，并对投资者和员工设定财务限制。尽管该组织的新目标是积累财富，但它仍然清楚自己的道德准则，并声称它决心避免任何不道德的行为。因此，他们的想法是将 OpenAI LP 建立为一家“利润上限”公司，即营利性和非营利性组织的结合。 “我们希望在服务于我们的使命的同时提高我们筹集资金的能力，而且我们所知道的任何现有法律结构都无法达到正确的平衡。” 上述“利润上限”框架暗示了对第一轮投资者的限制，即他们只能获得原始投资的 100 倍的最高回报。 平衡盈利能力与道德考虑 从非营利组织向营利组织的转变要求 OpenAI 在其对利润的渴望与对道德人工智能开发的承诺之间取得平衡。这有点像骑着独轮车玩杂耍，除了关于人性本质的更多存在主义问题。 公司信息 表示该实验室在非营利治理结构下运作（OpenAI LP 将由 OpenAI Inc.“治理”，这是非营利部门）优先考虑人类的改善而不是营利利益，这也使其能够强调安全关注并采取重大举措，例如赞助最全面的全民基本收入 (UBI) 实验，以及在必要时取消对股东的股权义务的能力。 网站 它表示，其股东可以获得的利润上限可以防止他们被引诱试图无限制地攫取财富，并冒着部署可能非常有害的事情的风险。 无论如何，埃隆·马斯克 (Elon Musk) 持保留态度。 3月15日，他在他现在拥有的社交媒体平台推特上表达了自己的不满。 https://twitter.com/elonmusk/status/1636047019893481474?embedable=true 显然，这位 meme 亿万富翁在 LLM 巨头成为一家营利性公司之前就投资了 1 亿美元。但是，虽然 Elon 似乎担心 OpenAI 转型的法律影响，但他的过去 表明他非常关心人工智能的潜在危险。 主张 虽然特斯拉老板说他离开 OpenAI 只是因为利益冲突，但一份新报告 表明埃隆离职的真正原因是他接管公司并亲自经营的提议遭到萨姆奥特曼和其他创始人的拒绝。他提出这个想法的原因是，他觉得这家企业已经远远落后于谷歌，而他是可以扭转局面的弥赛亚。 信号量 埃隆明确表示，他的目标是建立人工智能实验室，使其成为与谷歌竞争的力量。 https://twitter.com/elonmusk/status/1626516035863212034?embedable=true 随着他的离开，他也没有进行大笔捐赠。 OpenAI的 表示马斯克将继续为该组织提供资金支持，但他没有兑现承诺。 陈述 那么，利益冲突真的是埃隆输掉的权力斗争吗？ 根据 Semafor 的报告，OpenAI 似乎只有少数人认为马斯克的离职是由于潜在的利益冲突。此外，他在离开 OpenAI 办公室时主要围绕这个话题发表的演讲并没有得到大多数员工的好评，他们对所提供的解释持怀疑态度。 幸运的是，埃隆离职后，微软 10亿美元入股OpenAI，获得该公司GPT-3的独家许可权 ，同时也成为其独家云提供商。这项投资有助于 OpenAI 进行进一步的研究工作。通过 AI 实验室与其新投资者微软的通力合作，建造了一台用于训练大规模模型的超级计算机，最终促成了 ChatGPT 和图像生成器 DALL-E 的诞生。 投资 一年后的模型 OpenAI 的未来 公司的宗旨， ，旨在开发对社会产生积极影响的人工智能系统，并探索其技术的有利可图的商业应用，没有明确的竞争意图，而是寻求与其他研究和政策机构合作，以促进最终安全AGI 发展阶段 正如它自己指出的那样 尽管如此，竞争仍在加剧。例如，虽然 Elon 可能会表现出不是对手的假象， https://twitter.com/elonmusk/status/1639200036578885632?embedable=true 事实上，他实际上加入了 OpenAI 直接竞争对手的行列。他积极追求 与 OpenAI 抗衡的新创业公司。显然，埃隆并没有离开战台；因此，权力斗争仍在继续。 创建 尽管 Sam Altman 放弃在新的营利性实体中的股权作为与最初使命保持一致的一种不同寻常的决定，但 Elon Musk 仍然对 OpenAI 从开放组织转变为封闭组织持怀疑态度。 https://twitter.com/elonmusk/status/1599291104687374338?embedable=true 展望未来，公司将继续通过创新研究和新技术的开发来推动人工智能的发展。谁知道他们接下来会想出什么？也许是可以将人类送往火星的机器人，或者是可以预测世界末日的机器。无论哪种方式，它看起来都非常有趣。

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch

該音頻是用故事的原始語言製作的！

太長; 讀書

Making security fun one episode at a time

OpenAI 如何从非营利组织转变为 $29B 的营利性公司

太長; 讀書

Chinecherem Nduka

STORY’S CREDIBILITY

Original Reporting

DYOR

About Author

標籤

Languages

这篇文章刊登在...

OpenAI 如何从非营利组织转变为 $29B 的营利性公司

太長; 讀書

Chinecherem Nduka

STORY’S CREDIBILITY

Original Reporting

DYOR

About Author

標籤

Languages

这篇文章刊登在...

相關故事