目前，人们对生成式人工智能的现状有很多疑问。各家公司在定制 GenAI 方面的努力进展如何？各家公司是否真的在使用自己的专有数据构建人工智能应用程序，并以此推动发展？需要什么样的架构？ 这些问题并不令人惊讶——人们对人工智能有很多种看法，从毫无掩饰的乐观到厌倦的愤世嫉俗，还夹杂着大量的炒作。 我发现它有助于澄清 GenAI 市场在三个领域的状况：市场希望看到什么、对可能发生的事情的担忧以及 2024 年将会发生什么（以及如何发生）。   每个人想要什么？又害怕什么？  2022 年底，OpenAI 发布 ChatGPT，展示了这种技术的强大和易用性，GenAI 一炮走红。人们对人工智能的潜在优势感到兴奋不已。很快，GenAI 就会融入到每个企业的每个应用程序中。投资者预计，为 GenAI 提供支持基础设施的公司将呈现曲棍球棒式的增长曲线。 另一方面，反对者设想了一个反乌托邦的人工智能未来，是《西部世界》和《黑镜》的结合体。其他人则 人工智能泡沫。从投资角度来看，有人说这就像加密货币的翻版——充满兴奋和炒作，然后是一个冒烟的火山口。 警告 我认为这两种担忧都是没有根据的。当然，随着每次新技术浪潮的到来，都会有坏人出于错误的原因使用 GenAI。GenAI 的可能性无处不在；它确实给人一种“泡沫”的感觉，甚至可能比加密货币的喧嚣更为刺耳。 但 GenAI 与加密技术之间的巨大差异在于，GenAI 在许多组织和行业中都拥有大量实际用例。在加密技术中，有一个强大的用例：不受信任的各方之间的金融交易（又称洗钱）。这是主流不太感兴趣的事情。 目前，  ，当时各家公司都在努力研究如何确保在互联网上使用信用卡的安全。各家公司花了一段时间才弄清楚如何安全地做到这一点，但一旦他们搞清楚了，突然间每个人都有了一个电子商务网站。 GenAI 应用的现状让我想起了 20 世纪 90 年代末的电子商务 我现在在 GenAI 中看到的相似之处是：如何确保语言模型不会通过 返回不准确的响应。好消息？这个问题已经解决了（感谢 ，简称 RAG；更多信息见下文）。 幻觉 检索增强生成 我们现在在哪里？我们要去哪里？ 去年我们看到的很多项目都是概念验证型 GenAI 项目：向公司领导层展示可能性的应用程序。但很少有公司能超越这一阶段，开发出全面投入生产的应用程序。所谓“投入生产”，是指一家组织拥有一款 AI 应用程序，客户或员工正在以非原型方式使用这款应用程序。 换句话说，它是某些业务运营环节中常规活动的一部分。它可能是前台，可能是客户服务电话背后的工作，但它接近业务的主流部分。 沃尔玛就是这方面的一个很好的早期例子。这家零售商 已在其购物应用中添加了 GenAI 支持的搜索功能。 ，苹果正在测试一款 GenAI 工具，以帮助其员工提供更快捷的技术支持。在我们开始看到更多这样的例子之前，GenAI 将在 Gartner 所称的“ ”的早期阶段停留一段时间。 于 1 月宣布 据报道 炒作周期 大众汽车刚刚宣布成立内部实验室，开发用于其汽车导航和信息娱乐应用的 GenAI 应用程序。   尽管如此，我们距离“生产力高峰”并不像有些人想象的那么远。正如我之前提到的，信任模型的输出一直是组织面临的一个障碍，这些组织仍在努力解决如何通过减少幻觉来产生相关且准确的 (LLM) 响应。 大型语言模型  RAG 可从其他来源（通常是可以存储向量的数据库）实时为模型提供额外的数据或背景信息，现在正被用于解决这一问题。这项技术进步是开发特定领域、定制的 GenAI 应用程序的关键，这些应用程序基于组织最宝贵的资产：他们自己的数据。 虽然 RAG 已成为将企业背景引入 GenAI 应用程序的事实方法，但微调（即在数据子集上进一步训练预训练模型）也经常被提及。 ，但如果对隐私、安全或速度有任何顾虑，RAG 是正确的选择。 有时这种方法很有用 无论如何将上下文添加到应用程序，我经常从与我交谈的投资者那里听到的一个大问题是，公司何时会开始从 GenAI 应用程序中赚钱？ 我的回答是：你跟踪的大多数企业都是消费型企业。许多企业现在都在支持客户开发的实验、概念验证 (POC) 和小众应用；这些在消费方面没有多大作用。 但随着主要的人工智能应用开始从 POC 进入真正的生产阶段，这种情况开始发生变化。我预测到 2024 年底，这种情况将以显著的方式发生。它将在 2024 年下半年从两个地方开始实现。 首先，它在零售业中占据一席之地（参见前面提到的沃尔玛示例）。你还会看到人工智能在我所说的“人工智能内联网”领域得到广泛采用：与 PDF 聊天、知识库和内部呼叫中心。 随着这类应用推动的消费， 、 甚至 等公司都开始 。除了超大规模企业之外，其他人工智能基础设施公司可能会在明年 1 月、2 月和 3 月发布的收益报告中强调增长。 微软 谷歌 甲骨文 报告人工智能带来的成果  GenAI 应用程序的生产之路 基于消费的 AI 基础设施公司的基础已经奠定。我们已经看到了强有力的商业证据，这些证据显示了大量特定领域的定制应用程序的潜力。从创意 AI 应用程序（例如 Midjourney、Adobe Firefly 和其他图像生成器）到知识应用程序（例如 GitHub Copilot（  ）、Glean 等），这些应用程序得到了广泛的采用，并显著提高了生产力。 超过 100 万开发人员使用它 在需要将知识传递到交互点的行业和用例中，定制应用的进展最为迅速。这些知识将来自他们自己的数据，使用现成的模型（开源或专有）、RAG 和他们选择的云提供商。 企业构建定制的 GenAI 应用程序需要三个要素，以适应生产规模的严格运行：智能环境、相关性和可扩展性。 智能上下文 让我们快速了解一下如何在 GenAI 应用程序中使用专有数据来生成有用、相关且准确的响应。 应用程序以各种数据的形式接收用户输入，并将其全部输入到嵌入引擎中，该引擎从数据中获取含义，使用 RAG 从矢量数据库中检索信息，并构建 LLM 可以使用的“智能上下文”，生成情境化的、无幻觉的响应并实时呈现给用户。 关联 在运营数据库公司，你很少会听到这个话题。但在人工智能和矢量数据库领域，相关性是召回率和精确度的结合，对于产生有用、准确、非幻觉的反应至关重要。 与传统数据库操作不同，向量数据库支持语义或相似性搜索，其本质上是非确定性的。因此，同一查询返回的结果可能会因上下文和搜索过程的执行方式而不同。准确性和相关性在向量数据库在实际应用中的运行中起着关键作用。自然交互要求相似性搜索返回的结果准确且与请求的查询相关。 可扩展性 超越 POC 并投入生产的 GenAI 应用需要高吞吐量。吞吐量本质上是在给定时间内可以存储、访问或检索的数据量。高吞吐量对于大规模提供实时、交互式、数据密集型功能至关重要；写入通常涉及来自多个来源的数十亿个向量，而 GenAI 应用程序每秒可以生成大量请求。 包起来 与早期的技术创新浪潮一样，GenAI 遵循既定模式，所有迹象都表明它的发展速度甚至比以往的技术革命还要快。如果你抛开所有关于它的正面和负面炒作，就会发现很多公司正在努力将其 POC GenAI 应用投入生产，并取得了令人鼓舞的进展。 而像我的雇主 DataStax 这样的公司为这些应用程序提供了可扩展且易于构建的基础，他们将比一些人想象的更快地看到其客户消费带来的好处。 作者：Ed Anuff，DataStax 了解有关 更多信息。 DataStax 如何帮助客户将其 GenAI 应用投入生产的

DataStax Astra DB is the vector database for getting GenAI apps into production, fast. Try it for free today!

DataStax

該音頻是用故事的原始語言製作的！

太長; 讀書

Get Free Unlimited IP Geo Data With IPinfo Lite

基础设施公司何时能从生成式人工智能中获益？

About Author

註釋

標籤

这篇文章刊登在

Related Stories

从论坛到信息流：社交媒体算法如何塑造数字互动

使用这 18 种开发工具来提高你的工作效率 🚀🔥

Claude Sonnet 3.5 系统提示泄漏：法医分析

加密货币增长：创建有效的用户角色

从论坛到信息流：社交媒体算法如何塑造数字互动

使用这 18 种开发工具来提高你的工作效率 🚀🔥

Claude Sonnet 3.5 系统提示泄漏：法医分析

加密货币增长：创建有效的用户角色

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps