开辟了一条独特的道路，将区块链技术与开源 AI 相结合，打造了一个社区拥有的生态系统。Sentient Chat 在短短 24 小时内就有超过 100 万名候补注册用户，其去中心化 AI 模型 Dobby 创下了 65 万个 NFT 的记录，Sentient 正在重新定义 AI 的未来。 Sentient 这场革命的掌舵人是 Sentient 联合创始人兼印度科学研究所教授 Himanshu Tyagi，他在人工智能和区块链方面的专业知识推动了诸如推理代理和 Perplexity 竞争聊天机器人等创新。我们与 Himanshu 坐下来探讨 Sentient 崛起背后的技术挑战、突破性解决方案和雄心勃勃的愿景。    Sentient Chat 一炮走红，不到 24 小时就有超过 100 万名注册用户。在构建一个去中心化且对消费者友好的 AI 平台时，您面临哪些技术挑战？ Ishan Pandey：   去中心化是我们使命的基础，远远超出了 Sentient Chat 的范围。我们相信，人工智能的未来必须是开放的、由社区驱动的，因为去中心化以独特的方式赋予了社区积极参与的权利。这种理念直接体现在我们的产品中，其中最引人注目的是 Sentient Chat。 Himanshu Tyagi： 借助 Sentient Chat，我们的目标是确保社区真正感受到主人翁精神。用户不仅仅是被动的消费者，他们还是平台的创造者、塑造者和管家。他们拥有完全的控制权——从底层的 AI 模型和代理，到数据和治理——使他们能够精确地塑造产品，以满足他们多样化的需求和用例。 至关重要的是，在 Sentient Chat 中，去中心化和可用性相辅相成。通过授权用户自定义和增强平台，一个用户或团队开发的每一项创新都可以被更广泛的社区所使用。这种集体贡献丰富了平台的可用性，不断推动改进和创新，让所有参与者受益。 最终，去中心化不会使用户体验复杂化，而是会增强用户体验，创建一个充满活力的生态系统，集体创造力和协作直接转化为更强大、更灵活、更用户友好的平台。   您将 Sentient Chat 定位为 Perplexity 的竞争对手，后者由世界上第一个社区拥有的 AI 模型 Dobby 提供支持。您能向我们介绍一下 Dobby 背后的技术创新以及它如何支持 Sentient Chat 的独特功能吗？ Ishan Pandey：   人工智能正迅速成为信息网络和用户之间的中介，赋予它基于固有偏见影响用户观点的巨大权力。我们的目标是赋予社区权力，使他们能够根据自己的特定价值观调整人工智能模型，从而促进“忠诚人工智能”模型的多样化生态系统。虽然由于训练数据的存在，偏见总是存在的，但用户不应局限于仅仅平均互联网意见的通用模型。相反，我们设想用户从与不同社区价值观相一致的各种模型中进行选择。 Himanshu Tyagi：  Dobby 代表了此类模型中的第一个，它明确地与加密社区的价值观相一致——支持加密和支持个人自由。借助 Dobby，我们实现了三项显着的技术突破： 通过微调将 AI 模型调整到特定值是一项非常困难的任务，通常会导致性能下降和输出不一致。借助 Dobby，我们成功微调了 Llama 模型以适应特定值，同时在关键基准测试中保持出色的性能。 有效调整价值而不损失性能： 要实现我们期望的一致，需要移除 Llama 现有的护栏，并小心地重建它们。令人惊讶的是，这个过程增强了模型的语气，从而产生了更自然、更以人为本的互动。即使限制松散，Dobby 仍然是安全的，这一点从我们的“Sorry Bench”指标中可以看出。此外，我们的 Dobby-mini 8B 和 Dobby 70B 模型对特定安全维度（例如仇恨言论、财务、医疗和法律建议以及露骨内容）表现出精细控制，使我们能够精确调整模型的安全配置文件。 以人为本的语气和自由表达与安全：  Dobby 目前是分布最为广泛的模型，拥有超过 66 万名所有者。这种前所未有的分布水平得益于我们创新的指纹识别技术。指纹识别技术将独特的密钥响应对注入模型，从而实现可靠的所有权验证。这些指纹对整体模型性能的影响微乎其微，并且能够通过微调、模型合并或其他修改来移除。 指纹识别技术让模型所有权分布最为广泛：  Sentient Chat 是我们基于 AI 的搜索平台，旨在展示 Loyal AI 这一无形概念，并让用户直接体验这一概念。该平台展示了开源生态系统的竞争优势，成功超越了 Perplexity 等平台，并达到了 ChatGPT 的搜索基准。  Sentient Chat 由 Dobby 提供支持，展示了 Loyal AI 如何直接影响传递给用户的信息，以简洁而引人入胜的方式呈现内容。Dobby 与 Sentient Chat 的集成显著提高了搜索交互的效率和娱乐价值。借助 Dobby 清晰、人性化、实用的沟通方式，用户可以快速有效地访问他们想要的信息，凸显了该平台在人工智能驱动的搜索体验方面的独特优势。    Sentient Chat 最吸引人的地方之一是它的推理代理，配备了搜索、计算器和思考等工具。您是如何设计这个代理的？您克服了哪些技术障碍，使推理成为核心优势？ Ishan Pandey：   最近的进展表明，与传统的基于 JSON 的方法相比，生成用于工具调用的可执行 Python 代码可以显著提高性能。特别是，LLM 天生擅长使用代码压缩任务的操作空间。这自然促使我们使用代码作为我们推理代理的表达方式。有时 LLM 编写的代码无法按预期方式执行/运行，这可以通过 Python 解释器来补救，该解释器检查生成的代码是否执行或抛出错误，如果抛出错误，则它将继续重新生成代码（使用先前的错误跟踪），直到输出令人满意的代码。 Himanshu Tyagi： 另一个需要注意的问题是，LLM 可能会生成无法完成其预期任务的功能代码（例如，调用计算器工具而不是搜索）；推理代理能够消化信息的输出并评估它是否在总体上符合它对特定代码/工具调用的期望。 我们在 ODS 框架的开放推理代理部分测试了两种不同类型的代理：带有 ReAct 代理的思想链和带有 CodeAct 代理的代码链。 在思维链 ReAct 架构中，代理遵循迭代推理-行动循环。首先，“思考”步骤允许代理进行内部推理，阐明计划或用自然语言解释中间结果。每当代理遇到不确定性或缺乏关键信息时，它就会调用“搜索”工具，主动从网络上检索外部信息。对于需要高精度的算术或计算任务，代理会使用“计算”工具。因此，CoT-ReAct 会根据需要不断循环思考、搜索和计算，直到找到可靠的解决方案。 另一方面，代码链或 CodeAct 代理使用可执行代码来执行其推理任务。最初，代理会仔细考虑其策略，类似于 CoT-ReAct。但是，它并不完全依赖自然语言，而是生成可执行 Python 代码作为其推理的一部分。“计算”功能无缝嵌入此处，直接集成到 Python 执行环境中。这允许进行精确计算和算法推理。与 CoT-ReAct 一样，CodeAct 也在需要额外外部信息时使用“搜索”工具，将结果直接纳入其代码生成和执行过程。 关键区别在于每个代理如何与这些工具交互。对于 CoT-ReAct，“思考”、“搜索”和“计算”是推理过程中明确选择的截然不同的操作。对于 CodeAct，“思考”仍然是一个明确的规划步骤，而“计算”则内置于代码执行本身，使计算任务成为不可或缺的，而不是外部的。“搜索”在两种方法中都同样明确，当代理的内部知识不足时，它会提供重要的外部背景。    Sentient 为 Dobby 创造了创纪录的 650,000 个 NFT 铸造量，将所有权与去中心化的 AI 模型联系起来。您构建了哪些技术基础设施来处理这种规模？区块链如何增强社区所有权？ Ishan Pandey：   这不是一个技术难题——现代区块链可以轻松处理这样的负载。这里最有趣的部分是，这是第一次有人在模型治理中展示这种规模的“直接民主”。在中心化公司中，这种治理是由一个小型协调团队完成的，有时他们甚至会修改模型以符合自己的信念。Anthropic 曾以宪法人工智能的名义对大约 1000 人进行过一些简单的实验，但与社区的这种开放治理相去甚远。我们希望将这种权力赋予人民，而区块链是实现这一目标的完美工具。Dobby 社区已经决定了 Dobby 应该具有什么样的个性，是受约束的还是不受约束的（他们选择了不受约束的）。将来，关于 Dobby-不受约束模型的所有决定都将由这个社区做出，随着模型使用量的增加，他们也将获得奖励。 Himanshu Tyagi： 未来，这些所有权 NFT 将转换为我们区块链上的所有权代币，可用于管理此模型的对齐和更新。此外，相关指纹将作为 Merkle 根提交到同一合约 - 任何人都可以通过询问我们的指纹查询来验证模型的身份，并可以检查是否使用所有权合约提交了相同的查询。   您的推理代理集成了实时工具，旨在解决模糊的主观任务。这与现有的推理代理（如 OpenAI 的 Deep Research）有何不同？您实施了哪些新颖的解决方案来突破 AI 推理的界限？ Ishan Pandey：   在将我们的开源平台与闭源竞争对手进行比较时，封闭系统的主要竞争优势传统上是其技术。然而，像 Sentient Chat 和 Open Data Sources (ODS) 这样的平台通过民主化 AI 知识有效地平衡了竞争环境，使我们的框架完全向社区开放。闭源平台（例如 OpenAI 的平台）就像黑匣子一样运行；无论是你、我还是其他任何人都无法完全理解它们的内部流程。 Himanshu Tyagi： 相反，我们的开放框架鼓励更广泛的社区不断创新，从而能够快速发现和解决可能被忽视的差距。这种协作、开放输入和开放输出的方法是构建最佳搜索平台的关键。我们的最终愿景包括让用户贡献自己的数据源和代理，从而通过集体、社区驱动的改进大大增强 Sentient Chat 和 ODS。   您强调了 Sentient Chat 凭借其 15 多个 AI 代理集成的优势，比 Perplexity 等竞争对手更具优势。将多个代理集成到单个聊天机器人界面会带来哪些技术挑战？您是如何解决这些挑战的？ Ishan Pandey：   从技术上讲，我们正在解决许多复杂的软件和设计挑战，以便让各种各样的代理能够通过 Sentient Chat 参与到单一的用户体验中。我们还为这些代理构建者提供了许多工具，例如我们最先进的 AI 搜索 API、用于构建“不可破解的代理”的 Sentient Secure Enclave 产品等。但除了解决这些技术挑战之外，这里最有趣的部分是有可能以全新的方式获取互联网知识。 Himanshu Tyagi： 几十年来，谷歌一直专注于帮助用户在线查找信息，在搜索领域占据主导地位。谷歌对广告收入的依赖，根植于推荐信息来源，这本身就限制了其在传统信息检索之外进行创新的能力。另一方面，人工智能提供了一个绕过单纯信息收集的机会，使用户能够直接执行任务，而无需单独的分析和行动阶段，这正是我们与谷歌巨头的竞争优势。 这一雄心勃勃的愿景需要一个多元化的生态系统——一个将各种索引数据源与能够执行专门操作的众多 AI 代理集成在一起的生态系统。释放这一潜力的关键在于创建一个透明开放的平台，积极激励广泛的社区参与。数据提供者必须清楚地了解他们的贡献所带来的价值，而代理开发人员必须无缝集成他们的服务以增强整体功能。这样的生态系统必须由社区管理，确保公平、开放和由集体贡献和协作驱动的持续创新。 顺便说一句，Sentient Chat 上的代理远不止 15 位！   展望未来，Sentient 在技术创新方面有什么下一步计划？您计划如何改进推理代理并扩展开放式 AGI 生态系统？ Ishan Pandey：   我们看到未来人工智能将成为所有人类感官、全球信息和社交网络之间的中介。Sentient 的愿景是确保人工智能忠于我们。这一单一目标推动着我们所有的开发。对于推理代理，我们希望确保开发人员能够访问推理能力和技能与他们的兴趣或用例相符的模型。 Himanshu Tyagi： 例如，如果您正在构建一个可以控制钱包的主权代理，则底层模型应该具有推理能力，以确保恶意行为者无法操纵提示并窃取资金。这就是一致性——我们将构建这种一致的模型。在 Open AGI 生态系统中构建的每个开发人员都应该可以选择使用忠于其应用程序或用户的 AI 模型。Sentient Chat 是基于 Loyal AI 构建的所有此类代理的集体产品。 别忘了点赞并分享这个故事！ 本文作者是一位独立撰稿人，通过我们的 。HackerNoon 已审查了该报告的质量，但本文中的声明属于作者。#DYO 既得利益披露： 商业博客计划

This story contains new, firsthand information uncovered by the writer.

The writer was physically present in relevant location(s) to this story. The location is also a prevalent aspect of this story be it news or otherwise.

Between Two Computer Monitors: This story includes an interview between the writer and guest/interviewee. 

Winner of Noonies 2020 for the award Hacker Noon Contributor of the Year - DATA.

Sentient的推理代理如何超越竞争:内部看法

About Author

註釋

標籤

这篇文章刊登在

Related Stories

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Telegram：加密岛通往大陆的桥梁

从论坛到信息流：社交媒体算法如何塑造数字互动

点击赚钱：Telegram 可能会在 Solana 之前吸引下一个 100 亿加密用户

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

Telegram：加密岛通往大陆的桥梁

从论坛到信息流：社交媒体算法如何塑造数字互动

点击赚钱：Telegram 可能会在 Solana 之前吸引下一个 100 亿加密用户

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps