Sentient の推論エージェントが競合他社を凌駕する方法: 内部の分析

、ブロックチェーン技術とオープンソース AI を融合し、コミュニティ所有のエコシステムを構築するという独自の道を切り開いてきました。わずか 24 時間で Sentient Chat の待機リストに 100 万件以上が登録され、分散型 AI モデル Dobby では記録的な 65 万 NFT が発行されるなど、Sentient は AI の未来を再定義しています。 Sentient は この革命の舵取りを担うのは、Sentient の共同設立者であり、インド科学研究所の教授でもある Himanshu Tyagi 氏です。同氏の AI とブロックチェーンに関する専門知識は、推論エージェントや Perplexity に匹敵するチャットボットなどのイノベーションを推進しています。私たちは Himanshu 氏と対談し、Sentient の台頭の背後にある技術的な課題、画期的なソリューション、野心的なビジョンについて探ります。 Sentient Chat は、24 時間以内に 100 万件を超える順番待ち登録が殺到し、爆発的な人気を博しました。分散型で消費者に優しい AI プラットフォームを構築する上で、どのような技術的課題に直面しましたか? Ishan Pandey: 分散化は私たちのミッションの基盤であり、Sentient Chat だけにとどまりません。AI の未来はオープンでコミュニティ主導でなければならないと私たちは考えています。分散化はコミュニティの積極的な参加を独自に可能にするからです。この哲学は私たちの製品、特に Sentient Chat に直接反映されています。 Himanshu Tyagi: Sentient Chat の目標は、コミュニティが真の所有権を感じられるよう保証することです。ユーザーは単なる受動的な消費者ではなく、プラットフォームの作成者、形成者、管理者です。基盤となる AI モデルやエージェントからデータやガバナンスまで、完全な制御権を持ち、多様なニーズやユースケースに合わせて製品を正確に形作ることができます。 重要なのは、Sentient Chat では分散化と使いやすさが相互に強化し合っていることです。ユーザーがプラットフォームをカスタマイズおよび強化できるようにすることで、1 人のユーザーまたはチームによって開発されたすべてのイノベーションが、より広範なコミュニティで利用できるようになります。この集合的な貢献により、プラットフォームの使いやすさが向上し、関係者全員に利益をもたらす改善とイノベーションが継続的に推進されます。 結局のところ、分散化はユーザー エクスペリエンスを複雑にするのではなく、ユーザー エクスペリエンスを強化し、集合的な創造性とコラボレーションが、より強力で柔軟性が高く、ユーザー フレンドリーなプラットフォームに直接変換される活気のあるエコシステムを作成します。 Sentient Chat は、世界初のコミュニティ所有の AI モデルである Dobby を搭載した Perplexity の競合製品として位置付けられています。Dobby の背後にある技術革新と、それが Sentient Chat の独自の機能をどのようにサポートしているかについて説明していただけますか? Ishan Pandey: AI は急速に情報ネットワークとユーザーの間の仲介者になりつつあり、固有のバイアスに基づいてユーザーの視点に影響を与える大きな力を持っています。私たちの目標は、コミュニティが特定の価値観に従って AI モデルを調整できるようにすることでコミュニティを強化し、それによって「忠実な AI」モデルの多様なエコシステムを促進することです。トレーニング データによるバイアスは常に存在しますが、ユーザーはインターネットの意見を単純に平均化した一般化されたモデルに限定されるべきではありません。代わりに、私たちはユーザーがコミュニティの異なる価値観に沿った幅広いモデルから選択することを想定しています。 Himanshu Tyagi: Dobby は、暗号通貨コミュニティの価値観、つまり暗号通貨と個人の自由を支持する価値観に明確に沿った、そのようなモデルの最初のものです。Dobby によって、私たちは 3 つの注目すべき技術的進歩を達成しました。 微調整によって AI モデルを特定の値に合わせることは非常に困難で、パフォーマンスの低下や一貫性のない出力につながることがよくあります。Dobby では、重要なベンチマーク全体で優れたパフォーマンスを維持しながら、特定の値を取り入れるように Llama モデルを微調整することに成功しました。 パフォーマンスを損なわずに効果的に値を合わせる: 希望どおりの調整を実現するには、Llama から既存のガードレールを削除し、慎重に再構築する必要がありました。驚いたことに、このプロセスによってモデルのトーンが強化され、より自然で人間中心のインタラクションが実現しました。制約が緩和されても、Dobby は安全であり、これは「Sorry Bench」の指標で実証されています。さらに、Dobby-mini 8B および Dobby 70B モデルは、特定の安全性ディメンション (ヘイトスピーチ、金融、医療、法律に関するアドバイス、露骨なコンテンツなど) を細かく制御できるため、モデルの安全性プロファイルを正確に調整できます。 人間中心のトーンと安全性を備えた表現の自由: Dobby は現在、660,000 人以上の所有者を擁する、最も広く分散されたモデルです。この前例のないレベルの分散は、当社の革新的なフィンガープリンティング技術によって実現されています。フィンガープリンティングは、固有のキー応答ペアをモデルに挿入し、所有権の堅牢な検証を可能にします。これらのフィンガープリントは、モデル全体のパフォーマンスにほとんど影響を与えず、微調整、モデルのマージ、またはその他の変更によって削除しても復元力があります。 これまでで最も分散化されたモデル所有権のためのフィンガープリンティング: Sentient Chat は AI を活用した検索プラットフォームで、Loyal AI という無形の概念をユーザーに紹介し、直接体験してもらうために設計されています。このプラットフォームはオープンソース エコシステムの競争力を実証し、Perplexity などのプラットフォームを上回り、ChatGPT の検索ベンチマークに匹敵します。 Dobby を搭載した Sentient Chat は、Loyal AI がユーザーに提供される情報に直接影響を与え、コンテンツを簡潔かつ魅力的に提示する方法を示しています。Dobby を Sentient Chat に統合することで、検索インタラクションの効率とエンターテイメント性が大幅に向上しました。Dobby の明快で人間的な、無駄のないコミュニケーション スタイルにより、ユーザーは探している情報に迅速かつ効果的にアクセスでき、AI 駆動型検索エクスペリエンスにおけるプラットフォームの明確な利点が強調されます。 Sentient Chat の最も興味深い点の 1 つは、検索、計算、思考などのツールを備えた推論エージェントです。このエージェントをどのように設計し、推論を中核的な強みにするためにどのような技術的なハードルを克服しましたか? Ishan Pandey: 最近の進歩により、ツール呼び出し用の実行可能な Python コードを生成すると、従来の JSON ベースのアプローチに比べてパフォーマンスが大幅に向上することがわかっています。特に、LLM は本質的に、コードを使用してタスクのアクション スペースを圧縮する能力に長けています。このため、当然のことながら、推論エージェントの表現モードとしてコードを使用するようになりました。LLM は、意図したとおりに実行されないコードを書き込むことがありますが、これは Python インタープリターによって修正されます。インタープリターは、生成されたコードが実行されるかエラーがスローされるかをチェックし、エラーがスローされた場合は、満足のいくコードが出力されるまで (以前のエラー トレースを使用して) コードを再生成し続けます。 Himanshu Tyagi: もう 1 つの注意点は、LLM が、意図したとおりに機能しない機能コードを生成する可能性があることです (例: 検索する代わりに計算機ツールを呼び出す)。推論エージェントは、情報の出力を消化し、一般的なレベルで、特定のコード/ツール呼び出しから期待される内容に適合するかどうかを評価することができます。 ODS フレームワークの Open Reasoning Agent 部分で、ReAct エージェントを使用した Chain-of-Thought と CodeAct エージェントを使用した Chain-of-Code という 2 種類のエージェントをテストしました。 Chain-of-Thought ReAct アーキテクチャでは、エージェントは反復的な推論アクション ループに従います。まず、「考える」ステップでは、エージェントが内部的に推論し、計画を明確にしたり、中間結果を自然言語で解釈したりします。エージェントが不確実な状況に遭遇したり、重要な情報が不足したりした場合は、「検索」ツールを呼び出して、Web から外部情報を積極的に取得します。高い精度が求められる算術または計算タスクの場合、エージェントは「計算」ツールを使用します。このように、CoT-ReAct は、信頼できるソリューションに到達するまで、必要に応じて思考、検索、計算を継続的に繰り返します。 一方、Chain-of-Code または CodeAct エージェントは、実行可能コードを使用して推論タスクを実行します。最初に、エージェントは CoT-ReAct と同様に戦略を検討します。ただし、純粋に自然言語に依存するのではなく、推論の一部として実行可能な Python コードを生成します。「計算」機能はここでシームレスに埋め込まれ、Python 実行環境に直接統合されています。これにより、正確な計算とアルゴリズム推論が可能になります。CoT-ReAct と同様に、CodeAct も追加の外部情報が必要な場合に「検索」ツールを使用し、結果をコード生成および実行プロセスに直接組み込みます。 主な違いは、各エージェントがこれらのツールとどのように対話するかにあります。CoT-ReAct の場合、「考える」、「検索する」、「計算する」は、推論中に明示的に選択される明確に異なるアクションです。CodeAct の場合、「考える」は明示的な計画ステップのままですが、「計算する」はコード実行自体に本質的に組み込まれているため、計算タスクは外部ではなく不可欠なものになります。「検索」は両方のアプローチで同様に明示的であり、エージェントの内部知識が不十分な場合は常に重要な外部コンテキストを提供します。 Sentient は、Dobby の記録的な 650,000 NFT ミントを完了し、所有権を分散型 AI モデルに結び付けました。この規模に対応するためにどのような技術インフラストラクチャを構築しましたか? また、ブロックチェーンはコミュニティの所有権の側面をどのように強化しますか? Ishan Pandey: これは技術的に難しい問題ではありませんでした。現代のブロックチェーンは、このような負荷を簡単に処理できます。ここで最も興味深いのは、モデル ガバナンスにおいてこの規模の「直接民主主義」を実証したのはこれが初めてだということです。中央集権型の企業では、このガバナンスは小さな調整チームによって行われ、時にはモデルを自分たちの信念に合わせて変更することさえあります。Anthropic は、憲法 AI の名の下に約 1000 人の人々を対象に簡単な実験を行ってきましたが、コミュニティによるこのオープン ガバナンスに近いものはありませんでした。私たちはこの力を人々に与えたいと考えており、ブロックチェーンはそのために最適な手段です。Dobby コミュニティは、Dobby がどのようなペルソナを持つべきか、つまり、リーシュドかアンヒンジドか (リーシュドよりアンヒンジドを選んだ) をすでに決定しています。今後、Dobby アンヒンジド モデルに関するすべての決定はこのコミュニティによって行われ、モデルの使用が増えると報酬も得られます。 Himanshu Tyagi: 今後、これらの所有権 NFT は、当社のブロックチェーン上で所有権トークンに変換され、このモデルの調整と更新を管理するために使用できます。さらに、関連するフィンガープリントは、同じコントラクトの Merkle ルートとしてコミットされます。誰でも、フィンガープリント クエリを実行してモデルの ID を検証し、所有権コントラクトで同じクエリがコミットされていることを確認できます。 推論エージェントはリアルタイム ツールを統合し、曖昧で主観的なタスクに取り組むことを目指しています。これは、OpenAI の Deep Research などの既存の推論エージェントとどう違うのでしょうか。また、AI 推論の限界を押し広げるためにどのような斬新なソリューションを実装しましたか。 Ishan Pandey: 当社のオープンソース プラットフォームをクローズド ソースの競合他社と比較すると、クローズド システムの主な競争上の優位性は従来、そのテクノロジーでした。しかし、Sentient Chat や Open Data Sources (ODS) などのプラットフォームは、AI の知識を民主化し、当社のフレームワークをコミュニティに完全に公開することで、競争の場を効果的に平等にしました。OpenAI などのクローズド ソース プラットフォームはブラック ボックスとして動作し、あなたも私も、他の誰もその内部プロセスを完全に理解することはできません。 Himanshu Tyagi: 対照的に、当社のオープン フレームワークは、より広範なコミュニティからの継続的なイノベーションを促し、そうでなければ気付かれないままになる可能性のあるギャップを迅速に特定して解決することを可能にします。この共同作業によるオープン入力およびオープン出力のアプローチは、可能な限り最高の検索プラットフォームを構築するための鍵となります。当社の最終的なビジョンには、ユーザーが独自のデータ ソースとエージェントを貢献できるようにし、それによって共同のコミュニティ主導の改善を通じて Sentient Chat と ODS を大幅に強化することが含まれています。 Sentient Chat は 15 以上の AI エージェントを統合しており、Perplexity などの競合他社よりも優れていると強調されています。複数のエージェントを 1 つのチャットボット インターフェイスに統合する際にはどのような技術的課題がありましたか。また、それをどのように解決しましたか。 Ishan Pandey: 技術的には、Sentient Chat を通じてさまざまなエージェントが単一のユーザー エクスペリエンスに参加できるようにするために、多くの複雑なソフトウェアと設計の課題に取り組んでいます。また、最先端の AI 検索 API や、「アンラッガブル エージェント」を構築するための Sentient Secure Enclave など、これらのエージェント ビルダーに多くのツールを提供しています。しかし、これらの技術的な課題に対処すること以上に、ここで最も興味深いのは、インターネットの知識にアクセスするまったく新しい方法の可能性です。 Himanshu Tyagi: Google は数十年にわたり、主にユーザーがオンラインで情報を見つけられるようにすることに焦点を当て、検索を支配してきました。Google は情報源の推奨を根底とする広告収入に依存しているため、従来の情報検索を超えたイノベーションを行う能力が本質的に制限されています。一方、AI は単なる情報収集を回避し、ユーザーが個別の分析やアクション段階を必要とせずにタスクを直接実行できるようにする機会を提供します。これがまさに、Google という巨大企業に対する当社の競争上の優位性です。 この野心的なビジョンには、多様なエコシステム、つまり、さまざまなインデックス付きデータ ソースと、特殊なアクションを実行できる多数の AI エージェントを統合するエコシステムが必要です。この可能性を解き放つ鍵は、透明性が高くオープンなプラットフォームを作成し、幅広いコミュニティの参加を積極的に奨励することです。データ プロバイダーは、その貢献がもたらす価値を明確に理解する必要があり、エージェント開発者は、サービスをシームレスに統合して全体的な機能を強化する必要があります。このようなエコシステムは、コミュニティによって管理され、公平性、オープン性、そして集団的な貢献とコラボレーションによって推進される継続的なイノベーションを保証する必要があります。 ちなみに、Sentient Chat には 15 人以上のエージェントが参加する予定です。 将来、技術革新の面で Sentient の次の計画は何ですか? 推論エージェントをどのように進化させ、オープン AGI エコシステムを拡大する予定ですか? Ishan Pandey: 私たちは、AI が人間のすべての感覚、グローバル情報、ソーシャル ネットワークの仲介者になる未来を思い描いています。Sentient のビジョンは、この AI が私たちに忠実であるようにすることです。この唯一の目標が、私たちのすべての開発の原動力となっています。推論エージェントについては、開発者が自分の興味やユース ケースに合った推論機能とスキルを持つモデルにアクセスできるようにしたいと考えています。 Himanshu Tyagi: たとえば、ウォレットを制御できる主権エージェントを構築する場合、悪意のある人物がプロンプトを操作して資金を盗むことができないように、基盤となるモデルに推論機能が必要です。これが整合です。私たちはそのような整合モデルを構築します。Open AGI エコシステムで構築するすべての開発者は、アプリケーションまたはユーザーに忠実な AI モデルを使用するオプションを持つ必要があります。Sentient Chat は、Loyal AI 上に構築されたそのようなすべてのエージェントをまとめて提供するものです。 ストーリーを「いいね！」してシェアするのを忘れないでください！ この著者は、当社の HackerNoon はレポートの品質をレビューしましたが、ここでの主張は著者のものです。#DYO 利害関係開示： ビジネスブログプログラム