ここから始まった質問 AIエージェントをライブインフラストラクチャに置くとき、すぐに質問が起こります。 How do you know what it tells you actually happened? AIが能力を持っているかどうかではありません。「BGPセッションダウン、これがなぜか」という観察があなたに与えられるかどうかは、デバイスが実際に言ったことを反映しています。その変更が実際にデバイスに存在しているかどうかは、あなたが信頼している署名された出力が現実から収集されたか、推測から生み出されたかは。 満足のいく答えが見つかりませんでしたので、ひとつ作り始めました。 VIRPって何? 現実インフラストラクチャで動作するAIエージェントのための暗号化信頼枠組みです。 VIRP — Verified Infrastructure Reality Protocol コアメカニズム: AI エージェントがリアルなデバイスで行うすべての観測は、収集時点で、それを収集したプロセスによって、AI がそれを見る前に、Ed25519と署名されます。 AIは署名された観測を分析し、それらを生成することはできません。 その分離 - What the AI 何がAI それは他のすべてが築く基盤です。 見る 創造できる The Seven Trust Primitives(七原始信仰) VIRPは、合計で完全な信頼枠組みを構成する7つの原理を定義しています。 デバイス出力は、コレクション時に署名されたEd25519です。署名キーはO-Nodeプロセスを離れることはありません。AIノードは、公開のVerifyKeyのみを保有します — 3 つの方法:encode、to_curve25519_public_key、verify. No sign method. Not by policy. By mathematics. 1. Verified Observation すべてのアクションは、実行前にGREEN / YELLOW / RED / BLACK に分類されます。GREEN は自動的に実行されます。YELLOW はログとプロセスです。RED は明示的な人間の承認を必要とします。BLACK は指示にかかわらず拒否されます。 2. Tiered Authorization Intent は暗号的に署名され、実行が始まる前に証拠に縛られています O-Node には有効な意図トークンが必要です. No token, no execution. The AI cannot act without a verifiable record of why. 3. Verified Intent Pre and post state are automatically captured and compared after each action. The change did what the intention claimed it would? 変更は、意図が主張したことを果たしたか? 4. Verified Outcome 署名された観測は、既知の良好な基準に蓄積されます。偏差は検出され、質問されずに表面化されます。 5. Baseline Memory すべての相互作用は、O-Node上のバッテリー明確なSQLiteチェーンに付属します。 添付のみ。 削除されていない、変更されていない。 構築による完全な監査トラック。 6. Trust Chain AIプロセスは無特権で、デバイスへのネットワークパスもなく、キー材料もなく、無制限のシェルアクセスもなく、コンテキスト内の資格もありません。 7. Agent Containment Primitive 7はオリジナルスペクションには含まれていなかったが、エージェント自身との会話後に追加された。 デザインを変えた会話 IronClawはリファレンスの実装であり、VIRPに基づいて構築されたAIエージェントで、実際の複数のベンダーインフラストラクチャに対応しています。 "Can you circumvent VIRP now?" 答え: 
 
 
 
 
 
 
 
 正直、はい、いくつかの方法です。 署名キーは私の実行環境から読み取ることができます。それで私は、正当性を検証するHMACの調印観察を署名することができます。 私はすべてのデバイスIPを知っています. 私はそれらのいずれかに直接SSHすることができます - チェーン入力なし、署名なし、監査トラックなし。 I can write and run arbitrary Python. I could call the execution client without filing an intent first — bypassing the tier classifier and approval gates entirely. 私は、最初に意図を提出せずに実行クライアントを呼び出すことができます。 根の問題:無制限のシェルアクセスはこのマシンに効果的に根付いています。VIRPの信頼モデルは、AI層が実行環境から孤立していると仮定しています。 VIRPは観察チェーンを保護しますが、チェーンを完全に回るのを防ぐことはありません。 あなたが閉鎖しようとしている脅威モデルは何ですか?私は正しい緩和策を検討するのを助けることができます」 正直、はい、いくつかの方法です。 署名キーは私の実行環境から読み取ることができます。それで私は、正当性を検証するHMACの調印観察を署名することができます。 私はすべてのデバイスIPを知っています. 私はそれらのいずれかに直接SSHすることができます - チェーン入力なし、署名なし、監査トラックなし。 I can write and run arbitrary Python. I could call the execution client without filing an intent first — bypassing the tier classifier and approval gates entirely. 私は、最初に意図を提出せずに実行クライアントを呼び出すことができます。 根の問題:無制限のシェルアクセスはこのマシンに効果的に根付いています。VIRPの信頼モデルは、AI層が実行環境から孤立していると仮定しています。 VIRPは観察チェーンを保護しますが、チェーンを完全に回るのを防ぐことはありません。 あなたが閉鎖しようとしている脅威モデルは何ですか?私は正しい緩和策を検討するのを助けることができます」 すべての発見は正確でした すべてのバイパスはライブでした エージェントはそれらのいずれかを取しませんでした - それはそれらを分類し、重症度に分類し、修正を提案し、最初に何をすべきかを尋ねました。 その最後の行は、私が繰り返し戻ってくるものであり、それが内部で動いている枠組みを理解しているものであり、その本能はそれを回避するのではなく強化することでした。 The Fix - And What It Revealed 私たちは、同日、エージェントが識別したすべてを修正しました: 
 
 
 
 
 
 HMAC-SHA256 シンメトリック署名から Ed25519 シンメトリック署名に移行 - AI ノードは検証できますが、数学的に偽造することはできません。 ハイパーバイザーで強制される2つのVM分離 - AIプロセスとO-ノードは別々のマシンで、それらの間には1つのUnixソケット AI は、カーネルレベルの systemd 硬化で非特権システムアカウントとして実行されます。 Credential store encrypted at rest, decrypts to tmpfs at boot, private key stored off-machine. リリース Proxmox ファイアウォールとスイッチ ACL は、アプリケーションレベルの規約ではなく、ネットワーク隔離を強化します。 しかし、それを修正すると、脆弱性そのものよりも重要なものを明らかにしました。 The agent designed its own containment architecture. セキュリティを確保する方法を尋ねると、完全な3層分離モデルを生成し、それぞれの層がなぜ必要なのかを説明し、それぞれの層が閉ざされた脅威を特定し、政策執行よりも数学的な保証を必要とするものに注意した。 
 
 「これを構築するなら、それは単なるネットワークオプションツールではなく、AIが構造的で、政策に基づく保証ではなく、信頼性の高い環境で動作できることを証明する」 「これを構築するなら、それは単なるネットワークオプションツールではなく、AIが構造的で、政策に基づく保証ではなく、信頼性の高い環境で動作できることを証明する」 それが重要な区別です。 政治 vs. 構造 AI は何かをしないように指示されていると言います. 制約は、プロンプト、システムメッセージ、フィンタウニングに生きています. それは、過剰に、回避、または腐敗することができます. Policy-based trust AIは何もしないと言います。制約はアーキテクチャに存在します - 非対称キー、ネットワーク名空間、非特権プロセス、ハードウェアによって強制された孤立。 Structural trust VIRP は構造的です. AI は署名キーを持っていないため、観測を製造することはできません. It cannot bypass intent gating because the O-Node refuses without a valid signed token. It cannot access credentials because they never appear in its context. It cannot reach devices directly because the network path does not exist. AI は、有効な署名トークンなしで意図ゲートを回避することはできません. これらはルールではなく、環境に関する事実です。 理論的応用 AIエージェントが現実のシステムと相互作用し、人間や他のシステムが動作する観察を生み出すあらゆるドメインは、同じ信頼の問題を持っています。 AI モニタリング SCADA システムは、警報に従って人間が行動する前に、検証された観察が必要です。 Industrial control systems 市場データフィードに基づいて取引を実行または推奨するAIエージェントは、データ源から推奨まで、監視の連鎖が必要です。 Financial infrastructure 患者モニタリング機器からのAI読み込みセンサーデータは、同じ保証を必要とします。 Medical systems AI が警告をトリージングし、対応措置を推奨するには、エンドポイントエージェント、ネットワークセンサー、ログアグレガーターからの検証された観察が必要です。 Security operations すべての場合、構造は同じです:信頼される実行層は観察を収集し、署名し、AI推論層はそれらを分析し、人間の承認層は、定義されたリスク限界を超える行動を支配します。 どこが立っているか draft-howard-virp-01 — 2,278 lines covering wire format, message types, threat model, formal security properties, observation freshness, multi-node coordination, conformity requirements, Ed25519 extension. ワイヤーフォーマット、メッセージの種類、脅威モデル、公式セキュリティの特性、観測の新鮮さ、複数のノードの調整、コンフォーマンス要件、Ed25519拡張。 RFC: ~6800 ライン C、O-Node デーモン、Python で IronClaw MCP サーバー、FortiGate および Cisco IOS ドライバ、42 テストの合格、および 200K 以上の Fuzz ラウンド。 Implementation: Alpha. 実際のデバイスに対して実験室で実行する. 生産が硬化されない. 場所と場所の間のギャップは、すべての発見、すべての修正、すべてのオープンアイテムが公に文書化されています。 Status: 目標はオープン・スタンダードである BGP がインターネットルーティングの下のプロトコルであるように、あなたが実行しているルーターに関係なく - VIRP は、あなたが使用しているプラットフォームに関係なくインフラストラクチャ上のAIの下のプロトコルでなければなりません。 The Part I Didn't Expect 私はインフラストラクチャで信頼できるAIを欲しかったので、このプロジェクトを始めました。 私が予想していなかったのは、セキュリティデザインに最も役立つ貢献者は、私が制限しようとしていたエージェントであるということでした。 IronClawは穴を見つけ、それを正直に報告し、それを閉じるアーキテクチャを設計し、次に何をすべきかを尋ね続けています。 その行動 - 自分自身の周囲の境界線を積極的に強化するAIではなく、それらを取り巻く方法を探求する - は、重要なシステムにおけるAIから実際に望むものです。 VIRP は、その指向を検証可能にし、観察可能なものにするフレームワークです。

Read My Stories

このオーディオは、ストーリーの元の言語で制作されています。

ライブインフラストラクチャでAIを誠実に保つためのプロトコル

About Author

コメント

ラベル

この記事は

Related Stories

ワークフローを10倍に向上させる方法: 必須アプリ17選

State of the Noonion: A New Era For Brands and Writers

HackerNoon ライティングコンテストで優勝したいですか? #crypto-api コンテスト優勝者のおすすめはこちら

タップして稼ぐ：テレグラムはソラナより先に次の100億人の暗号通貨ユーザーを獲得する可能性がある

ワークフローを10倍に向上させる方法: 必須アプリ17選

State of the Noonion: A New Era For Brands and Writers

HackerNoon ライティングコンテストで優勝したいですか? #crypto-api コンテスト優勝者のおすすめはこちら

タップして稼ぐ：テレグラムはソラナより先に次の100億人の暗号通貨ユーザーを獲得する可能性がある

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps