C# でローカル AI エージェントを呼び出すツール

ツールは、これらのコア機能とともに、エージェントAIの基本的な部分です。 言語モデルはテキストの理解と生成に優れていますが、ツールは、現実世界との相互作用を可能にすることによって能力を拡張します:現在の情報を検索し、計算のためのコードを実行し、データベースにアクセスし、ファイルを読むか、APIを通じて外部サービスに接続します。AIエージェントの手と目のようなツールを考えてください。彼らは会話システムを、論理と行動の間のギャップを橋渡しすることによってタスクを達成できるエージェントに変換します。 エージェントが時間の経過とともにどのようにコンテキストを保持し、使用することに興味がありますか? 私たちの深いダイビングを探索してください . エージェントメモリ なぜ地元の職員は厳しかったのか 現地で実際に物事をできるAIエージェントを構築することは驚くほど困難です。 外部機能をいつ、どのように呼び出すかを理解するモデル データをクラウドに送信することなくプライバシー ツール呼び出しを解析し、論点を検証し、結果を注入できるランタイム モデル特有のフローは、それぞれのモデルが異なるツール呼び出し形式と相互作用パターンを持っており、キャッシング、結果の注入、およびアクション順序のためのカスタマイズされた論理が必要です。 無限のループと走行コストを防ぐための安全コントロール 明確な観察性で、エージェントが何をしているかを知る これまで、ほとんどのエージェントフレームワークは、強力なクラウドベースのエージェントと遅延とプライバシーの懸念、または適切なツールサポートなしの限られたローカルモデルの選択を余儀なくしていました。 なぜツール呼び出しはすべてを変えるのか LM-Kit の新しいツール呼び出し機能により、地元のエージェントは: 地上の答えは実際のデータで、気象予報や為替レートの幻想はもうありません。エージェントは実際のAPIの答えを取得し、情報源を引用することができます。 複雑なワークフローの連鎖 たとえば、天候を確認し、温度をユーザーの好みの単位に変換し、アクティビティを提案します。 完全なプライバシーを維持します. すべてはデバイス上で実行されます. あなたのユーザーのクエリ、ツールの論点、および結果は、決して彼らのマシンを離れることはありません。 指定されたスケジュール、検証された入力、ポリシーコントロール、および承認ハックは、エージェントが不正行為を防止します。 あなたのドメインでスケールアップ ビジネス API、内部データベース、または外部MCPカタログをツールとして追加します。 What's New at a Glance シングル 最先端のツール呼び出しは、チャットボットのフローにあります。 モデルはツールを呼び出しするタイミングを決定し、構造化された JSON args を渡し、結果を使用してユーザーに正確に回答します。 Mistral、GPT-OSS、Qwen、Granite、LLaMAなどのモデルファミリーにわたって専用のフローサポートを提供し、すべて1つのランタイムを通じて提供します。 Three ways to add tools: Implement ITool Annotate methods with [LMFunction] Import catalogs from MCP servers ローカル SLM を実行する統一された API は、各段階でヒューマン・イン・ザ・ロックと観測可能な per-turn ポリシー、ガードレイル、およびイベントを提供します。 すべての機能呼び出しモードがサポートされています. Simple Function, Multiple Function, Parallel Function, and Parallel Multiple Function, choose strict sequencing or safe parallelism. モデル認識のツール呼び出しフロー. 現代の SLM は構造化されたツール呼び出しを発信します. LM-Kit は呼び出しを解析し、それらをあなたのツールにルーティングし、信頼性の高い推論パスを提供するために、関連性と明確な結果のタイプで結果を返します。 How It Works: Getting Started 以下は、20行以下で作業の完全な例です。 using LMKit.Model; using LMKit.TextGeneration; using LMKit.Agents.Tools; using System.Text.Json; // 1) Load a local model from the catalog var model = LM.LoadFromModelID("gptoss:20b"); // OpenAI GPT-OSS 20B // Optional: confirm tool-calling capability if (!model.HasToolCalls) { /* choose a different model or fallback */ } // 2) Create a multi-turn conversation using var chat = new MultiTurnConversation(model); // 3) Register tools (see three options below) chat.Tools.Register(new WeatherTool()); // 4) Shape the behavior per turn chat.ToolPolicy.Choice = ToolChoice.Auto; // let the model decide chat.ToolPolicy.MaxCallsPerTurn = 3; // guard against loops // 5) Ask a question var reply = chat.Submit("Plan my weekend and check the weather in Toulouse."); Console.WriteLine(reply.Content); モデルカタログには、GPT-OSSおよび他の多くのファミリーが含まれています。 という名前のカードを引くように、 あなたもチェックできます♪ 道具に頼る前に LM.LoadFromModelID gptoss:20b HasToolCalls 見る The 詳細について カタログ・ドキュメントモデル 今すぐ試してみてください: GitHub サンプル 生産準備済みのコンソールサンプルでは、ツール呼び出し(通貨、天気、単位変換)、毎回のポリシー、進捗状況のフィードバック、および特別コマンドを使用したマルチターンチャットが示されています。 Create Multi-Turn Chatbot with Tools in .NET Applications ツールで .NET アプリケーションで Multi-Turn Chatbot を作成する ツールを追加する3つの方法 ITool(完全コントロール)の実装 Best when you need clear contracts and custom validation. このスナップは、実施を示す。 オリジナルタイトル: オリジナルタイトル: オリジナルタイトル: オリジナルタイトル: オリジナルタイトル: オリジナルタイトル: オリジナルタイトル: オリジナルタイトル: オリジナルタイトル: オリジナルタイトル: オリジナルタイトル( で、 で、 ), JSON args を解析し、あなたの論理を実行し、構造化された JSON をモデルに返します。 ITool Name Description InputSchema public sealed class WeatherTool : ITool { public string Name => "get_weather"; public string Description => "Get current weather for a city. Returns temperature, conditions, and optional hourly forecast."; // JSON Schema defines expected arguments public string InputSchema => """ { "type": "object", "properties": { "city": {"type": "string", "description": "City name (e.g., 'Paris' or 'New York')"} }, "required": ["city"] } """; public async Task InvokeAsync(string arguments, CancellationToken ct = default) { // Parse the model's JSON arguments var city = JsonDocument.Parse(arguments).RootElement.GetProperty("city").GetString(); // Call your weather API var weatherData = await FetchWeatherAsync(city); // Return structured JSON the model can understand var result = new { city, temp_c = weatherData.Temp, conditions = weatherData.Conditions }; return JsonSerializer.Serialize(result); } } // Register it chat.Tools.Register(new WeatherTool()); 検証、アシンク実行、エラー処理、および結果フォーマットの完全な制御。 Why use ITool? 2) Annotate Methods with [LMFunction] (Quick Binding) 迅速なプロトタイプ作成とシンプルな同期ツールに最適です。 What it does: 追加 LM-Kit はそれらを発見し、それぞれを メソッドパラメータから JSON スケジュールを生成します。 [LMFunction(name, description)] ITool How It's Wireed: Reflect and Bind with トップページ (または / )を経由して作成したツールを登録する。 . LMFunctionToolBinder.FromType () FromInstance FromAssembly chat.Tools.Register(...) public sealed class MyDomainTools { [LMFunction("search_docs", "Search internal documentation by keyword. Returns top 5 matches.")] public string SearchDocs(string query) { var results = _documentIndex.Search(query).Take(5); return JsonSerializer.Serialize(new { hits = results }); } [LMFunction("get_user_info", "Retrieve user profile and preferences.")] public string GetUserInfo(int userId) { var user = _database.GetUser(userId); return JsonSerializer.Serialize(user); } } // Automatically scan and register all annotated methods var tools = LMFunctionToolBinder.FromType (); chat.Tools.Register(tools); Less Boilerplate(ボーイラープレート) パラメータ型からスケジュールを生成し、すべてを一行に記録します。 Why use [LMFunction]? 縛り 3) Import MCP Catalogs (External Services) モデル コンテキスト プロトコルを介して第三者のツール エコシステムに接続するのに最適です。 What it does: 使用する MCP サーバで JSON-RPC セッションを確立するには、そのツールカタログを取得し、そのツールを適応してエージェントに呼び出せるようにしてください。 mcpクライアント How it's wired: 作成 (オプションでベアラー・トークンを設定する) カタログをインポートするには; LM-Kit manages で、 リリースとセッションの継続 new McpClient(uri, httpClient) chat.Tools.Register(mcp, overwrite: false) tools/list tools/call using LMKit.Mcp.Client; // Connect to an MCP server var mcp = new McpClient( new Uri("https://mcp.example.com/api"), new HttpClient() ); // Import all available tools from the server int toolCount = chat.Tools.Register(mcp, overwrite: false); Console.WriteLine($"Imported {toolCount} tools from MCP server"); クルーされたツールカタログへの即時アクセス. The server handles そして JSON-RPC を介して; LM-Kit は、スケジュールをローカルに検証します。 Why use MCP? tools/list tools/call See . Mcpclient ドキュメンタリー あなたのワークフローと一致する実行モード 各会話のターンに適したポリシーを選択する: シンプルな機能 一つの道具、一つの答え chat.ToolPolicy.MaxCallsPerTurn = 1; chat.ToolPolicy.Choice = ToolChoice.Required; // force at least one call 「東京の天気はどうですか?」と聞かれる。 once and answers. Example: get_weather 複数の機能 Chain Tools シークレット chat.ToolPolicy.MaxCallsPerTurn = 5; chat.ToolPolicy.Choice = ToolChoice.Auto; 「75°FをCに変えて、ジャケットが必要かどうか教えてください」 Example: Convert_temperature(75, "F", "C") を呼び出し、 23.9°C を得る 呼び出し get_weather(「current_location」)と条件を得る 答えは「24°Cで太陽が晴れ、軽いジャケットがいい」です。 平行機能 複数のツールを同時に実行する。 chat.ToolPolicy.AllowParallelCalls = true; chat.ToolPolicy.MaxCallsPerTurn = 10; 「パリ、ロンドン、ベルリンの天気の比較」 Example: 呼び出し get_weather(「パリ」)、 get_weather(「ロンドン」)、 get_weather(「ベルリン」)同時に すべての結果、比較、および回答を待つ あなたのツールが idempotent と thread-safe である場合にのみ有効にします。 複数の並行機能 連鎖とパラレルを組み合わせる。 「3つの都市の天気を確認し、すべての時間をファーレンヘイトに変換し、どの都市を訪問するかをお勧めします。 Example: Parallel: catches weather for 3 都市 Parallel: converts all temperatures Sequential: recommends based on results(結果に基づく推奨) See すべてのオプションを含む そして デフォルトは保守的です: parallel off, max calls capped. ToolCallPolicy documentation ToolChoice.Specific ForcedToolName Safety, Control, and Observability 政策コントロール セキュア デフォルトと per-turn 制限を設定します。 . ToolCallPolicyドキュメンタリー chat.ToolPolicy = new ToolCallPolicy { Choice = ToolChoice.Auto, // let model decide MaxCallsPerTurn = 3, // prevent runaway loops AllowParallelCalls = false, // safe default: sequential only // Optional: force a specific tool first // Choice = ToolChoice.Specific, // ForcedToolName = "authenticate_user" }; Human in the Loop ツールの実行をレビュー、承認、またはブロックします。 で、 で、 で、 . BeforeToolInvocationについて AfterTool呼び出し トップ > サンプル メモリアル // Approve tool calls before execution chat.BeforeToolInvocation += (sender, e) => { Console.WriteLine($"About to call: {e.ToolCall.Name}"); Console.WriteLine($" Arguments: {e.ToolCall.ArgumentsJson}"); // Block sensitive operations if (e.ToolCall.Name == "delete_user" && !UserHasApproved()) { e.Cancel = true; Console.WriteLine(" Blocked by policy"); } }; // Audit results after execution chat.AfterToolInvocation += (sender, e) => { var result = e.ToolCallResult; Console.WriteLine($"{result.ToolName} completed"); Console.WriteLine($" Status: {result.Type}"); Console.WriteLine($" Result: {result.ResultJson}"); _telemetry.LogToolCall(result); // send to monitoring }; // Override token sampling in real time chat.BeforeTokenSampling += (sender, e) => { if (_needsDeterministicOutput) e.Sampling.Temperature = 0.1f; }; // Control memory injection chat.MemoryRecall += (sender, e) => { Console.WriteLine($"Injecting memory: {e.Text.Substring(0, 50)}..."); // e.Cancel = true; // optionally cancel }; 構造化されたデータフロー 各呼び出しは、再現性と明確なログのための入力されたパイプラインを介して流れます。 Incoming: ToolCall with stable Id and ArgumentsJson(安定したIDとArgumentsJson) Outgoing: ToolCallResult with ToolCallId, ToolName, ResultJson, and Type (Success or Error) (ToolCallResult with ToolCallId, ToolName, ResultJson, and Type (Success or Error)) をリリースします。 タグ:Multi-Turn Chat Sample ツールで .NET アプリケーションで Multi-Turn Chatbot を作成する デモ エージェントツール呼び出し:会話中に、モデルは、1つまたは複数のツールを呼び出し、データを取得したり、計算を実行したり、各ツールのツールに合致するJSON議論を送信したりすることができます。 , and use each tool's JSON result to produce a grounded reply while preserving full multi-turn context. Tools implement 管理者(管理者)は管理者(管理者)で管理する。 . Purpose: LMキット.NET InputSchema ITool ToolChoice Why tools in chatbots? 信頼性の高いソースベースの回答(天気、FX、変換、ビジネスAPI) エージェントチェーニング:複数のツールを1回に呼び出し、結果を組み合わせる。 決定主義と安全性:タイプ化されたシステム、明確な失敗モード、ポリシー制御。 拡張性: ITool for domain logic を実装し、コードを監査可能にします。 効率性:ツールに数学/見方を外し、モデルを推論に焦点を当てる。 製品とプラットフォームのチーム、DevOpsと内部ツール、B2Bアプリ、教育者とデモ。 Target audience: 操作可能な回答、決定的な変換/引用、複数の回転メモリ、容易な拡張性。 Problem solved: Sample app: ローカルモデル(またはカスタム URI)を選択します。 3 つのツール(通貨、天気、単位変換)を登録します。 Runs a multi-turn chat where the model decides when to call tools Prints generation stats (tokens, stop reason, speed, context usage) Key features: JSON Arguments によるツール呼び出し 完全な対話メモリ Progress Feedback(ダウンロード/ロードバー) 特別コマンド: /reset、 /continue、 /regenerate ターンごとに複数のツール呼び出し(およびターンごとに) 内蔵ツール Tool name Purpose Online? Notes convert_currency ECB rates via Frankfurter (latest or historical) plus optional trend Yes No API key; business days; rounding and date support get_weather Open-Meteo current weather plus optional short hourly forecast Yes No API key; geocoding plus metric/us/si convert_units Offline conversions (length, mass, temperature, speed, etc.) No Temperature is non-linear; can list supported units convert_currency フランクフルト経由のECB金利(最新または歴史的)およびオプションの傾向 はい API キーなし、営業日、ラウンドおよび日付のサポート get_weather Open-Meteo current weather plus optional short hourly forecast はい API キーなし; Geocoding plus metric/us/si convert_units オフライン変換(長さ、質量、温度、速度など) ノー 温度は非線形であり、サポートされる単位をリストすることができます。 ツール実装 : : で、 で、 (JSONスケジュール)および JSON に戻る ITool Name Description InputSchema InvokeAsync(string json) Extend with your own tool: chat.Tools.Register(new MyCustomTool()); // implements ITool Use unique, stable, lowercase names. snake_case サポートされるモデル(ハードウェアごとに選択) Mistral Nemo 2407 12.2B (around 7.7 GB VRAM) Meta Llama 3.1 8B(約6GBのVRAM) Google Gemma 3 4B Medium(約4GB VRAM) マイクロソフト Phi-4 Mini 3.82B(約3.3GB VRAM) Alibaba Qwen-3 8B(約5.6GB VRAM) マイクロソフト Phi-4 14.7B(約11GB VRAM) IBM Granite 4 7B(約6GBのVRAM) Open-AI GPT-OSS 20B (around 16 GB VRAM) または、カスタムモデル URI (GGUF/LMK) を提供します。 コマンド /reset - Clear Conversation (リセット) - continue last assistant message /continue /regenerate - new answer for last user input Example Prompts 「125 USD を EUR に変換し、7 日間のトレンドを表示します。 « トゥルーシュの次の6時間の天気 (メトリック) » 「65mph を km/h に変換する」/「圧力単位リスト」 「今は75°Fから°C、その後2kmからマイル。 Behavior and Policies (Quick Reference) ツール選択ポリシー: デフォルトでは、サンプルはモデルが決定する(ToolChoice.Auto)を許可します。 あなたは毎回特定のツールを要求 / 禁止 / 強制することができます。 複数のツール呼び出し: 1 回あたりの複数のツール呼び出しをサポートし、出力は文脈に戻ります。 Schemes matters: Precise InputSchema plus concise Description improve argument construction. スケジュールの重要性:正確なInputSchemaと簡潔な説明は、議論の構築を改善します。 ネットワーク:通貨と天候はインターネットを必要とし、ユニット変換はオフラインです。 エラー:無効な入力(単位、日付、場所)の明確な例外 始めること .NET Framework 4.6.2 or .NET 6.0 Prerequisites: Download: git clone https://github.com/LM-Kit/lm-kit-net-samples.git cd lm-kit-net-samples/console_net/multi_turn_chat_with_tools Run: dotnet build dotnet run 次に、モデルを選択したり、カスタム URI を挿入したりします。 チャットは自然に、アシスタントは必要に応じて 1 つまたは複数のツールを呼び出します。 , で、 いつでも /reset /continue /regenerate Project link: GitHub Repository 総合例:すべての3つの統合経路 // Load a capable local model var model = LM.LoadFromModelID("gptoss:20b"); using var chat = new MultiTurnConversation(model); // 1) ITool implementation chat.Tools.Register(new WeatherTool()); // 2) LMFunctionAttribute methods var tools = LMFunctionToolBinder.FromType (); chat.Tools.Register(tools); // 3) MCP import var mcp = new McpClient(new Uri("https://mcp.example/api"), new HttpClient()); chat.Tools.Register(mcp); // Safety and behavior chat.ToolPolicy = new ToolCallPolicy { Choice = ToolChoice.Auto, MaxCallsPerTurn = 3, // AllowParallelCalls = true // enable only if tools are idempotent }; // Human-in-the-loop chat.BeforeToolInvocation += (_, e) => { /* approve or cancel */ }; chat.AfterToolInvocation += (_, e) => { /* log results */ }; // Run var answer = chat.Submit( "Find 3 relevant docs for 'safety policy' and summarize."); Console.WriteLine(answer.Content); なぜLMキットでローカルに行くのか? クラウドエージェントフレームワーク Cloud Agent Frameworks ゼロ API コスト: トークン料金なし. 無制限の会話を実行します。 完全なプライバシー:ユーザーデータはデバイスから出ません。GDPR/HIPAAフレンドリー。 Local inference eliminates network roundtrips entirely. Sub-100ms latency: オフラインで動作: エージェントはインターネット接続なしで動作します。 料金制限なし:スケーリングなしで数百万件のリクエストまで拡大。 完全なコントロール: スタックを所有し、ベンダーのロックインやAPIの削減はありません。 タイトル:Basic Prompt Engineering JSON Schema validation catches bad arguments before execution. Type-safe schemas: Deterministic results: Clear success/error states, not fragile regex parsing. 決定的な結果:明確な成功/エラー状態、脆弱なレジェックスパッシングではありません。 平行実行:安全なときに複数のツールを同時に実行します。 完全な観測性:各段階で構造化された出来事、考古学の記録ではない。 テスト可能な契約:Mock tools、inject results、replay conversations。 Error boundaries: Graceful failures with retry logic and fallbacks. エラーの限界:リトリの論理と落とし穴との恵まれた失敗。 タイトル:Manual Function Calling Agent autonomously picks tools and arguments, no brittle if/else chains. Model decides: Multiple tool calls per turn, results fed back automatically. Auto-chaining: 90%のボイラープレートを減らす: ツールを1回登録し、モデルやプロンプトではなく。 内蔵セキュリティ:ループ予防、最大呼び出し制限、ボックスから承認ハック。 Same code works across Mistral, LLaMA, Qwen, Granite, GPT-OSS. Model-agnostic API: Progressive enhancement: 会話の論理を再現することなくツールを追加します。 パフォーマンスと制限 業績期待 ツール呼び出しオーバーヘッド: 呼び出し当たり約 2 ～ 5 ms (parsing plus validation) ネットワークツール: API に応じて 50 ～ 500 ms ローカルツール: 1 ms 未満 Model inference remains the primary latency factor. Requirements Models must support tool calling (check ). HasToolCalls ネットワーク依存ツールにはインターネット接続が必要です。 並行実行には、 thread-safe、idepotent ツールが必要です。 Recommended GPU memory: 6 to 16 GB VRAM depending on model size. 既知の制限 ツール選択の品質は、明確な説明とスケジュールに依存します。 Complex nested objects in arguments may confuse smaller models. 非常に長いツールチェーン(10回以上の呼び出し)は、コンテキストウィンドウを超える可能性があります。 建設の準備は? Clone the sample git clone https://github.com/LM-Kit/lm-kit-net-samples.git cd lm-kit-net-samples/console_net/multi_turn_chat_with_tools Pick your integration approach Need full control? Use ITool Prototyping quickly? Use [LMFunction] Using external catalogs? Use McpClient Replace demo tools with your APIs, databases, or business logic. Add your domain logic Set policies that fit your use case Simple lookups: MaxCallsPerTurn = 1 Complex workflows: with approval hooks MaxCallsPerTurn = 10 On-device. Private. Reliable. Observable. Ship agents that actually work ユーザーのプライバシーを尊重し、どこからでも実行し、あなたのコントロールの下に留まります。