Εργαλείο για να καλέσετε τοπικούς πράκτορες AI στην C#

Τα εργαλεία αποτελούν θεμελιώδες μέρος της πράκτορας AI, μαζί με αυτές τις βασικές δυνατότητες: Ενώ τα μοντέλα γλωσσών υπερέχουν στην κατανόηση και τη δημιουργία κειμένου, τα εργαλεία επεκτείνουν τις ικανότητές τους επιτρέποντάς τους να αλληλεπιδρούν με τον πραγματικό κόσμο: αναζήτηση στο διαδίκτυο για τρέχουσες πληροφορίες, εκτέλεση κώδικα για υπολογισμούς, πρόσβαση σε βάσεις δεδομένων, ανάγνωση αρχείων ή σύνδεση σε εξωτερικές υπηρεσίες μέσω API. Σκεφτείτε εργαλεία όπως τα χέρια και τα μάτια ενός πράκτορα AI. Μετατρέπουν ένα σύστημα συνομιλίας σε έναν πράκτορα που μπορεί να ολοκληρώσει εργασίες γεφυρώνοντας το χάσμα μεταξύ συλλογισμού και δράσης. Όταν ένας πράκτορας χρειάζεται να ελέγξει τον καιρό, να αναλύσει ένα υπολογιστικό φύλλο ή να σ Ενδιαφέρεστε για το πώς οι πράκτορες διατηρούν και χρησιμοποιούν το πλαίσιο με την πάροδο του χρόνου; Εξερευνήστε τη βαθιά μας κατάδυση . Υπεύθυνος Μνήμης Γιατί οι τοπικοί πράκτορες ήταν σκληροί Η οικοδόμηση πρακτόρων τεχνητής νοημοσύνης που μπορούν πραγματικά να κάνουν τα πράγματα τοπικά ήταν εκπληκτικά δύσκολη. Μοντέλα που καταλαβαίνουν πότε και πώς να καλούν εξωτερικές λειτουργίες Προστασία προσωπικών δεδομένων χωρίς αποστολή δεδομένων στο cloud Ένα runtime που μπορεί να ανιχνεύσει τις κλήσεις εργαλείων, να επικυρώσει τα επιχειρήματα και να εισαγάγει αποτελέσματα Συγκεκριμένες ροές μοντέλου επειδή κάθε μοντέλο έχει διαφορετικές μορφές κλήσης εργαλείων και μοτίβα αλληλεπίδρασης, απαιτώντας προσαρμοσμένη λογική για την αναχαίτιση, την έγχυση αποτελεσμάτων και την εντολή δράσης Έλεγχοι ασφαλείας για την αποφυγή ατελείωτων κυκλωμάτων και δαπανών διαφυγής Καθαρή παρατήρηση, ώστε να ξέρετε τι κάνει ο πράκτορας σας Μέχρι τώρα, τα περισσότερα οργανικά πλαίσια ανάγκαζαν μια επιλογή: ισχυροί πράκτορες που βασίζονται στο cloud με ανησυχίες για την καθυστέρηση και την ιδιωτικότητα ή περιορισμένα τοπικά μοντέλα χωρίς την κατάλληλη υποστήριξη εργαλείων. Γιατί το εργαλείο που καλεί τα πάντα αλλάζει Με τις νέες δυνατότητες κλήσης εργαλείων του LM-Kit, οι τοπικοί σας πράκτορες μπορούν: Οι απαντήσεις του εδάφους σε πραγματικά δεδομένα.Δεν υπάρχουν πλέον ψευδείς καιρικές προβλέψεις ή συναλλαγματικές ισοτιμίες.Οι πράκτορες λαμβάνουν πραγματικές απαντήσεις API και μπορούν να αναφέρουν πηγές. Σύνθετες ροές εργασίας αλυσίδας. Για παράδειγμα: ελέγξτε τον καιρό, μετατρέψτε τη θερμοκρασία στις προτιμώμενες μονάδες του χρήστη και, στη συνέχεια, προτείνετε δραστηριότητες. Διατηρήστε την πλήρη ιδιωτικότητα. Τα πάντα λειτουργούν σε μια συσκευή. τα ερωτήματα των χρηστών σας, τα επιχειρήματα εργαλείων και τα αποτελέσματα δεν φεύγουν ποτέ από τις μηχανές τους. Μείνετε καθοριστικοί και ασφαλείς. τα γραπτά σχήματα, οι επικυρωμένες εισροές, οι έλεγχοι πολιτικής και οι κλωτσιές έγκρισης εμποδίζουν τους πράκτορες να γίνουν απατεώνες. Προσθέστε επιχειρηματικά API, εσωτερικές βάσεις δεδομένων ή εξωτερικούς καταλόγους MCP ως εργαλεία.Το μοντέλο μαθαίνει να τα χρησιμοποιεί μόνο από τις περιγραφές και τα σχήματα. ΤΙ ΕΙΝΑΙ ΝΕΟ ΣΕ ΜΙΑ ΜΑΤΙΑ Τα μοντέλα αποφασίζουν πότε να καλέσουν εργαλεία, να περάσουν δομημένα args JSON και να χρησιμοποιήσουν τα αποτελέσματα για να απαντήσουν με ακρίβεια στους χρήστες. Ειδική υποστήριξη ροής σε οικογένειες μοντέλων όπως Mistral, GPT-OSS, Qwen, Granite, LLaMA και πολλά άλλα, όλα μέσω ενός runtime. Three ways to add tools: Implement ITool Annotate methods with [LMFunction] Import catalogs from MCP servers Ενιαίο API που εκτελεί τοπικά SLMs με πολιτικές ανά στροφή, φυλακές και συμβάντα για ανθρώπινη ενσωμάτωση και παρατηρήσιμη σε κάθε στάδιο. Απλή λειτουργία, πολλαπλή λειτουργία, παράλληλη λειτουργία και παράλληλη πολλαπλή λειτουργία, επιλέξτε αυστηρή ακολουθία ή ασφαλή παράλληλη λειτουργία. Οι σύγχρονες SLM εκπέμπουν δομημένες κλήσεις εργαλείων.Το LM-Kit αναλύει τις κλήσεις, τις δρομολογεί στα εργαλεία σας και τροφοδοτεί τα αποτελέσματα με συσχέτιση και σαφείς τύπους αποτελεσμάτων για μια αξιόπιστη διαδρομή συμπερίληψης. Πώς λειτουργεί: Ξεκινώντας Εδώ είναι ένα πλήρες παράδειγμα εργασίας κάτω από 20 γραμμές: using LMKit.Model; using LMKit.TextGeneration; using LMKit.Agents.Tools; using System.Text.Json; // 1) Load a local model from the catalog var model = LM.LoadFromModelID("gptoss:20b"); // OpenAI GPT-OSS 20B // Optional: confirm tool-calling capability if (!model.HasToolCalls) { /* choose a different model or fallback */ } // 2) Create a multi-turn conversation using var chat = new MultiTurnConversation(model); // 3) Register tools (see three options below) chat.Tools.Register(new WeatherTool()); // 4) Shape the behavior per turn chat.ToolPolicy.Choice = ToolChoice.Auto; // let the model decide chat.ToolPolicy.MaxCallsPerTurn = 3; // guard against loops // 5) Ask a question var reply = chat.Submit("Plan my weekend and check the weather in Toulouse."); Console.WriteLine(reply.Content); Ο κατάλογος μοντέλων περιλαμβάνει το GPT-OSS και πολλές άλλες οικογένειες. να τραβήξετε μια ονομαστική κάρτα όπως Μπορείτε επίσης να ελέγξετε πριν βασιστείτε σε εργαλεία. LM.LoadFromModelID gptoss:20b HasToolCalls ΔΕΙΤΕ ΤΟ Για τις λεπτομέρειες. Κατάλογος τεκμηρίωσης μοντέλου Δοκιμάστε το τώρα: δείγμα GitHub Ένα δείγμα κονσόλας έτοιμης παραγωγής δείχνει πολλαπλή συνομιλία με κλήση εργαλείων (νόμισμα, καιρός, μετατροπή μονάδας), πολιτικές ανά στροφή, ανατροφοδότηση προόδου και ειδικές εντολές. Create Multi-Turn Chatbot with Tools in .NET Applications Δημιουργία Multi-Turn Chatbot με εργαλεία σε εφαρμογές .NET Τρεις τρόποι για να προσθέσετε εργαλεία 1) Εφαρμογή του ITool (πλήρης έλεγχος) Καλύτερα όταν χρειάζεστε σαφείς συμβάσεις και εξατομικευμένη επικύρωση. Το συγκεκριμένο σενάριο αποδεικνύει την εφαρμογή του Ο κ. Παπανδρέου ανακοινώνει ότι ο κ. Παπανδρέου μπορεί να υπογράψει συμβόλαιο με τον κ. Παπανδρέου ( , , ), αναλύει JSON args, εκτελεί τη λογική σας και επιστρέφει δομημένο JSON στο μοντέλο. ITool Name Description InputSchema public sealed class WeatherTool : ITool { public string Name => "get_weather"; public string Description => "Get current weather for a city. Returns temperature, conditions, and optional hourly forecast."; // JSON Schema defines expected arguments public string InputSchema => """ { "type": "object", "properties": { "city": {"type": "string", "description": "City name (e.g., 'Paris' or 'New York')"} }, "required": ["city"] } """; public async Task InvokeAsync(string arguments, CancellationToken ct = default) { // Parse the model's JSON arguments var city = JsonDocument.Parse(arguments).RootElement.GetProperty("city").GetString(); // Call your weather API var weatherData = await FetchWeatherAsync(city); // Return structured JSON the model can understand var result = new { city, temp_c = weatherData.Temp, conditions = weatherData.Conditions }; return JsonSerializer.Serialize(result); } } // Register it chat.Tools.Register(new WeatherTool()); Πλήρης έλεγχος της επικύρωσης, της ασύγχρονης εκτέλεσης, της διαχείρισης σφαλμάτων και της μορφοποίησης αποτελεσμάτων. Why use ITool? 2) Σημειώστε μεθόδους με [LMFunction] (Quick Binding) Καλύτερο για γρήγορη πρωτοτυπία και απλά συγχρονισμένα εργαλεία. Τι είναι: Προσθήκη to public instance methods. LM-Kit discovers them and exposes each as an , δημιουργώντας ένα σχήμα JSON από τις παραμέτρους της μεθόδου. [LMFunction(name, description)] ITool Πώς είναι συνδεδεμένο: Αντανακλά και συνδέεται με (ή / ) και, στη συνέχεια, καταχωρήστε τα προκύπτοντα εργαλεία μέσω . LMFunctionToolBinder.FromType () FromInstance FromAssembly chat.Tools.Register(...) public sealed class MyDomainTools { [LMFunction("search_docs", "Search internal documentation by keyword. Returns top 5 matches.")] public string SearchDocs(string query) { var results = _documentIndex.Search(query).Take(5); return JsonSerializer.Serialize(new { hits = results }); } [LMFunction("get_user_info", "Retrieve user profile and preferences.")] public string GetUserInfo(int userId) { var user = _database.GetUser(userId); return JsonSerializer.Serialize(user); } } // Automatically scan and register all annotated methods var tools = LMFunctionToolBinder.FromType (); chat.Tools.Register(tools); Λιγότερη κατανάλωση. το Δημιουργεί σχήματα από τύπους παραμέτρων και καταγράφει τα πάντα σε μια γραμμή. Why use [LMFunction]? δεσμευτικό 3) Εισαγωγή Καταλόγων MCP (Εξωτερικές Υπηρεσίες) Καλύτερο για τη σύνδεση με οικοσυστήματα εργαλείων τρίτων μέσω του πρωτοκόλλου Model Context. Τι κάνει: Χρησιμοποιεί Για να δημιουργήσετε μια συνεδρία JSON-RPC με έναν διακομιστή MCP, πάρτε τον κατάλογο εργαλείων του και προσαρμόστε αυτά τα εργαλεία έτσι ώστε ο πράκτορας σας να μπορεί να τα καλέσει. ΜΑΚΕΔΟΝΙΚΟΣ Πώς λειτουργεί: Δημιουργία (προαιρετικά ορίστε ένα token φορέα), τότε to import the catalog; LM-Kit manages , Συνέδριο και συνέχιση της συνεδρίας. new McpClient(uri, httpClient) chat.Tools.Register(mcp, overwrite: false) tools/list tools/call using LMKit.Mcp.Client; // Connect to an MCP server var mcp = new McpClient( new Uri("https://mcp.example.com/api"), new HttpClient() ); // Import all available tools from the server int toolCount = chat.Tools.Register(mcp, overwrite: false); Console.WriteLine($"Imported {toolCount} tools from MCP server"); Άμεση πρόσβαση σε καταλόγους εργαλείων. ο διακομιστής χειρίζεται και πάνω από το JSON-RPC· το LM-Kit επικυρώνει τοπικά τα σχήματα. Why use MCP? tools/list tools/call ΕΔΩ . Η τεκμηρίωση του McpClient Τρόποι εκτέλεσης που ταιριάζουν με τη ροή εργασίας σας Επιλέξτε τη σωστή πολιτική για κάθε στροφή συνομιλίας: Simple Function Ένα εργαλείο, μία απάντηση chat.ToolPolicy.MaxCallsPerTurn = 1; chat.ToolPolicy.Choice = ToolChoice.Required; // force at least one call «Πώς είναι ο καιρός στο Τόκιο;» καλεί Μια φορά και απαντήσεις. Example: get_weather Πολλαπλές λειτουργίες Εργαλεία αλυσίδας διαδοχικά. chat.ToolPolicy.MaxCallsPerTurn = 5; chat.ToolPolicy.Choice = ToolChoice.Auto; «Μετατρέψτε τους 75 βαθμούς Κελσίου σε θερμοκρασία Κελσίου και στη συνέχεια πείτε μου αν χρειάζομαι ένα σακάκι». Example: Καλεί convers_temperature(75, «F», «C») και παίρνει 23.9°C Καλέστε get_weather («current_location») και λάβετε προϋποθέσεις Συνθέτει την απάντηση: "Είναι 24 ° C και ηλιόλουστη. ένα ελαφρύ σακάκι θα πρέπει να είναι ωραία." Παράλληλη λειτουργία Εκτελέστε πολλά εργαλεία ταυτόχρονα. chat.ToolPolicy.AllowParallelCalls = true; chat.ToolPolicy.MaxCallsPerTurn = 10; «Συγκρίνετε τον καιρό στο Παρίσι, το Λονδίνο και το Βερολίνο». Example: Κλήσεις get_weather(«Παρίσι»), get_weather(«Λονδίνο»), get_weather(«Βερολίνο») ταυτόχρονα Waits for all results, compares, and answers Ενεργοποιήστε μόνο εάν τα εργαλεία σας είναι idempotent και thread-safe. Πολλαπλές παράλληλες λειτουργίες Συνδυάστε την αλυσίδα και το παράλληλο. "Ελέγξτε τον καιρό σε 3 πόλεις, μετατρέψτε όλες τις καιρικές συνθήκες σε Φαρενάιτ και προτείνετε ποια να επισκεφθείτε." Example: Parallel: fetches weather for 3 cities Parallel: converts all temperatures Ακολουθία: συστάσεις με βάση τα αποτελέσματα ΕΔΩ Όλες οι επιλογές, συμπεριλαμβανομένων και . Defaults are conservative: parallel off, max calls capped. Έγγραφα πολιτικής ToolCall ToolChoice.Specific ForcedToolName Ασφάλεια, έλεγχος και παρακολούθηση Πολιτικός έλεγχος Διαμόρφωση ασφαλών προεπιλογών και ορίων ανά στροφή. βλ. . ToolCallPolicy documentation chat.ToolPolicy = new ToolCallPolicy { Choice = ToolChoice.Auto, // let model decide MaxCallsPerTurn = 3, // prevent runaway loops AllowParallelCalls = false, // safe default: sequential only // Optional: force a specific tool first // Choice = ToolChoice.Specific, // ForcedToolName = "authenticate_user" }; Human in the Loop Αναθεώρηση, έγκριση ή αποκλεισμός της εκτέλεσης εργαλείων. , , , . Προηγούμενο Προηγούμενο AfterToolInvocation ΠροηγούμενοΠροηγούμενο Αναμνήσεις // Approve tool calls before execution chat.BeforeToolInvocation += (sender, e) => { Console.WriteLine($"About to call: {e.ToolCall.Name}"); Console.WriteLine($" Arguments: {e.ToolCall.ArgumentsJson}"); // Block sensitive operations if (e.ToolCall.Name == "delete_user" && !UserHasApproved()) { e.Cancel = true; Console.WriteLine(" Blocked by policy"); } }; // Audit results after execution chat.AfterToolInvocation += (sender, e) => { var result = e.ToolCallResult; Console.WriteLine($"{result.ToolName} completed"); Console.WriteLine($" Status: {result.Type}"); Console.WriteLine($" Result: {result.ResultJson}"); _telemetry.LogToolCall(result); // send to monitoring }; // Override token sampling in real time chat.BeforeTokenSampling += (sender, e) => { if (_needsDeterministicOutput) e.Sampling.Temperature = 0.1f; }; // Control memory injection chat.MemoryRecall += (sender, e) => { Console.WriteLine($"Injecting memory: {e.Text.Substring(0, 50)}..."); // e.Cancel = true; // optionally cancel }; Διαρθρωμένη ροή δεδομένων Κάθε κλήση ρέει μέσω ενός τυποποιημένου αγωγού για αναπαραγωγικότητα και σαφή αρχεία καταγραφής. Εισαγωγή: ToolCall με σταθερό Id και ArgumentsJson. Εξόδου: ToolCallResult με ToolCallId, ToolName, ResultJson και Τύπος (Επιτυχία ή Λάθος). Try It: Multi-Turn Chat Sample Δημιουργία Multi-Turn Chatbot με εργαλεία σε εφαρμογές .NET Demonstrates Agentic tool-calling: Κατά τη διάρκεια μιας συνομιλίας, το μοντέλο μπορεί να αποφασίσει να καλέσει ένα ή περισσότερα εργαλεία για να ανακτήσει δεδομένα ή να εκτελέσει υπολογισμούς, να περάσει τα επιχειρήματα JSON που ταιριάζουν με τα χαρακτηριστικά του κάθε εργαλείου. , και χρησιμοποιήστε το αποτέλεσμα JSON του κάθε εργαλείου για να παράγετε μια γειωμένη απάντηση διατηρώντας παράλληλα το πλήρες πλαίσιο πολλαπλών στροφών. και διαχειρίζονται από ένα μητρώο· η συμπεριφορά ανά στροφή διαμορφώνεται μέσω . Purpose: Ετικέτες LM-Kit.NET InputSchema ITool ToolChoice Why tools in chatbots? Αξιόπιστες, υποστηριζόμενες από πηγή απαντήσεις (καιρός, FX, μετατροπές, επιχειρηματικά API). Αργεντινή αλυσίδα: καλέστε πολλά εργαλεία σε μία σειρά και συνδυάστε τα αποτελέσματα. Αποφασιστικότητα και ασφάλεια: τυποποιημένα σχήματα, σαφείς τρόποι αποτυχίας, έλεγχος πολιτικής. Επέκταση: Εφαρμογή του ITool για τη λογική του τομέα, διατήρηση του ελέγχου του κώδικα. Αποδοτικότητα: αφαιρέστε τα μαθηματικά / προοπτικές από τα εργαλεία. κρατήστε το μοντέλο επικεντρωμένο στο σκεπτικό. Product and platform teams; DevOps and internal tools; B2B apps; educators and demos. Target audience: Λειτουργικές απαντήσεις, καθοριστικές μετατροπές / αναφορές, μνήμη πολλαπλών στροφών, εύκολη επέκταση. Problem solved: Sample app: Επιλέξτε ένα τοπικό μοντέλο (ή ένα προσαρμοσμένο URI) Registers three tools (currency, weather, unit conversion) Εκτελεί μια συζήτηση πολλαπλών στροφών όπου το μοντέλο αποφασίζει πότε να καλέσει εργαλεία Εκτυπώνει στατιστικά στοιχεία παραγωγής (tokens, λόγος διακοπής, ταχύτητα, χρήση περιβάλλοντος) Key features: Tool calling via JSON arguments Πλήρης μνήμη διαλόγου Προοδευτική ανατροφοδότηση (downloads/load bars) Ειδικές εντολές: /reset, /continue, /regenerate Multiple tool calls per turn (and across turns) Ενσωματωμένα εργαλεία Tool name Purpose Online? Notes convert_currency ECB rates via Frankfurter (latest or historical) plus optional trend Yes No API key; business days; rounding and date support get_weather Open-Meteo current weather plus optional short hourly forecast Yes No API key; geocoding plus metric/us/si convert_units Offline conversions (length, mass, temperature, speed, etc.) No Temperature is non-linear; can list supported units convert_currency Τα επιτόκια της ΕΚΤ μέσω του Φρανκφούρτη (τελευταία ή ιστορική) συν προαιρετική τάση Yes Χωρίς κλειδί API, εργάσιμες ημέρες, στρογγυλοποίηση και υποστήριξη ημερομηνίας get_weather Open-Meteo current weather plus optional short hourly forecast Yes No API key; geocoding plus metric/us/si convert_units Μετατροπές εκτός σύνδεσης (μήκος, μάζα, θερμοκρασία, ταχύτητα κ.λπ.) Όχι Η θερμοκρασία είναι μη γραμμική, μπορεί να απαριθμήσει τις υποστηριζόμενες μονάδες Εφαρμογή εργαλείων : : , , (Σχέδιο JSON) και Επιστροφή στο JSON. ITool Name Description InputSchema InvokeAsync(string json) Extend with your own tool: chat.Tools.Register(new MyCustomTool()); // implements ITool Χρησιμοποιήστε μοναδικό, σταθερό, χαμηλότερο Τα ονόματα. snake_case Supported Models (Pick per Hardware) Mistral Nemo 2407 12.2B (περίπου 7,7 GB VRAM) Meta Llama 3.1 8B (περίπου 6 GB VRAM) Google Gemma 3 4B Medium (around 4 GB VRAM) Microsoft Phi-4 Mini 3.82B (περίπου 3,3 GB VRAM) Alibaba Qwen-3 8B (περίπου 5,6 GB VRAM) Microsoft Phi-4 14.7B (περίπου 11 GB VRAM) IBM Granite 4 7B (περίπου 6 GB VRAM) Open-AI GPT-OSS 20B (περίπου 16 GB VRAM) Or provide a custom model URI (GGUF/LMK) εντολές /reset - σαφής συνομιλία - continue last assistant message /continue /regenerate - νέα απάντηση για την είσοδο τελευταίου χρήστη Example Prompts "Μετατροπή 125 USD σε EUR και εμφανίστε μια τάση 7 ημερών." «Ο καιρός στην Αθήνα τις επόμενες 6 ώρες (μετρική).» «Μετατροπή 65 mph σε km/h.» / «Μονάδες πίεσης λίστας.» "Τώρα 75 °F σε °C, στη συνέχεια 2 χιλιόμετρα σε μίλια." Behavior and Policies (Quick Reference) Πολιτική επιλογής εργαλείων: Από προεπιλογή το δείγμα επιτρέπει στο μοντέλο να αποφασίσει (ToolChoice.Auto). Supports several tool invocations per turn; outputs are injected back into context. Multiple tool calls: Σχετικά σχήματα: Το ακριβές InputSchema συν μια συνοπτική περιγραφή βελτιώνουν την κατασκευή του επιχειρήματος. Δικτύωση: Το νόμισμα και ο καιρός απαιτούν το διαδίκτυο. η μετατροπή μονάδας είναι εκτός σύνδεσης. Σφάλματα: σαφείς εξαιρέσεις για άκυρες εισόδους (μονάδες, ημερομηνίες, τοποθεσίες). Getting Started .NET Framework 4.6.2 ή .NET 6.0 Prerequisites: Download: git clone https://github.com/LM-Kit/lm-kit-net-samples.git cd lm-kit-net-samples/console_net/multi_turn_chat_with_tools Run: dotnet build dotnet run Στη συνέχεια, επιλέξτε ένα μοντέλο ή επικολλήστε ένα προσαρμοσμένο URI. Chat φυσικά. ο βοηθός θα καλέσει ένα ή περισσότερα εργαλεία, όπως απαιτείται. , , οποιαδήποτε στιγμή /reset /continue /regenerate Project link: Αποθήκευση GitHub Πλήρες παράδειγμα: Όλοι οι τρεις δρόμοι ολοκλήρωσης // Load a capable local model var model = LM.LoadFromModelID("gptoss:20b"); using var chat = new MultiTurnConversation(model); // 1) ITool implementation chat.Tools.Register(new WeatherTool()); // 2) LMFunctionAttribute methods var tools = LMFunctionToolBinder.FromType (); chat.Tools.Register(tools); // 3) MCP import var mcp = new McpClient(new Uri("https://mcp.example/api"), new HttpClient()); chat.Tools.Register(mcp); // Safety and behavior chat.ToolPolicy = new ToolCallPolicy { Choice = ToolChoice.Auto, MaxCallsPerTurn = 3, // AllowParallelCalls = true // enable only if tools are idempotent }; // Human-in-the-loop chat.BeforeToolInvocation += (_, e) => { /* approve or cancel */ }; chat.AfterToolInvocation += (_, e) => { /* log results */ }; // Run var answer = chat.Submit( "Find 3 relevant docs for 'safety policy' and summarize."); Console.WriteLine(answer.Content); Why Go Local with LM-Kit? Σχετικά με το Cloud Agent Frameworks Μηδενικό κόστος API: Καμία χρέωση ανά token. Εκτελέστε απεριόριστες συνομιλίες. Πλήρες απόρρητο: Τα δεδομένα του χρήστη δεν φεύγουν ποτέ από τη συσκευή. GDPR / HIPAA φιλικό. Local inference eliminates network roundtrips entirely. Sub-100ms latency: Λειτουργεί εκτός σύνδεσης: Οι πράκτορες λειτουργούν χωρίς σύνδεση στο Internet. Χωρίς όρια ποσοστώσεων: κλιμάκωση σε εκατομμύρια αιτήματα χωρίς γροθιά. Πλήρης έλεγχος: Ιδιοκτησία του πακέτου. χωρίς κλειδαριές πωλητή ή αποσβέσεις API. vs. Basic Prompt Engineering Συστήματα ασφαλούς τύπου: Η επικύρωση JSON Schema συλλαμβάνει κακά επιχειρήματα πριν από την εκτέλεση. Αποφασιστικά αποτελέσματα: σαφείς καταστάσεις επιτυχίας / σφάλματος, όχι εύθραυστη ανάλυση regex. Run multiple tools concurrently when safe. Parallel execution: Πλήρης παρατηρησιμότητα: Διαρθρωμένα γεγονότα σε κάθε στάδιο, όχι αρχαιολογία. Mock tools, inject results, replay conversations. Testable contracts: Τα όρια των σφαλμάτων: Ευγενικές αποτυχίες με λογική επαναλήψεων και παγίδες. Κατηγορία: Manual Function Calling Το μοντέλο αποφασίζει: Ο πράκτορας επιλέγει αυτόνομα εργαλεία και επιχειρήματα, χωρίς εύθραυστες αλυσίδες if/else. Αυτόματη αλυσίδα: Πολλαπλές κλήσεις εργαλείων ανά στροφή, τα αποτελέσματα επιστρέφουν αυτόματα. 90% λιγότερο λέβητα: Καταχωρήστε τα εργαλεία μία φορά, όχι ανά μοντέλο ή ανά πρόταση. Ενσωματωμένη ασφάλεια: Πρόληψη κύκλων, όρια μέγιστων κλήσεων, κλειδαριές έγκρισης έξω από το κουτί. Model-agnostic API: Ο ίδιος κώδικας λειτουργεί σε Mistral, LLaMA, Qwen, Granite, GPT-OSS. Add tools without refactoring conversation logic. Progressive enhancement: Απόδοση και περιορισμοί Προσδοκίες απόδοσης Επαναλαμβανόμενη επίκληση εργαλείων: Περίπου 2 έως 5 ms ανά κλήση (αποκάλυψη συν επικύρωση) Εργαλεία δικτύου: 50 έως 500 ms ανάλογα με το API Τοπικά εργαλεία: Λιγότερο από 1 ms Η συμπερίληψη μοντέλου παραμένει ο κύριος παράγοντας λήθης. Απαιτήσεις Τα μοντέλα πρέπει να υποστηρίζουν την κλήση εργαλείων (ελέγξτε HasToolCalls). Τα εξαρτημένα από το δίκτυο εργαλεία απαιτούν σύνδεση στο διαδίκτυο. Parallel execution requires thread-safe, idempotent tools. Συνιστώμενη μνήμη GPU: 6 έως 16 GB VRAM ανάλογα με το μέγεθος του μοντέλου. Γνωστοί περιορισμοί Η ποιότητα της επιλογής εργαλείων εξαρτάται από σαφείς περιγραφές και σχήματα. Σύνθετα αντικείμενα που ενσωματώνονται σε επιχειρήματα μπορεί να συγχέουν μικρότερα μοντέλα. Very long tool chains (more than 10 calls) may exceed context windows. Έτοιμοι να χτίσουν; Clone the sample git clone https://github.com/LM-Kit/lm-kit-net-samples.git cd lm-kit-net-samples/console_net/multi_turn_chat_with_tools Pick your integration approach Need full control? Use ITool Prototyping quickly? Use [LMFunction] Using external catalogs? Use McpClient Replace demo tools with your APIs, databases, or business logic. Add your domain logic Set policies that fit your use case Simple lookups: MaxCallsPerTurn = 1 Complex workflows: with approval hooks MaxCallsPerTurn = 10 On-device. Private. Reliable. Observable. Ship agents that actually work Ξεκινήστε να δημιουργείτε ροές εργασίας που σέβονται την ιδιωτικότητα των χρηστών, να εκτελούνται οπουδήποτε και να παραμένουν υπό τον έλεγχό σας.