Herramientas para llamar a agentes de IA locales en C#

Las herramientas son una parte fundamental de la IA de agentes, junto con estas capacidades básicas: Mientras que los modelos de idiomas excelen en la comprensión y generación de texto, las herramientas amplían sus habilidades al permitir que interactúen con el mundo real: buscan la web para obtener información actual, ejecutan código para cálculos, acceden a bases de datos, leen archivos o se conecten a servicios externos a través de APIs. Piensa en herramientas como las manos y los ojos de un agente de IA. Transforman un sistema de conversación en un agente que puede realizar tareas mediante el puente entre el razonamiento y la acción. Cuando un agente necesita comprobar el tiempo, analizar una hoja de cálculo o enviar un correo electrónico, invoca la herramienta adecuada, recibe el resultado y incorpora esa información en su respuesta. ¿Está interesado en cómo los agentes retienen y utilizan el contexto a lo largo del tiempo? . Agente de memoria Por qué los agentes locales han sido duros Construir agentes de IA que realmente puedan hacer las cosas localmente ha sido sorprendentemente difícil. Modelos que entienden cuándo y cómo llamar funciones externas Privacidad sin enviar datos a la nube Un tiempo de ejecución que puede analizar llamadas de herramientas, validar argumentos e inyectar resultados Flujos específicos del modelo porque cada modelo tiene diferentes formatos de llamada de herramientas y patrones de interacción, lo que requiere una lógica personalizada para la intercepción, la inyección de resultados y el orden de acción. Controles de seguridad para evitar loop infinitos y costes de fuga Observación clara para que sepa lo que está haciendo su agente Hasta ahora, la mayoría de los frameworks de agentes forzaban una elección: agentes poderosos basados en la nube con preocupaciones de latencia y privacidad, o modelos locales limitados sin el soporte adecuado de herramientas. Por qué la herramienta llamada cambia todo Con las nuevas capacidades de llamada de herramientas de LM-Kit, sus agentes locales pueden: Respuestas de tierra en datos reales. No más pronósticos meteorológicos alucinados o tasas de cambio. Los agentes recogen respuestas de API reales y pueden citar fuentes. Flujos de trabajo complejos en cadena. Por ejemplo: compruebe el tiempo, convierta la temperatura a las unidades preferidas del usuario y luego sugiere actividades. Mantenga la privacidad completa. Todo se ejecuta en el dispositivo. Las consultas de los usuarios, los argumentos de herramientas y los resultados nunca abandonan sus máquinas. Manténgase determinista y seguro: los esquemas de escritura, las entradas validadas, los controles de políticas y los ganchos de aprobación impiden que los agentes se vayan a engañar. Añade APIs empresariales, bases de datos internas o catálogos de MCP externos como herramientas.El modelo aprende a usarlos a partir de descripciones y esquemas solos. Lo que es nuevo a la vista Modelos deciden cuándo llamar herramientas, pasan args JSON estructurados, y usan los resultados para responder a los usuarios con precisión. Soporte de flujo dedicado a familias de modelos como Mistral, GPT-OSS, Qwen, Granite, LLaMA y más, todo a través de un único tiempo de ejecución. Three ways to add tools: Implement ITool Annotate methods with [LMFunction] Import catalogs from MCP servers API unificada que ejecuta SLMs locales con políticas per-turn, guardrails y eventos para humano-in-the-loop y observabilidad en cada etapa. Todos los modos de llamada de funciones son compatibles. Función simple, Función múltiple, Función paralela y Función múltiple paralela, elija secuenciación estricta o paralelismo seguro. Flujo de llamadas de herramientas consciente del modelo. SLMs modernos emiten llamadas de herramientas estructuradas. LM-Kit analisa las llamadas, las dirige a sus herramientas y envía resultados de vuelta con correlación y tipos de resultado claros para un camino de inferencia confiable. Cómo funciona: Comenzando Aquí hay un ejemplo de trabajo completo en menos de 20 líneas: using LMKit.Model; using LMKit.TextGeneration; using LMKit.Agents.Tools; using System.Text.Json; // 1) Load a local model from the catalog var model = LM.LoadFromModelID("gptoss:20b"); // OpenAI GPT-OSS 20B // Optional: confirm tool-calling capability if (!model.HasToolCalls) { /* choose a different model or fallback */ } // 2) Create a multi-turn conversation using var chat = new MultiTurnConversation(model); // 3) Register tools (see three options below) chat.Tools.Register(new WeatherTool()); // 4) Shape the behavior per turn chat.ToolPolicy.Choice = ToolChoice.Auto; // let the model decide chat.ToolPolicy.MaxCallsPerTurn = 3; // guard against loops // 5) Ask a question var reply = chat.Submit("Plan my weekend and check the weather in Toulouse."); Console.WriteLine(reply.Content); El catálogo de modelos incluye GPT-OSS y muchas otras familias. Puedes sacar una tarjeta llamada como También puedes comprobar Antes de confiar en las herramientas. LM.LoadFromModelID gptoss:20b HasToolCalls Vea el por los detalles. Documentación Modelo Catálogo Pruebe ahora: Sample de GitHub Una muestra de consola listo para la producción demuestra el chat multi-turn con la llamada de herramientas (moneda, clima, conversión de unidad), políticas por turno, retroalimentación del progreso y comandos especiales. Create Multi-Turn Chatbot with Tools in .NET Applications Creación de Chatbots Multi-Turn con herramientas en aplicaciones .NET Tres maneras de agregar herramientas Implementación de ITool (Control total) Lo mejor cuando necesitas contratos claros y validación personalizada. Este fragmento demuestra la aplicación de la La interfaz para que un LLM pueda llamar tu herramienta directamente. , de , de ), analiza los argumentos de JSON, ejecuta su lógica y devuelve JSON estructurado al modelo. ITool Name Description InputSchema public sealed class WeatherTool : ITool { public string Name => "get_weather"; public string Description => "Get current weather for a city. Returns temperature, conditions, and optional hourly forecast."; // JSON Schema defines expected arguments public string InputSchema => """ { "type": "object", "properties": { "city": {"type": "string", "description": "City name (e.g., 'Paris' or 'New York')"} }, "required": ["city"] } """; public async Task InvokeAsync(string arguments, CancellationToken ct = default) { // Parse the model's JSON arguments var city = JsonDocument.Parse(arguments).RootElement.GetProperty("city").GetString(); // Call your weather API var weatherData = await FetchWeatherAsync(city); // Return structured JSON the model can understand var result = new { city, temp_c = weatherData.Temp, conditions = weatherData.Conditions }; return JsonSerializer.Serialize(result); } } // Register it chat.Tools.Register(new WeatherTool()); Control completo sobre la validación, ejecución async, manejo de errores y formatación de resultados. Why use ITool? 2) Métodos de anotación con [LMFunction] (Binding rápido) Mejor para prototipos rápidos y herramientas sincrónicas simples. Qué es: Añadir LM-Kit los descubre y expone cada uno como un , generando un esquema JSON a partir de los parámetros del método. [LMFunction(name, description)] ITool Cómo es cableado: reflejar y vincular con (o el / ), luego registra las herramientas resultantes a través de . LMFunctionToolBinder.FromType () FromInstance FromAssembly chat.Tools.Register(...) public sealed class MyDomainTools { [LMFunction("search_docs", "Search internal documentation by keyword. Returns top 5 matches.")] public string SearchDocs(string query) { var results = _documentIndex.Search(query).Take(5); return JsonSerializer.Serialize(new { hits = results }); } [LMFunction("get_user_info", "Retrieve user profile and preferences.")] public string GetUserInfo(int userId) { var user = _database.GetUser(userId); return JsonSerializer.Serialize(user); } } // Automatically scan and register all annotated methods var tools = LMFunctionToolBinder.FromType (); chat.Tools.Register(tools); Menos caramelos, el genera esquemas a partir de tipos de parámetros y registra todo en una sola línea. Why use [LMFunction]? vinculante Importar catálogos de MCP (servicios externos) Mejor para conectarse a ecosistemas de herramientas de terceros a través del Protocolo de Contexto Modelo. Lo que hace: Usos to establish a JSON-RPC session with an MCP server, fetch its tool catalog, and adapt those tools so your agent can call them. McpClient Cómo funciona: Crear (opcionalmente establece un token de portador), luego para importar el catálogo; LM-Kit gestiona , de La persistencia y la persistencia de la sesión. new McpClient(uri, httpClient) chat.Tools.Register(mcp, overwrite: false) tools/list tools/call using LMKit.Mcp.Client; // Connect to an MCP server var mcp = new McpClient( new Uri("https://mcp.example.com/api"), new HttpClient() ); // Import all available tools from the server int toolCount = chat.Tools.Register(mcp, overwrite: false); Console.WriteLine($"Imported {toolCount} tools from MCP server"); Acceso instantáneo a los catálogos de herramientas curados. El servidor maneja y sobre JSON-RPC; LM-Kit valida los esquemas localmente. Why use MCP? tools/list tools/call este . Documentación Mcpclient Modos de ejecución que coinciden con su flujo de trabajo Seleccione la política correcta para cada turno de conversación: Función sencilla Una herramienta, una respuesta chat.ToolPolicy.MaxCallsPerTurn = 1; chat.ToolPolicy.Choice = ToolChoice.Required; // force at least one call "¿Cómo es el tiempo en Tokio?" llama Una vez y respuestas. Example: get_weather Funciones múltiples Cadenas de herramientas secuenciales. chat.ToolPolicy.MaxCallsPerTurn = 5; chat.ToolPolicy.Choice = ToolChoice.Auto; "Convierte 75 ° F en Celsius, luego dime si necesito una chaqueta". Example: Llama a conversión_temperatura(75, "F", "C") y obtiene 23.9°C Llamado get_weather ("localidad actual") y obtiene las condiciones Síntesis de la respuesta: "Es 24 ° C y soleado. una chaqueta ligera debe estar bien". Funciones paralelas ejecutar varias herramientas simultáneamente. chat.ToolPolicy.AllowParallelCalls = true; chat.ToolPolicy.MaxCallsPerTurn = 10; Comparar el tiempo en París, Londres y Berlín. Example: Llamas get_weather("Paris"), get_weather("Londres"), get_weather("Berlín") simultáneamente Esperando todos los resultados, comparaciones y respuestas Sólo habilite si sus herramientas son idempotentes y seguros. Funciones múltiples paralelas Combinar la cadena y el paralelismo. "Comprobar el tiempo en 3 ciudades, convertir todos los tiempos en Fahrenheit, y recomendar cuál visitar." Example: Paralelo: captura el tiempo para 3 ciudades Paralelo: convierte todas las temperaturas Sequencial: recomendaciones basadas en los resultados este Todas las opciones incluidas and Los estándares son conservadores: paralelo, llamadas max limitadas. Documentación de ToolCallPolicy ToolChoice.Specific ForcedToolName Seguridad, control y observabilidad Controles Políticos Configurar parámetros predefinidos seguros y límites por turno. . Documentación de ToolCallPolicy chat.ToolPolicy = new ToolCallPolicy { Choice = ToolChoice.Auto, // let model decide MaxCallsPerTurn = 3, // prevent runaway loops AllowParallelCalls = false, // safe default: sequential only // Optional: force a specific tool first // Choice = ToolChoice.Specific, // ForcedToolName = "authenticate_user" }; El hombre en el rumbo Revisar, aprobar o bloquear la ejecución de herramientas. Hooks: , de , de , de . Antes de la convocatoria Después de la invitación AnterioresTokenSampling Memoria Recuerdo // Approve tool calls before execution chat.BeforeToolInvocation += (sender, e) => { Console.WriteLine($"About to call: {e.ToolCall.Name}"); Console.WriteLine($" Arguments: {e.ToolCall.ArgumentsJson}"); // Block sensitive operations if (e.ToolCall.Name == "delete_user" && !UserHasApproved()) { e.Cancel = true; Console.WriteLine(" Blocked by policy"); } }; // Audit results after execution chat.AfterToolInvocation += (sender, e) => { var result = e.ToolCallResult; Console.WriteLine($"{result.ToolName} completed"); Console.WriteLine($" Status: {result.Type}"); Console.WriteLine($" Result: {result.ResultJson}"); _telemetry.LogToolCall(result); // send to monitoring }; // Override token sampling in real time chat.BeforeTokenSampling += (sender, e) => { if (_needsDeterministicOutput) e.Sampling.Temperature = 0.1f; }; // Control memory injection chat.MemoryRecall += (sender, e) => { Console.WriteLine($"Injecting memory: {e.Text.Substring(0, 50)}..."); // e.Cancel = true; // optionally cancel }; Flujo de datos estructurado Cada llamada fluye a través de un tubo tipado para la reproductibilidad y los registros claros. Incoming: ToolCall con Id estable y ArgumentsJson. Outgoing: ToolCallResult con ToolCallId, ToolName, ResultJson y Tipo (Succeso o Error). Prueba: Muestra de chat multi-turn Creación de Chatbots Multi-Turn con herramientas en aplicaciones .NET Demonstrates La llamada de herramientas de agentes: durante una conversación, el modelo puede decidir llamar una o varias herramientas para recoger datos o ejecutar cálculos, pasar argumentos JSON que coincidan con los de cada herramienta. , and use each tool's JSON result to produce a grounded reply while preserving full multi-turn context. Tools implement y se manejan por un registro; el comportamiento por turno se forma a través de . Purpose: LM-Kit.NET InputSchema ITool ToolChoice Why tools in chatbots? Respuestas confiables y respaldadas por la fuente (temperatura, FX, conversiones, API de negocios). Agentic chaining: llamar varias herramientas en un turno y combinar los resultados. Determinismo y seguridad: esquemas tipados, modos de fracaso claros, control de políticas. Extensibilidad: implementar ITool para la lógica del dominio; mantener el código audible. Eficiencia: descarga de las matemáticas / perspectivas a las herramientas; mantenga el modelo enfocado en el razonamiento. Product and platform teams; DevOps and internal tools; B2B apps; educators and demos. Target audience: Respuestas actuables, conversiones / citas deterministas, memoria multi-turn, extensibilidad fácil. Problem solved: Sample app: Permite seleccionar un modelo local (o un URI personalizado) Registra tres herramientas (moneda, clima, conversión de unidades) Ejecuta un chat multi-turn donde el modelo decide cuándo llamar herramientas Imprima estadísticas de generación (tokens, razón de parada, velocidad, uso de contexto) Key features: Desarrollo de herramientas con argumentos JSON Memoria de diálogo completa Feedback de progreso (barras de descarga/carga) Comandos especiales: /reset, /continuar, /regenerar Múltiples llamadas de herramientas por turno (y a través de turnos) Herramientas construidas Tool name Purpose Online? Notes convert_currency ECB rates via Frankfurter (latest or historical) plus optional trend Yes No API key; business days; rounding and date support get_weather Open-Meteo current weather plus optional short hourly forecast Yes No API key; geocoding plus metric/us/si convert_units Offline conversions (length, mass, temperature, speed, etc.) No Temperature is non-linear; can list supported units convert_currency Tasas del BCE a través de Frankfurt (última o histórica) más tendencia opcional Sí No hay clave de API; días laborables; soporte de ronda y fecha get_weather El tiempo actual de Open-Meteo más pronóstico opcional de hora corta Sí No hay clave API; geocodificación más métrica/us/si convert_units Conversiones fuera de línea (longitud, masa, temperatura, velocidad, etc.) No La temperatura es no lineal; puede listar unidades soportadas Implementación de herramientas : de , de , de (Esquema de JSON) y Regreso a JSON. ITool Name Description InputSchema InvokeAsync(string json) Extend with your own tool: chat.Tools.Register(new MyCustomTool()); // implements ITool Uso único, estable, inferior los nombres. snake_case Supported Models (Pick per Hardware) Mistral Nemo 2407 12.2B (cerca de 7.7 GB de VRAM) Meta Llama 3.1 8B (aproximadamente 6 GB de VRAM) Google Gemma 3 4B Medium (aproximadamente 4 GB de VRAM) Microsoft Phi-4 Mini 3.82B (aproximadamente 3,3 GB de VRAM) Alibaba Qwen-3 8B (aproximadamente 5.6 GB de VRAM) Microsoft Phi-4 14.7B (aproximadamente 11 GB de VRAM) IBM Granite 4 7B (aproximadamente 6 GB de VRAM) Open-AI GPT-OSS 20B (aproximadamente 16 GB de VRAM) O proporcione un URI de modelo personalizado (GGUF/LMK) Los comandos /reset - conversación clara /continue - continúa el último mensaje del asistente /regenerate - nueva respuesta para la entrada del último usuario Ejemplos rápidos "Convertir USD 125 a EUR y mostrar una tendencia de 7 días." "El tiempo en Alcalá de Henares las próximas 6 horas (métrico)." "Convertir 65 mph a km/h." / "Lista de unidades de presión." "Ahora 75 °F a °C, luego 2 km a millas." Behavior and Policies (Quick Reference) Política de selección de herramientas: Por defecto, la muestra permite al modelo decidir (ToolChoice.Auto). Puede exigir / prohibir / forzar una herramienta específica por turno. Múltiples llamadas de herramientas: soporta varias invocaciones de herramientas por turno; las salidas se inyectan de nuevo en el contexto. Esquemas: InputSchema preciso y descripción concisa mejoran la construcción de argumentos. Red: La moneda y el clima requieren internet; la conversión de unidades es offline. Errores: Excepciones claras para entradas inválidas (unidades, fechas, ubicaciones). Empezando a .NET Framework 4.6.2 o .NET 6.0 Prerequisites: Download: git clone https://github.com/LM-Kit/lm-kit-net-samples.git cd lm-kit-net-samples/console_net/multi_turn_chat_with_tools Run: dotnet build dotnet run Luego, elija un modelo o pega un URI personalizado. Chatea naturalmente; el asistente llamará una o varias herramientas según sea necesario. , de , de En cualquier momento. /reset /continue /regenerate Project link: El repositorio de GitHub Ejemplo completo: Los tres caminos de integración // Load a capable local model var model = LM.LoadFromModelID("gptoss:20b"); using var chat = new MultiTurnConversation(model); // 1) ITool implementation chat.Tools.Register(new WeatherTool()); // 2) LMFunctionAttribute methods var tools = LMFunctionToolBinder.FromType (); chat.Tools.Register(tools); // 3) MCP import var mcp = new McpClient(new Uri("https://mcp.example/api"), new HttpClient()); chat.Tools.Register(mcp); // Safety and behavior chat.ToolPolicy = new ToolCallPolicy { Choice = ToolChoice.Auto, MaxCallsPerTurn = 3, // AllowParallelCalls = true // enable only if tools are idempotent }; // Human-in-the-loop chat.BeforeToolInvocation += (_, e) => { /* approve or cancel */ }; chat.AfterToolInvocation += (_, e) => { /* log results */ }; // Run var answer = chat.Submit( "Find 3 relevant docs for 'safety policy' and summarize."); Console.WriteLine(answer.Content); Why Go Local with LM-Kit? vs. Cloud Agent Frameworks Costo de API cero: No hay tarifas por token. Execute conversaciones ilimitadas. Privacidad completa: los datos del usuario nunca salen del dispositivo. GDPR/HIPAA amigable. Latencia sub-100ms: La inferencia local elimina completamente las rondas de red. Funciona fuera de línea: los agentes funcionan sin conexión a Internet. No hay límites de tasa: Escale a millones de solicitudes sin hacer clic. Control completo: Propiedad de la pila. Sin bloqueo del vendedor ni depreciaciones de API. vs. Basic Prompt Engineering Esquemas seguros de tipo: La validación de JSON Schema captura argumentos malos antes de la ejecución. Resultados deterministas: estados de éxito/error claros, no análisis de regex frágil. Ejecución paralela: ejecute varias herramientas simultáneamente cuando está seguro. Observación completa: Eventos estructurados en cada etapa, no registro arqueológico. Contratos probables: herramientas de mock, resultados de inyección, conversas de repetición. Límites de error: fracasos graciosos con lógica de retraso y fallas. vs. Manual Function Calling Agent autonomously picks tools and arguments, no brittle if/else chains. Model decides: Auto-Chain: llamadas de varias herramientas por turno, los resultados se envían automáticamente. 90% menos de caldera: Regístrate las herramientas una vez, no por modelo o por prompt. Seguridad integrada: prevención de loop, límites de llamadas máximas, ganchos de aprobación fuera de la caja. Same code works across Mistral, LLaMA, Qwen, Granite, GPT-OSS. Model-agnostic API: Add tools without refactoring conversation logic. Progressive enhancement: Desempeño y limitaciones Expectativas de rendimiento Invocación de herramientas sobre la cabeza: Alrededor de 2 a 5 ms por llamada (parsing más validación) Herramientas de red: 50 a 500 ms dependiendo de la API Herramientas locales: Menos de 1 ms La inferencia del modelo sigue siendo el factor de latencia primario. Requisitos Models must support tool calling (check ). HasToolCalls Las herramientas dependientes de la red requieren una conexión a Internet. La ejecución paralela requiere herramientas seguras e idempotentes. Recommended GPU memory: 6 to 16 GB VRAM depending on model size. Known Limitations La calidad de la selección de herramientas depende de descripciones y esquemas claros. Los objetos complejos en los argumentos pueden confundir a los modelos más pequeños. Las cadenas de herramientas muy largas (más de 10 llamadas) pueden superar las ventanas de contexto. ¿Listo para construir? Clone the sample git clone https://github.com/LM-Kit/lm-kit-net-samples.git cd lm-kit-net-samples/console_net/multi_turn_chat_with_tools Pick your integration approach Need full control? Use ITool Prototyping quickly? Use [LMFunction] Using external catalogs? Use McpClient Replace demo tools with your APIs, databases, or business logic. Add your domain logic Set policies that fit your use case Simple lookups: MaxCallsPerTurn = 1 Complex workflows: with approval hooks MaxCallsPerTurn = 10 On-device. Private. Reliable. Observable. Ship agents that actually work Comience a construir flujos de trabajo de agentes que respeten la privacidad de los usuarios, se ejecuten en cualquier lugar y permanezcan bajo su control.