ការពិនិត្យឡើងវិញផលិតកម្មសម្រាប់អ៊ីមែលជាច្រើន (ជាមួយ KAOS + OTel + SigNoz)

គោលបំណងធ្វើការដើម្បីបន្ថែមការ observerability នៃគម្រោងផលិតកម្មទៅនឹងប្រព័ន្ធ AI multi-agent ជាមួយនឹងប្រព័ន្ធ K8s Agent Orchestration ដោយប្រើ OpenTelemetry និង SigNoz អ្នកបានបង្កើតអេក្រង់ AI ដែលធ្វើការនៅក្នុងកុំព្យូទ័ររបស់អ្នក។ វាដោយស្វ័យប្រវត្តិបណ្តុះបណ្តាលឧបករណ៍ជាមួយគ្នា, អនុញ្ញាតតម្រូវការដល់អេក្រង់ sub-agent ដែលមានជំនាញវិជ្ជាជីវៈនិងផលិតផលល្អឥតខ្ចោះ។ បន្ទាប់មកអ្នកដំឡើងវាទៅផលិតកម្ម: អ្នកប្រើប្រាស់បានប្រកាសថាតម្រូវការនេះបាន “កាត់បន្ថយរហូតដល់រហូតដល់រហូតដល់រហូតដល់រហូតដល់រហូតដល់រហូតដល់រហូតដល់រហូតដល់រហូតដល់រហូតដល់” ។ ពួកគេបាននិយាយថាពួកគេបានទទួលបានការឆ្លើយតបអស្ចារ្យ។ គំនូរជីវចលរបស់អ្នកបង្ហាញថា Agent Run តើមានអ្វីដែលបានធ្វើនៅក្នុងរយៈពេល 45 វិនាទីរវាងសំណួរនិងការឆ្លើយតប? សូមអរគុណដល់ The observability challenge of agentic systems. “កំណត់សៀវភៅធម្មជាតិបង្ហាញអ្នកថាវាបានធ្វើការ។ ការមើលឃើញបង្ហាញអ្នកពីរបៀបដែលវាបានធ្វើការដូច្នេះ។” “កំណត់សៀវភៅធម្មជាតិបង្ហាញអ្នកថាវាបានធ្វើការ។ ការមើលឃើញបង្ហាញអ្នកពីរបៀបដែលវាបានធ្វើការដូច្នេះ។” ក្នុងអត្ថបទនេះយើងនឹងដំណើរការតាមរយៈឧទាហរណ៍ end-to-end ទាំងអស់នៃការពិនិត្យឡើងវិញសម្រាប់ប្រព័ន្ធជាច្រើន។ ខាងក្រោមនេះគឺជាការពិនិត្យឡើងវិញនៃប្រព័ន្ធអតិថិជនជាច្រើនដែលយើងនឹងដោះស្រាយ, ការត្រួតពិនិត្យនិងការធ្វើតេស្តនៅក្នុងប្រកាសនេះ: សូមចាប់ផ្តើមជាមួយសំណួរសំខាន់នៃ ... ហេតុអ្វីបានជាប្រព័ន្ធធាតុជាច្រើនត្រូវការ (ប្រភេទផ្សេងទៀត) ការមើលឃើញ? microservices ប្រព័ន្ធ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ វាគឺជាការមិនមែនគ្រាន់តែជាសំណួរ ប្រព័ន្ធអេឡិចត្រូនិកបាត់បន្ថយការជឿទុកចិត្តធម្មតា: Traditional API Agentic System Synchronous request-response Iterative reasoning loops Predictable latency (50-500ms) Variable: 100ms to 60+ seconds Deterministic code paths Non-deterministic LLM decisions Single service per request Model calls + tool calls + delegations Fixed cost per request Cost varies by token usage ការឆ្លងកាត់ការឆ្លងកាត់ គោលបំណង Iterative Reasoning ទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំ ការផ្លាស់ប្តូរ: 100ms ទៅ 60+ វិនាទី គំនូរកូដ Deterministic លក្ខខណ្ឌនៃការដោះស្រាយ LLM ការផ្តល់សេវាកម្មតាមតម្រូវការ ម៉ូដែលការទូរស័ព្ទ + ការទូរស័ព្ទឧបករណ៍ + សេវាកម្ម តម្លៃទូទៅតាមការទិញ តម្លៃផ្លាស់ប្តូរដោយប្រើ token AI Agents 101: The Agentic Loop សូមអរគុណសម្បត្តិនៃប្រព័ន្ធអេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់។ ខាងក្រោមនេះគឺជាប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រហែលប្រ async def process_message(self, messages): for step in range(self.max_steps): # 1. Call the LLM specifically for tool/delegation requests response = await self.model.process_tool_request(messages) # 2. If the model wants to use a tool, execute it if response.has_tool_call: result = await self.execute_tool(response.tool_call) messages.append({"role": "tool", "content": result}) continue # 3. If the model wants to delegate, call another agent elif response.needs_delegation: result = await self.delegate_to_agent(response.delegation) messages.append({"role": "assistant", "content": result}) continue else: # If no tools/delegations we move to final answer break # 4. We return our final answer with any context gathered return await self.model.process_final_answer(messages) ដូចដែលយើងអាចមើលឃើញថ្នាំទាំងអស់នេះអាចទទួលបានដំណើរការផ្សេងគ្នានេះ។ ម៉ូដែលនេះអាចត្រូវការការទូរស័ព្ទឧបករណ៍មួយឬបី។ វាត្រូវបានអនុញ្ញាតឱ្យអ្នកចូលទៅក្នុងប្រព័ន្ធផ្សព្វផ្សាយមួយឬប្រព័ន្ធផ្សព្វផ្សាយតាមរយៈប្រព័ន្ធផ្សព្វផ្សាយបច្ចុប្បន្ន (ដូចជា “ការចាប់ផ្តើមទម្រង់” ... “ការបញ្ចប់ទម្រង់”) មិនបង្ហាញអ្នកអំពីអ្វីដែលពិតប្រាកដបានកើតឡើង។ ហើយបន្ទាប់ពីយើងទទួលបានវាទៅក្នុងប្រព័ន្ធផ្លាស់ប្តូរនេះវាបានក្លាយជាប្រសើរជាងមុនដើម្បីយល់ដឹងអំពីអ្វីដែលកំពុងកើតឡើង - ដូចដែលយើងនឹងមើលឃើញនៅក្នុងប្រកាសនេះ។ នៅក្នុងផ្នែកចុងក្រោយនៃប្រកាសនេះយើងនឹងបង្ហាញអ្នកពីរបៀបដែលយើងនឹងឧបករណ៍ loop agentic នេះជាពិសេសផងដែរ។ យើងបានផ្លាស់ប្តូរ “ការទាមទារ-ការឆ្លើយតប” ដោយ “ការទាមទារ-ការប៉ះពាល់-ឧបករណ៍-ការប៉ះពាល់-ការផ្លាស់ប្តូរ-ការប៉ះពាល់-ការឆ្លើយតប” ។ យើងបានផ្លាស់ប្តូរ “ការទាមទារ-ការឆ្លើយតប” ដោយ “ការទាមទារ-ការប៉ះពាល់-ឧបករណ៍-ការប៉ះពាល់-ការផ្លាស់ប្តូរ-ការប៉ះពាល់-ការឆ្លើយតប” ។ មូលនិធិរបស់ Agent Observability OpenTelemetry ផ្តល់នូវបីប្រភេទនៃទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យទិន្នន័យ។ Traces ការបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តុះបណ្តាល HTTP POST /v1/chat/completions (15.2s total) -> agent.agentic_loop -> agent.step.1 (3.1s) -> model.inference (3.0s) -> agent.step.2 (8.5s) ->model.inference (2.1s) -> tool.web_search (6.3s) agent.step.3 (3.4s) -> model.inference (3.3s) លោក Traces បាន ឆ្លើយតប: "អ្វីទៅជាដំណើរការនេះបានតាមរយៈអេក្រង់របស់ខ្ញុំ?" ឆ្លើយតប: "អ្វីបានជាដំណើរការនេះបានតាមរយៈអេក្រង់របស់ខ្ញុំ?" Traces Logs ជាទូទៅនៅក្នុងកម្មវិធីកម្មវិធី, logging អនុញ្ញាតឱ្យការមើលខាងក្នុងនៃការអនុវត្តនិងដំណើរការនៃកម្មវិធី។ These provide a way to understand what happened throughout a particular request or session, and catch also critical information such as exceptions. នៅលើ OpenTelemetry, សៀវភៅនេះផងដែរត្រូវបានកាត់បន្ថយជាមួយនឹងដំណាក់កាលសមរម្យរបស់ពួកគេដូច្នេះពួកគេអាចត្រូវបានតភ្ជាប់ជាមួយគ្នា។ 2024-01-15 10:30:45 INFO [trace_id=abc123] Starting message processing 2024-01-15 10:30:47 DEBUG [trace_id=abc123] Model response: calling tool 'web_search' 2024-01-15 10:30:53 ERROR [trace_id=abc123] Tool execution failed: API rate limited សៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅ ឆ្លើយតប: “អ្វីដែលអ្នកជំនាញបាន“គិត” នៅពេលដំណោះស្រាយទាំងអស់?” Logs Metrics វិញ្ញាបនប័ត្រផ្តល់នូវ KPIs ដែលមានទំហំទូលាយដែលមានមូលដ្ឋានលើពេលវេលាដែលបានអភិវឌ្ឍតាមរយៈពេលវេលាហើយអាចត្រូវបានបំពាក់និងបង្វិលដើម្បីបង្ហាញប្រវត្តិសាស្រ្តមួយចំនួន។ <- Store number of tokens per request <- Store success / failure rate of requests <- Store latency for model calls Metrics ឆ្លើយតប: “របៀបដែលប្រព័ន្ធរបស់ខ្ញុំធ្វើឱ្យប្រសើរឡើងជាទូទៅ?” ឆ្លើយតប: “ប្រព័ន្ធរបស់ខ្ញុំធ្វើការដូចម្តេចជាទូទៅ?” Metrics Bringing it all together នៅពេលដែលសិល្បៈទាំងបីត្រូវបានបណ្តុះបណ្តាល (aka connected) ។ នេះអនុញ្ញាតឱ្យយើងធ្វើអ្វីដូចជា "ចុចនៅលើប្រហែល ERROR នេះនៅក្នុងបង្វិលការពិនិត្យរបស់អ្នក" និងកាត់បន្ថយអត្ថប្រយោជន៍ត្រឹមត្រូវនៅក្នុងដំណើរការដែលបញ្ហានេះបានកើតឡើង។ ការផ្លាស់ប្តូរ context multi-agent នៅពេលដែលអេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រង់អេក្រ នេះតម្រូវ . context propagation នេះរួមបញ្ចូលទាំងការផ្លាស់ប្តូរកំណត់បន្ទះតាមរយៈកំណត់ HTTP ដោយប្រើស្តង់ដារ W3C Trace Context ។ លទ្ធផលនេះគឺជាដំណោះស្រាយតែមួយនៅលើអេក្រង់ទាំងអស់ - here is an example that shows how a trace context spans across the coordinator agent, the researcher agent and the analyst agent. coordinator.agent.agentic_loop (trace_id: abc123) -> coordinator.model.inference -> coordinator.delegate.researcher -> researcher.agent.agentic_loop (trace_id: abc123) -> researcher.model.inference -> researcher.tool.web_search -> coordinator.model.inference -> coordinator.delegate.analyst -> analyst.agent.agentic_loop (trace_id: abc123) -> analyst.model.inference -> analyst.tool.calculator ប្រសិនបើមិនមានការផ្លាស់ប្តូរទិសដៅ, multi-agent debugging គឺគ្រាន់តែជាការចែកចាយទិសដៅ។ Without context propagation, multi-agent debugging is just distributed guessing. ប្រព័ន្ធស្រាវជ្រាវជាច្រើន - Multi-Agent Research System ឥឡូវនេះយើងចាប់ផ្តើមបង្កើតអ្វីមួយដែលមានលក្ខណៈពិសេស។ យើងនឹងប្រើ វាត្រូវបានបង្កើតឡើងដោយក្រុមហ៊ុន Kubernetes ។ , វាត្រូវបានបង្កើតឡើងដោយក្រុមហ៊ុន Kubernetes ។ , a open-source framework to deploy, manage and scale multi-agent systems in Kubernetes ។ ការកាត់បន្ថយ (ប្រព័ន្ធប្រតិបត្តិការ Kubernetes Agent Orchestration System) ការកាត់បន្ថយ The Multi-Agent System to Monitor ការប្រើប្រាស់របស់យើងត្រូវបានបង្កើតឡើងដោយក្រុមប្រឹក្សាភិបាលដែលផ្លាស់ប្តូរការស្រាវជ្រាវនិងការវិញ្ញាបនប័ត្រវិជ្ជាជីវៈដល់ក្រុមប្រឹក្សាភិបាលជំនាញ: ទិន្នន័យទាំងអស់ - អេក្រង់, ឧបករណ៍និង API ម៉ូដែល - អនុញ្ញាតឱ្យអ្នកផ្លាស់ប្តូរដំណោះស្រាយ, វិញ្ញាបនប័ត្រនិងដំណោះស្រាយទៅនឹង OpenTelemetry Collector, ដែលផ្លាស់ប្តូរទាំងអស់ទៅលើបណ្តាញដែលអ្នកជ្រើសរើសសម្រាប់ការបង្ហាញនិងការវិភាគ។ លក្ខណៈពិសេស: ឧបករណ៍ & ឧបករណ៍ មុនពេលដែលយើងចាប់ផ្តើមអ្នកនឹងត្រូវការ: កុំព្យូទ័រកុំព្យូទ័រកុំព្យូទ័រកុំព្យូទ័រកុំព្យូទ័រកុំព្យូទ័រកុំព្យូទ័រកុំព្យូទ័រ គោលបំណង API LLM (អ្នកផ្គត់ផ្គង់ណាមួយដូចជា OpenAI, Nebius ល) kubectl, helm និងកម្រិត Kubernetes (KIND, minikube ឬកម្រិត cloud) ការដំឡើង Chaos ជាលើកដំបូង, សូមដំឡើងប្រព័ន្ធប្រតិបត្តិការ KAOS ជាមួយនឹងការអនុញ្ញាត OpenTelemetry និងការផ្លាស់ប្តូរ observability.We will use SigNoz as an open-source, OpenTelemetry-native option. (ប្រសិនបើអ្នកបានណែនាំ): Using the KAOS CLI # Install the KAOS operator kaos system install \ --set logLevel=DEBUG \ --wait \ --monitoring-enabled # Enables monitoring setup (supports signoz and jaeger) # Verify the installation kaos system status # Change context to use (+create) this current namespace for convenience kaos system working-namespace kaos-hierarchy នៅពេលដែលវាបានបើកដំណើរការយើងអាចបង្កើតប្រព័ន្ធជាច្រើនរបស់យើងដោយប្រើមួយនៃគំរូដែលបានផ្តល់ជាមួយ CLI ។ អ្នកក៏អាចមើលសៀវភៅអ៊ីនធឺណិតនៅចុងក្រោយនៃសៀវភៅសៀវភៅដើម្បីដំឡើងផ្នែកមួយបន្ទាប់ពីផ្នែកមួយ។ kaos samples deploy \ 3-hierarchical-agents \ --provider openai \ --wait \ --api-secret # This will prompt your api-key secret អ្នកអាចមើលឃើញប្លុក - អ្នកផ្គត់ផ្គង់ដែលបញ្ជាក់ប្លុកប្លុកដូចជា nebius, gemini, bedrock និង 100s នៃអ្នកផ្គត់ផ្គង់ផ្សេងទៀត [ប្លុក KAOS], ដូចជាប្លុក -api របស់អ្នកដែលនឹងត្រូវបានបង្វិល interactively ។ អ្នកអាចមើលឃើញប្លុក - អ្នកផ្គត់ផ្គង់ដែលបញ្ជាក់ប្លុកប្លុកដូចជា nebius, gemini, bedrock និង 100s នៃអ្នកផ្គត់ផ្គង់ផ្សេងទៀត [ប្លុក KAOS], ដូចជាប្លុក -api របស់អ្នកដែលនឹងត្រូវបានបង្វិល interactively ។ នៅពេលដែលអ្នកបានដំឡើងអ្នកបើក UI ជាមួយនឹងការបញ្ជាខាងក្រោម។ kaos ui --monitoring-enabled នេះអនុញ្ញាតឱ្យយើងមើលប្រព័ន្ធ multi-agent ដែលត្រូវបានដំឡើង: ការបញ្ជាក់ទាំងអស់គ្នា: ការត្រួតពិនិត្យនៃការខ្សាច់ ឥឡូវនេះ សូមបង្កើតការដឹកជញ្ជូនមួយចំនួននិងចាប់ផ្តើមការត្រួតពិនិត្យនៃការខ្សែកាប។ ការចូលរួមជាមួយអេក្រង់ អ្នកអាចចូលរួមជាមួយអ្នកអាជីវកម្មនៅក្នុងវិធីផ្សេងៗគ្នា: # Invoke the coordinator agent directly kaos agent invoke supervisor \ --message "Research the current AI chip market and calculate the market share of the top 3 companies." ប្រព័ន្ធ ប្រតិបត្តិការ chat ដោយប្រើប្រាស់ Interface: នៅខាងក្រៅនៃតំបន់នេះវាធ្វើឱ្យប្រសិនបើវាបានធ្វើឱ្យប្រសិនបើវាបានធ្វើឱ្យប្រសិនបើវាអាចធ្វើឱ្យប្រសិនបើវាអាចធ្វើឱ្យប្រសិនបើវាអាចធ្វើឱ្យប្រសិនបើវាអាចធ្វើឱ្យប្រសិនបើវាអាចធ្វើបាន។ អ្នកគ្រប់គ្រងបានទទួលបានសំណួរ អ្នកគ្រប់គ្រងទូរស័ព្ទទៅ LLM ដែលបានជ្រើសរើសការផ្លាស់ប្តូរ អ្នកស្រាវជ្រាវអេក្រង់ត្រូវបានទាក់ទងសម្រាប់ការស្រាវជ្រាវទីផ្សារ (និងទាក់ទងអ្នកស្រាវជ្រាវអេក្រង់ផ្នែកមួយ) អ្នកផ្គត់ផ្គង់អេឡិចត្រូនិកកំណត់ផ្គង់ទីផ្សារ (និងទាក់ទងអ្នកផ្គត់ផ្គង់អេឡិចត្រូនិកទាំងពីរ) អ្នកគ្រប់គ្រងបានសរសេរសំណួរចុងក្រោយ អ្វីទាំងអស់នេះត្រូវបានកាត់បន្ថយនៅក្នុងដំណាក់កាលដែលអាចត្រួតពិនិត្យបាន: ការទូរស័ព្ទ LLM ទាំងអស់, ការដំណើរការឧបករណ៍ទាំងអស់, ការផ្លាស់ប្តូរទាំងអស់។ លក្ខណៈពិសេស: ការយល់ដឹងអំពីដំណើរការសំណួរ : ទោះបីជាសេវាកម្មច្នៃប្រឌិតទម្រង់-ការឆ្លើយតប, អេក្រង់ធ្វើការបញ្ចប់ជាច្រើនក្នុងមួយការឆ្លើយតប។ ទម្រង់អនុញ្ញាតឱ្យអ្នកមើលទីតាំងបញ្ចប់ទាំងអស់, ពេលវេលាដែលវាត្រូវបានវាយតម្លៃនិងវិធីដែលអេក្រង់បានជ្រើសរើស។ Why traces matter for agentic systems សៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅ Click on a trace to see the full request flow (ចុចលើដំណឹងដើម្បីមើលដំណឹងពេញលេញ) ដំណឹងតែមួយដែលបង្ហាញពីការផ្លាស់ប្តូរដែលផ្លាស់ប្តូរដល់អ្នកស្រាវជ្រាវនិងអ្នកអនុម័តអនុម័ត, ជាមួយនឹងការផ្លាស់ប្តូរទាំងអស់ដែលបង្ហាញនូវប្រតិបត្តិការផ្សេងគ្នានេះ។ ការធ្វើតេស្តបន្ទះនេះបើយោងតាមការធ្វើតេស្តបន្ទះនេះបើយោងតាមការធ្វើតេស្តបន្ទះដែលនឹងត្រូវការពេលវេលានៃការចែកចាយដំណោះស្រាយ: តើធ្វើដូចម្តេចដើម្បីធ្វើតេស្តនេះបានរយៈពេល 15 វិនាទី? ឧបករណ៍ web_search បានរយៈពេល 8 វិនាទី។ អ្នកគ្រប់គ្រងគោលបំណងរបស់អ្នក? អ្នកគ្រប់គ្រងគោលបំណងរបស់អ្នក? អ្នកគ្រប់គ្រងគោលបំណងរបស់អ្នក? ទោះជាយ៉ាងណាក៏ដោយការហៅហៅ LLM ជាច្រើនបានធ្វើឡើង? 6 ការហៅហៅតាមរយៈអេក្រង់បី។ តើឧបករណ៍ណាមួយបានបញ្ចប់? ឧបករណ៍ទាំងអស់បានបញ្ចប់យ៉ាងល្អឥតខ្ចោះ (កម្រិតខ្សាច់). សៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅសៀវភៅ គំនូរបង្ហាញអ្នក យោបល់បង្ហាញអ្នក OpenTelemetry ដោយស្វ័យប្រវត្តិនិងដោយស្វ័យប្រវត្តិនិង និង សមត្ថភាព អ្វី ហេតុអ្វី trace_id span_id ទិន្នន័យទាំងអស់ទាំងអស់រួមបញ្ចូលទាំងនេះដើម្បីអនុញ្ញាតឱ្យអ្នក: Click on a span នៅលើដំណាក់កាលរបស់អ្នក សូមមើលកំណត់ទាំងអស់ដែលបានចេញក្នុងអំឡុងពេលនេះ ការយល់ដឹងអំពីការយល់ដឹងរបស់អ្នកនៅពេលដំណើរការទាំងអស់ It is possible to see the view of the logs themselves as well as further details. បន្ទាប់មកយើងអាចបង្វិលបង្វិលបង្វិលបង្វិលបង្វិលបង្វិលបង្វិលបង្វិល។ Here for example we can view the log “Delegation task: …”. This shows us the entire prompt that was delegated, which is quite useful for diagnostics and debugging. This includes full log context including all attributes, resource labels, and the complete message. Exception Tracking: Finding Production Issues In production, things fail. OpenTelemetry captures exceptions as first-class citizens, and attaches them to the span where they occurred. យើងអាចធ្វើការនេះដោយសូមទាក់ទងអ្នកគ្រប់គ្រងដើម្បីផ្លាស់ប្តូរដល់ subagent ដែលមិនមាន។ # Invoke the coordinator agent directly kaos agent invoke supervisor \ --message "We are now testing valid exception functionality. Try to delegate to a non-existing agent to validate that it works correctly." ឬតាមរយៈ UI: If we now navigate to the Exceptions tab, we can now see that there is an entry. This is the Exceptions list view, where all exceptions for the time period are listed. This list captures errors across the system and correlates them also with the respective request traces, and logs. We are also able to filter by different (agent) services, as well as other attributes. We can see clearly that the exception was due to an attempted incorrect delegation. And we can also visualise the error in the trace view. Metrics: Operational Overview While traces show individual requests, metrics show trends over time. Here are some examples of key metrics in agentic systems. នេះគឺជាគំរូមួយចំនួននៃគំរូគំនិតសំខាន់នៅក្នុងប្រព័ន្ធ agentic ។ Metric What It Tells You kaos.requests Request volume by agent kaos.request.duration Latency distribution (P50, P95, P99) kaos.model.calls LLM API usage (cost indicator) kaos.tool.calls Tool execution frequency kaos.delegations Multi-agent coordination patterns kaos.requests ទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំទំហំ kaos.request.duration Latency distribution (P50, P95, P99) kaos.model.calls LLM API usage (cost indicator) kaos.tool.calls ការអនុវត្តឧបករណ៍ Frequency kaos.delegations គំរូការត្រួតពិនិត្យ multi-agent ម៉ែត្រទាំងនេះអាចអនុញ្ញាតឱ្យការអនុម័តអំពីបញ្ហាផលិតកម្ម: Request latency > 30s លក្ខណៈពិសេស > 5% លក្ខណៈពិសេសនៃការទូរស័ព្ទម៉ូដែល > 1% We can also visualise them: Under the Hood: How It Works ឥឡូវនេះដែលអ្នកបានមើលឃើញការពិនិត្យឡើងវិញនៅក្នុងការប្រតិបត្តិការ, សូមស្វែងរករបៀបដែលវាត្រូវបានអនុវត្ត។ ការពិនិត្យឡើងវិញនៅទីនេះមិនមែនជាប្រសិនបើអ្នកចាប់ផ្តើមបង្កើត - និងដំណោះស្រាយនេះអាចត្រូវបានអនុវត្តយ៉ាងទូលំទូលាយសម្រាប់ប្រព័ន្ធអគ្គិសនីណាមួយ។ មជ្ឈមណ្ឌល KAOS separates control plane (Go) from data plane (Python); inside the Python application we have a OpenTelemetry manager (KaosOtelManager) to provide utilities to simplify the workflows. គំនិតសំខាន់: ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ការកំណត់ The key insight: អ្នកប្រើប្រាស់បានកំណត់ Telemetry នៅពេល , and the operator propagates it to all components. telemetry configuration flows from Operator -> Data Plane -> OTEL Collector values.yaml Instrumenting the Core Logic នៅពេលដែលវាគឺជាប្រព័ន្ធ agentic, វាគឺជាការមិនមែនគ្រាន់តែអំពីការឧបករណ៍សំណួរ-ការឆ្លើយតបទេប៉ុន្តែវាគឺជាការរក្សាទុកដំណើរការតាមរយៈការបម្លែង agent ។ ដើម្បីចាប់ផ្តើមយើងធ្វើឱ្យប្រាកដថាយើងទទួលបានអំឡុងពេលអំឡុងពេលអំឡុងពេលនៅលើអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេលអំឡុងពេល។ # This is the same function pseudo-code that we showed initially but instrumented async def process_message(self, session_id: str, messages: List[Dict]) -> str: """Process message through agentic loop with full tracing.""" # Start root span for entire message processing span = otel.span_begin("agent.agentic_loop", SpanKind.INTERNAL) span.set_attribute("agent.name", self.name) span.set_attribute("session.id", session_id) span.set_attribute("agent.max_steps", self.max_steps) span_failure = False try: # Agentic loop logic (see below) except Exception as e: # If exception mark as failure span_failure = True otel.span_failure(span, e) raise finally: if not span_failure: otel.span_success(span, e) Instrumenting the Agentic Loop We can now use the same pattern in the agentic loop, where we can capture the iterations with the respective context. This will be important as we can also capture the correlated logs and metrics that are connected to this particular request. # Previous logic outlined above... for step in range(self.max_steps): # Span for each iteration step_span = otel.span_begin(f"agent.step.{step + 1}") step_span.set_attribute("step", step + 1) agent_span_failed = False try: # MCP Calls (with OTEL span)... # Delegation Calls (with OTEL span)... except Exception as e: otel.span_failure(step_span, e) agent_span_failed = True raise finally: if not agent_span_failed: otel.span_success(span) # Preview logic outlined above... ការមានទំហំដែលបានកំណត់នៅក្នុងទីតាំងនេះគឺជាអ្វីដែលអនុញ្ញាតឱ្យយើងរក្សាទុកសំណួរតាមបណ្តុះបណ្តាល។ Some useful patterns to note: ទំហំទូលំទូលាយ: មានទំហំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូលំទូល សៀវភៅមុនពេលអំឡុងពេលបញ្ចប់: សៀវភៅត្រូវបានបោះពុម្ពនៅពេលបច្ចុប្បន្នភាពបន្ទាប់គឺមានប្រសិទ្ធិភាពដែលអនុញ្ញាតឱ្យការបណ្តុះបណ្តាលសៀវភៅ : We are using explicit try/finally pattern to ensure spans are always closed, but we can also use context managers (i.e. clause) Explicit span management with This is also what allows us to then visualise the breakdown of the request traces and spans. Context Propagation for Multi-Agent Systems នៅពេលដែលធ្វើការផ្លាស់ប្តូរទៅនឹងឧបករណ៍ផ្លាស់ប្តូរ (ដំណើរការនៅក្នុងផ្លាស់ប្តូរផ្លាស់ប្តូរ) យើងគួរតែផ្លាស់ប្តូរបញ្ជីបន្ទាត់: # Inject context into outgoing request from opentelemetry.propagate import inject async def delegate(self, target_agent: str, task: str) -> str: headers = {"Content-Type": "application/json"} # Inject current trace context into headers inject(headers) # Adds 'traceparent' and 'tracestate' headers async with httpx.AsyncClient() as client: response = await client.post( f"http://{target_agent}/v1/chat/completions", headers=headers, json={"messages": [{"role": "user", "content": task}]} ) return response.json()["choices"][0]["message"]["content"] គោលបំណងដើម្បីធ្វើឱ្យប្រសើរឡើងប្រសើរឡើងប្រព័ន្ធផ្សព្វផ្សាយ យើងគួរតែធ្វើឱ្យប្រាកដថានៅពេលវេលាថានៅពេលវេលាថានៅពេលវេលាថានៅពេលវេលាថានៅពេលវេលា # Extract context from incoming request from opentelemetry.propagate import extract @app.post("/v1/chat/completions") async def chat(request: Request, body: ChatRequest): # Extract trace context from incoming headers context = extract(request.headers) # Attach to current context so new spans are children token = otel_context.attach(context) try: return await agent.process_message(body.messages) finally: otel_context.detach(token) Log Export និង Correlation For log-trace correlation, we connect Python’s logging to OpenTelemetry. ប្រសិនបើអ្នកបានប្រើប្រភេទមួយដូចជា ELK stack មុនពេលនេះ, ជាមួយនឹង OpenTelemetry ឥឡូវនេះអ្នកមានការដំឡើងដែលប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជាប្រហែលជា ឧបករណ៍ដំឡើងដោយស្វ័យប្រវត្តិ and into log records when there’s an active span context. trace_id span_id To set up this connection, you can configure it with a few lines as outlined below. from opentelemetry.sdk._logs import LoggerProvider from opentelemetry.sdk._logs.export import BatchLogRecordProcessor from opentelemetry.exporter.otlp.proto.grpc._log_exporter import OTLPLogExporter from opentelemetry.instrumentation.logging import LoggingInstrumentor # Set up OTLP log export logger_provider = LoggerProvider(resource=resource) logger_provider.add_log_record_processor( BatchLogRecordProcessor(OTLPLogExporter(endpoint=endpoint)) ) # Attach handler to Python root logger handler = LoggingHandler(level=logging.DEBUG, logger_provider=logger_provider) logging.getLogger().addHandler(handler) ម៉ែត្រសម្រាប់ប្រតិបត្តិការ agent យើងក៏អាចរក្សាទុកគំនិតដោយប្រើ OpenTelemetry SDK ។ ប្រសិនបើអ្នកបានប្រើសម្រាប់ Prometheus នៅពេលមុនអ្នកមិនអាចបង្ហាញគំរូគំរូនេះតាមរយៈកំណែបញ្ចប់ដែលនឹងត្រូវបានគេស្គាល់តាមរយៈក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុមហ៊ុនក្រុម នៅពេលដែលអ្នកជ្រើសម៉ែត្រយើងមានគោលបំណងដើម្បីរក្សាទុកម៉ែត្រដែលមានស្លាក cardinality ទាបដើម្បីជួយការពារការកាត់បន្ថយ cardinality ដូចដែលបានបង្ហាញនៅក្នុងគំរូខាងក្រោម។ from opentelemetry import metrics meter = metrics.get_meter("kaos-agent") # Counters request_counter = meter.create_counter( "kaos.requests", description="Number of requests processed", unit="1" ) model_call_counter = meter.create_counter( "kaos.model.calls", description="Number of model inference calls", unit="1" ) # Histograms for latency request_duration = meter.create_histogram( "kaos.request.duration", description="Request processing duration in milliseconds", unit="ms" ) # Usage example request_counter.add(1, {"agent.name": self.name, "status": "success"}) request_duration.record(duration_ms, {"agent.name": self.name}) ទោះជាយ៉ាងណាក៏ដោយអ្នកមិនគួរតែប្រើអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិតអ៊ីនធឺណិត។ : Never use session IDs, user IDs, prompt content, or other unbounded values as metric labels. Put those in logs or trace attributes instead. Avoid high-cardinality labels គំនិតនៃ Iceberg នេះគឺជាការបង្ហាញយ៉ាងងាយស្រួលអំពីការពិនិត្យឡើងវិញនៅក្នុងប្រព័ន្ធជាច្រើននិងផ្តល់នូវគំនិតទំហំខ្ពស់អំពីអ្វីដែលជាផ្នែកសំខាន់មួយចំនួនត្រូវបានរួមបញ្ចូល។ នេះក៏គួរតែផ្តល់ឱ្យអ្នកនូវការយល់ដឹងថាមួយដើម្បីរៀបចំប្រព័ន្ធអេក្រង់របស់អ្នកដោយគួរឱ្យសួរទេប៉ុន្តែអ្នកនឹងត្រូវរកឃើញគំរូដែលធ្វើការល្អបំផុតនៅក្នុងប្រព័ន្ធពិសេសរបស់អ្នក។ ការឧបករណ៍ប្រព័ន្ធ AI អេក្រង់ជាមួយនឹង OpenTelemetry អនុញ្ញាតឱ្យដឹងអំពីបញ្ហាតែមួយគត់ដែលប្រព័ន្ធទាំងនេះមាន: need span hierarchies that map to logical operations Iterative loops ការផ្លាស់ប្តូរប្រព័ន្ធផ្សព្វផ្សាយជាច្រើនត្រូវការផ្លាស់ប្តូរប្រព័ន្ធផ្សព្វផ្សាយដោយប្រើ W3C Trace Context ។ ការអនុវត្តឧបករណ៍បានទទួលបានអត្ថប្រយោជន៍ពីអំឡុងពេលដែលមានឈ្មោះពិសេស ការប្រៀបធៀប Log-trace អនុញ្ញាតឱ្យទាញយកកំណត់សៀវភៅមុនពេលវេលាបានបញ្ចប់ need low-cardinality labels to avoid storage explosions Metrics គំរូដែលយើងបានបណ្តុះបណ្តាលបានអនុវត្តដល់ប្រព័ន្ធ agentic ទាំងអស់, មិនគ្រាន់តែ KAOS ។ ចាប់ផ្តើមការឧបករណ៍ឥឡូវនេះ។ The agents of tomorrow will be as ubiquitous as microservices are today, and OpenTelemetry gives you the visibility to operate them with confidence. The agents of tomorrow will be as ubiquitous as microservices are today, and OpenTelemetry gives you the visibility to operate them with confidence. សមត្ថភាព : - The open-source framework used in this article KAOS Framework github.com/axsaucedo/kaos សម្ភារៈ KAOS: axsaucedo.github.io/kaos - សម្ភារៈពេញលេញ CLI និង CRD OpenTelemetry Python: opentelemetry.io/docs/languages/python - វិញ្ញាបនប័ត្រ SDK របស់ Python : - Emerging standards for AI observability OpenTelemetry GenAI Conventions github.com/open-telemetry/semantic-conventions SigNoz: signoz.io - APM ប្រតិបត្តិការ Open-source ជាមួយនឹងការគាំទ្រ OpenTelemetry ។ លក្ខណៈពិសេស: ការបង្កើតប្រព័ន្ធ multi-agent ដោយផ្ទាល់ខ្លួន នៅក្នុងផ្នែកនេះយើងបង្កើតផ្នែកផ្នែកប្រព័ន្ធ agentic ដោយផ្ទាល់ដោយមិនប្រើឧបករណ៍ប្រើប្រាស់សម្រាប់អ្នកគួរឱ្យចាប់អារម្មណ៍! យើងនឹងបង្ហាញអ្នកពីរបៀបដែលអ្នកអាចធ្វើដូច្នេះជាមួយ CLI ប៉ុន្តែអ្នកអាចធ្វើដូច្នេះជាមួយ UI និងជាមួយ directly. kubectl Step 1: We first connect to LLMs with a ModelAPI នេះ ឧបករណ៍នៅក្នុង KAOS អនុញ្ញាតឱ្យមានអ៊ីនធឺណិតសម្រាប់ការចូលទៅ LLM ។ វាគឺជាការគាំទ្រសម្រាប់ដំណើរការពីរដង: ModelAPI : Routes requests through LiteLLM to external providers (OpenAI, Anthropic, Nebius, etc.) Proxy Mode : Pulls models into your cluster (via side-car) and runs it on the server for inference Hosted Mode ModelAPI អាចត្រូវបានដំឡើងយ៉ាងងាយស្រួលតាមរយៈ CLI ។ Note that in order for our agents to use the model APIs we need to provide our authentication API Key. For this example we will be using as it’s easy to set up, but you can also set up OpenAI, Gemini and dozen others. Nebius សូមទុកថា ដើម្បីឱ្យអេក្រង់របស់យើងប្រើ API ម៉ូដែលយើងត្រូវផ្តល់គោលបំណង API របស់យើង។ សម្រាប់ឧទាហរណ៍នេះយើងនឹងប្រើ ដោយសារតែវាជាការងាយស្រួលក្នុងការបង្កើត, ប៉ុន្តែអ្នកអាចបង្កើត OpenAI, Gemini និងអ្នកផ្សេងទៀត។ ព្រះអម្ចាស់ kaos modelapi deploy llm-proxy \ --namespace kaos-hierarchy \ --provider nebius \ --api-key # When provided without value this prompts the key securely ពីគោលបំណងនៃការ observerability, ModelAPI ផ្តល់ឱ្យយើងនូវភាពងាយស្រួលក្នុងការចែកចាយទូរស័ព្ទម៉ូដែល, ការប្រើប្រាស់ token, និងតម្រូវការ - វិញ្ញាបនប័ត្រសំខាន់សម្រាប់ការយល់ដឹងនៃសមត្ថភាពអេក្រង់និងការត្រួតពិនិត្យតម្លៃ។ ជំហានទីពីរ: ដំឡើង MCP Tool Server ក្នុង KAOS ផ្តល់នូវឧបករណ៍ដែលក្រុមហ៊ុនអាចប្រើបាន។ MCP (Model Context Protocol) Servers KAOS enables FastMCP native servers with ability to create and deploy your own images. KAOS អនុញ្ញាតឱ្យមានការគាំទ្រសម្រាប់រយៈពេលដំណើរការ MCP មួយចំនួនតាមរយៈប្រព័ន្ធប្រតិបត្តិការ registry ។ ការប្រើប្រាស់ជាធម្មតាបំផុតគឺ: Runtime Description python-string Define tools as inline Python functions for testing kubernetes Kubernetes CRUD operations slack Slack messaging integration custom Your own container image python-string ការបញ្ជាក់ឧបករណ៍ដូចជាកម្មវិធី inline Python សម្រាប់ការធ្វើតេស្ត kubernetes ការប្រតិបត្តិការ Kubernetes CRUD slack ការរួមបញ្ចូល Slack custom រូបភាព container របស់អ្នក សម្រាប់ការបង្ហាញរបស់យើងយើងនឹងបង្កើតសេវាកម្មកុំព្យូទ័រ។ នៅក្នុងការផលិតអ្នកនឹងតភ្ជាប់ទៅនឹង API ដែលពិតប្រាកដទិន្នន័យឬសេវាកម្មខាងក្រៅ។ យោបល់: នៅក្នុងផ្នែកនេះយើងប្រើការដំឡើង Python-string សម្រាប់ការធ្វើតេស្តឆាប់រហ័សប៉ុន្តែសម្រាប់ការដំឡើងរហ័សផលិតកម្មប្រើការដំឡើងរូបភាពផ្ទាល់ខ្លួន។ យោបល់: នៅក្នុងផ្នែកនេះយើងប្រើការដំឡើង Python-string សម្រាប់ការធ្វើតេស្តឆាប់រហ័សប៉ុន្តែសម្រាប់ការដំឡើងរហ័សផលិតកម្មប្រើការដំឡើងរូបភាពផ្ទាល់ខ្លួន។ First we create the mcp, ដែលនឹងមានភាពងាយស្រួល ឧបករណ៍ដែលនឹងបន្ថែមចំនួនពីរនិងផ្តល់ឱ្យផលិតផល។ calculator add export ADD_TOOL=' def add(a: float, b: float) -> float: """Add two numbers together.""" return a + b ' kaos mcp deploy calculator \ --runtime python-string \ --params $ADD_TOOL \ --wait បន្ទាប់មកយើងបានបង្កើត mcp, which is also a simple tool that receives a string and returns the same value as the string. echo export ECHO_TOOL=' def echo(message: str) -> str: """Echo back the message for testing.""" return f"Echo: {message}" ' kaos mcp deploy echo-search \ --runtime python-string \ --params $ECHO_TOOL \ --wait And we can send a request to test the mcp. # Run 2 + 2 on mcp calculator kaos mcp invoke calculator \ --tool add \ -a 2 \ -a 2 # Run echo hello on mcp echo kaos mcp invoke echo-search \ --tool echo \ -a "Hello" ពីមជ្ឈមណ្ឌលការពិនិត្យឡើងវិញយើងនឹងបង្ហាញថាវាជាការសំខាន់ណាស់ក្នុងការយល់ដឹងអំពីការទូរស័ព្ទដែលត្រូវបានផ្ញើដោយអេក្រង់ណាមួយ (ឬសេវាកម្មខាងក្រៅណាមួយ) និងត្រូវបានដំណើរការដោយអេក្រង់ MCP ។ 3A - អ្នកស្រាវជ្រាវ The ឧបករណ៍នៅក្នុង KAOS បានប្រៀបធៀបទៅនឹងអាជីវកម្ម AI ដែលអាចដំណើរការសំណួរ, ម៉ូដែលការទូរស័ព្ទ, ការអនុវត្តឧបករណ៍, និងអនុញ្ញាតឱ្យអាជីវកម្មផ្សេងទៀត។ អាជីវកម្មទាំងអស់: Agent ការបង្ហាញបញ្ចប់បញ្ចប់ /v1/chat/completions ជាមួយនឹង OpenAI ការអនុវត្តបង្វិល agentic (model > tools > model > ...) ការគាំទ្រនៃការកំណត់ថ្នាំកំណត់ថ្នាំកំណត់ថ្នាំកំណត់ថ្នាំកំណត់ អ្នកជំនាញវិជ្ជាជីវៈនឹងមានជំនាញវិជ្ជាជីវៈក្នុងការប្រមូលព័ត៌មាន: kaos agent deploy researcher \ --model "openai/gpt-4o" \ --mcp echo-search \ --description "Research specialist" \ --instructions "You research topics and provide ." \ --expose=true \ --wait សម្រាប់ការស្រាវជ្រាវអេក្រង់តែមួយយើងមានអារម្មណ៍អំពី: ប្រព័ន្ធ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ប្រតិបត្តិការ ពេលដំណើរការឧបករណ៍: ឧបករណ៍ឆ្លើយតបយ៉ាងឆាប់រហ័ស? ការគណនីជំហាន: តម្រូវការអេក្រង់ជាច្រើនដែលអេក្រង់ត្រូវការ? 3B - អ្នកជំនាញវិភាគ មិត្តភក្តិ Analyst បានផ្តោតលើការវិភាគទិន្នន័យនិងការគណនី: kaos agent deploy analyst \ --model "openai/gpt-4o" \ --mcp calculator \ --description "Data analyst with calculation capabilities" \ --instructions "You analyze data and perform calculations." \ --expose=true \ --wait 3c. The Supervisor Agent មិត្តភក្តិទាំងអស់នេះបានក្លាយជាមិត្តភក្តិមួយ។ សម្រាប់ការពិនិត្យឡើងវិញជាមិត្តភក្តិជាច្រើនយើងទទួលបានអារម្មណ៍បន្ថែមទៀត: គំរូផ្ញើសារ: អេក្រង់ទាំងអស់ដែលត្រូវបានទាក់ទងនិងជាកំឡុងពេលវេលា? លក្ខណៈពិសេសនៃការធ្វើតេស្ត: ពេលវេលាជាច្រើនត្រូវបានទូទាត់នៅក្នុងការផ្លាស់ប្តូរប្រឆាំងនឹងការដំណើរការ lokal? ការបណ្តុះបណ្តាល: យើងអាចមើលដំណើរការតម្រូវការពេញលេញតាមរយៈអេក្រង់? kaos agent deploy subervisor \ --model "openai/gpt-4o" \ --description "Coordinator that delegates to specialist agents" \ --instructions "You are a coordinator. Analyze user requests and delegate to your analyst and researcher." \ --sub-agent researcher \ --sub-agent analyst \ --wait ហើយយើងបានបញ្ចប់! ឥឡូវនេះអ្នកអាចមកវិញទៅកន្លែងខាងលើនិងដំណើរការតាមរយៈការពិនិត្យឡើងវិញជាមួយនឹងការដំឡើងរបស់អ្នក!