Quản lý và mở rộng các đại lý AI: Xuất sắc hoạt động và con đường phía trước

Đây là bài viết thứ năm và cuối cùng trong loạt bài của chúng tôi về AI đại lý trong doanh nghiệp. Trong các phần trước, chúng tôi đã bao gồm những gì AI đại lý là (Phần 1), các giai đoạn trưởng thành của việc áp dụng (Phần 2), bảy trụ cột của kiến trúc đại lý (Phần 3), và mô hình triển khai so với bẫy (Phần 4). Bây giờ, chúng tôi chuyển sang cách bạn vận hành và mở rộng các đại lý AI này một cách có trách nhiệm. Phần này thảo luận về việc thiết lập các chỉ số phù hợp và thực hành "AgentOps", quản lý các công cụ và nền tảng, điều chỉnh văn hóa và vai trò tổ chức, và chuẩn bị cho những gì tiếp theo - từ các quy định mới nổi đến động lực cạnh tranh trong tương lai. Đây là bài viết thứ năm và cuối cùng trong loạt bài của chúng tôi về AI đại lý trong doanh nghiệp. Trong các phần trước, chúng tôi đã bao gồm những gì AI đại lý là (Phần 1), các giai đoạn trưởng thành của việc áp dụng (Phần 2), bảy trụ cột của kiến trúc đại lý (Phần 3), và mô hình triển khai so với bẫy (Phần 4). Bây giờ, chúng tôi chuyển sang cách bạn vận hành và mở rộng các đại lý AI này một cách có trách nhiệm. Phần này thảo luận về việc thiết lập các chỉ số phù hợp và thực hành "AgentOps", quản lý các công cụ và nền tảng, điều chỉnh văn hóa và vai trò tổ chức, và chuẩn bị cho những gì tiếp theo - từ các quy định mới nổi đến động lực cạnh tranh trong tương lai. Đây là bài viết thứ năm và cuối cùng trong loạt bài của chúng tôi về AI đại lý trong doanh nghiệp. Vào thời điểm bạn đưa các đại lý AI vào sản xuất và mở rộng việc sử dụng, thành công trở nên ít hơn về agent (bạn đã làm điều đó) và nhiều hơn nữa về Nó tương tự như cách DevOps xuất hiện khi triển khai phần mềm mở rộng: ở đây chúng ta cần các kỷ luật “AgentOps” hoặc “MLOps” để đảm bảo các đại lý AI của chúng tôi tiếp tục cung cấp giá trị trong ngày, ngày qua ngày. Chúng ta hãy phá vỡ một vài khía cạnh chính: số liệu để đo lường tác động của một đại lý, bối cảnh công cụ / nhà cung cấp đang phát triển có thể hỗ trợ bạn, những thay đổi văn hóa và tổ chức cần thiết, và một số suy nghĩ về việc bảo vệ chiến lược của bạn trong tương lai khi AI đại lý tiếp tục phát triển. Xây dựng Quản trị và quản lý Metrics for Measuring Impact “Khi giới thiệu các đại lý AI, xác định số liệu là rất quan trọng, nếu không làm thế nào bạn biết nó có thực sự hoạt động không?” Đây là một bài học khó khăn mà tôi đã học được từ đầu.Thật dễ dàng để được ngạc nhiên bởi một bản demo, nhưng các doanh nghiệp chạy trên kết quả, không phải công nghệ mát mẻ.Chúng tôi thấy hữu ích khi theo dõi các chỉ số trên nhiều chiều để vẽ một bức tranh toàn diện về tác động của một đại lý: hiệu suất hoạt động, tác động kinh doanh, tuân thủ / rủi ro và áp dụng người dùng.Đây là một số chỉ số chính (theo thể loại) mà chúng tôi khuyên bạn nên: These tell you how well the agent is performing its task on a technical and service level. Examples include accuracy or success rate (what percentage of tasks does the agent complete correctly without human intervention?), average handling time (how fast does the agent resolve an issue vs. a human), and throughput (tasks completed per hour). If the agent interacts with end users, measure user satisfaction (e.g. CSAT scores or feedback ratings for those interactions). Also track utilisation: how often is the agent being triggered or used? For instance, after deploying an agent for software testing, we measured that it automatically caught and fixed about 30% of bugs, which was a clear operational win, tracked release-over-release. Operational metrics often form the early success criteria in pilot phases (e.g. “achieve at least X% accuracy within Y months”). Operational Metrics: Ultimately, you need to justify the project in business terms. Track how the agent is affecting the bottom line or key business KPIs. This can include direct cost savings (e.g. reduction in support labour hours: “the agent saved 200 hours of Tier-1 support work this month”), revenue impact (e.g. the agent’s upsell suggestions added £50k in sales last quarter), or efficiency gains in process metrics (like a higher conversion rate, or reduced downtime due to faster incident response). Also account for the cost of the agent itself, including ongoing cloud compute costs, maintenance effort, etc. One project of ours calculated that an AI agent reduced average QA cycle time by 30%, translating to an estimated £250k per year in saved engineering hours. But we also monitored that as usage grew, the agent’s API costs were climbing; this went into an ROI dashboard to ensure the value far outpaced the spend. Many organisations set up an “AI ROI” dashboard for leadership, showing running totals of benefits versus costs. Nothing quiets sceptics like hard numbers showing a positive payoff. Economic Metrics (ROI): Especially in regulated industries, you should measure things related to safety, compliance, and risk reduction. This might include the number of incidents or errors the agent prevented (“the agent caught 5 potential fraud cases that slipped past manual checks”), or conversely any compliance issues caused by the agent (hopefully zero, but if an agent made a decision that violated a policy, you need to log that and investigate). If you have human review steps, track how often humans override or correct the agent. A high override rate might indicate the agent is doing things people aren’t comfortable with - a risk signal that either the agent is making dubious choices or users don’t trust it yet. Another useful metric is time to detect and resolve agent issues (analogous to MTTR in incident management): if something goes wrong with the agent, how quickly do you notice and fix it? Some companies even conduct regular compliance audits of their AI systems; the findings can be distilled into metrics. For example, “Last quarter’s audit found 0 instances of personal data leakage by the agent” or “100% of high-value transactions handled by the agent were logged and reviewed with no discrepancies found.” These reassure management (and regulators) that the AI is under control. Compliance & Risk Metrics: Finally, gauge the human side: are people actually using the agent and integrating it into their work? Metrics here could include adoption rates (e.g. what percentage of customer inquiries are now handled by the agent vs. humans - and is that trending up or flat?), or user sentiment surveys (do employees find the agent helpful? do customers feel their issue was well-handled by the AI?). You might measure the number of new ideas or requests for AI agents coming from the business, e.g. “after our pilot, 5 other departments requested their own AI agent within 3 months,” which is a nice indicator of organisational buy-in. Another angle: how roles are changing. If the agent takes over task X, are the employees who used to do X now moving to higher-value work? That can be captured via qualitative manager feedback or time-allocation studies. The ultimate adoption metric is a bit fuzzy but revealing: when people start saying things like “Let’s have the agent handle this,” as a normal part of conversation, you know it’s become a trusted part of operations. Organisational (Adoption) Metrics: Bằng cách giám sát một bảng điểm cân bằng của các chỉ số này, bạn có thể đảm bảo rằng sáng kiến của đại lý AI vẫn tiếp tục và cung cấp giá trị bền vững. Metrics giúp bạn nắm bắt các vấn đề sớm (ví dụ, sự sụt giảm độ chính xác hoặc đỉnh điểm của con người có thể báo hiệu sự biến động của mô hình hoặc một loại truy vấn mới mà đại lý không thể xử lý tốt). Metrics cũng cung cấp bằng chứng cần thiết để đảm bảo hỗ trợ và ngân sách liên tục - không có gì xây dựng sự tự tin như bảng điều khiển cải thiện liên tục. Bạn triển khai đại lý (vì vậy bạn có một đường cơ sở), và sau đó lặp lại chúng khi bạn học những gì thực sự quan trọng. Kỷ luật này không chỉ chứng minh giá trị; nó thường hướng dẫn bạn để cải thiện chính đại lý. Ví dụ, chúng tôi nhận thấy từ các chỉ số rằng một loại cụ thể của truy vấn luôn dẫn đến một sự thất bại của con người, điều đó chỉ cho chúng tôi đến một khả năng mà đại lý thiếu, mà chúng tôi sau đó thêm. Tóm lại: đo lường, đo lường, đo lường. AI đại lý cuối cùng nên thúc đẩy cải thiện có thể đo lường; nếu không, bạn cần phải nhóm lại và tìm hiểu lý do. trước Tooling and Vendor Landscape Sự trỗi dậy của AI đại lý đã không bị ngành công nghiệp công nghệ bỏ qua. Trên thực tế, nó đã kích thích một sự bùng nổ trong các công cụ và nền tảng để giúp xây dựng và quản lý các hệ thống này. Một hoặc hai năm trước, nhiều người trong chúng ta đã kết hợp các thư viện mã nguồn mở và mã tùy chỉnh; bây giờ, mọi nhà cung cấp điện toán đám mây lớn và một loạt các công ty khởi nghiệp đang cung cấp các giải pháp cho các đại lý AI doanh nghiệp. Đó là cả một phước lành (nhiều lựa chọn, phát triển nhanh hơn) và một lời nguyền (nhiều hype, rủi ro bị khóa). Các nhà cung cấp đám mây lớn (AWS, Microsoft, Google, IBM, Oracle, v.v.) đều ném mũ của họ vào vòng với các dịch vụ đại lý AI doanh nghiệp. ví dụ, AWS đã mở rộng dịch vụ Amazon Bedrock của mình để bao gồm , cung cấp các mẫu để xây dựng các đại lý nhiều bước với tích hợp công cụ và một lớp tổ chức, tất cả đều chạy trên cơ sở hạ tầng được quản lý của AWS (https://aws.amazon.com/bedrock/agents/). Microsoft đã xây dựng hệ sinh thái Copilot trên các sản phẩm của mình và giới thiệu , một nền tảng hiệu quả cho các doanh nghiệp để tạo và quản lý copilots AI của riêng họ hoặc các đại lý cắm vào Microsoft 365 và các hệ thống khác (https://www.microsoft.com/en-us/microsoft-365-copilot/microsoft-copilot-studio). trong nền tảng Vertex AI của mình, hoàn thành với các kết nối được xây dựng sẵn và một API Agent, và thậm chí giới thiệu các khuôn khổ mở như A2A (được mô tả ở trên) để thúc đẩy khả năng tương tác đa đại lý. , hướng tới tự động hóa quy trình làm việc kinh doanh bằng cách tổ chức nhiều thành phần AI và RPA - IBM đang quay về AI đại lý cho các quy trình doanh nghiệp (https://www.ibm.com/products/watsonx-orchestrate). Cloud AI Platforms (Hyperscalers): Bedrock Agents Copilot Studio Agent Builder watsonx Orchestrate · Thời gian ra thị trường nhanh hơn (vì bạn có thể tận dụng các thành phần được xây dựng sẵn), và rất nhiều việc nâng cấp nặng (tăng quy mô, bảo mật, lưu trữ mô hình) được xử lý cho bạn. Pros: · Các nhà cung cấp tiềm năng bị khóa hoặc hạn chế - bạn thường phải làm việc trong hệ sinh thái của họ và chấp nhận hàng rào và giá cả của họ. Ngoài ra, không phải tất cả các tính năng có thể đáp ứng nhu cầu cụ thể của bạn, vì vậy hãy đánh giá cẩn thận. Nhiều đội ngũ khôn ngoan sử dụng những điều này như là bộ tăng tốc cho các nguyên mẫu hoặc triển khai ban đầu, nhưng cũng có kế hoạch về cách duy trì tính linh hoạt. Cons: Cộng đồng mã nguồn mở đã rất tích cực trong AI đại lý, và các khuôn khổ này thường đặt tốc độ đổi mới. LangChain là một thư viện phổ biến cung cấp một cách mô-đun để chuỗi các cuộc gọi LLM, tích hợp các công cụ và quản lý trạng thái đại lý hội thoại - rất nhiều thí nghiệm đại lý sớm được xây dựng trên LangChain. Chúng tôi cũng đã thấy những thứ như AutoGPT (một trong những bản trình diễn đại lý tự trị đầu tiên dựa trên GPT) sinh ra nhiều biến thể và truyền cảm hứng cho các tính năng trong các công cụ mạnh mẽ hơn. Haystack (từ deepset) tập trung vào các đại lý trả lời câu hỏi với cơ sở kiến thức, nhưng nó bao gồm các thành phần hữu ích cho các đại lý xây dựng thực hiện truy xuất và thực hiện hành động. Có các công cụ xây dựng hình ảnh như Flowise, D Open-Source Frameworks: · Sự linh hoạt và cải tiến dựa trên cộng đồng. Bạn có thể xem mã, tùy chỉnh nó để phù hợp với nhu cầu của bạn và tránh chi phí cấp phép. Có một hệ sinh thái phong phú của các plugin và tích hợp được đóng góp bởi các nhà phát triển trên toàn thế giới. Pros: · Bạn đang tìm cách duy trì nó, đảm bảo bảo mật và mở rộng nó trong sản xuất. Nhiều doanh nghiệp giảm bớt điều này bằng cách ghép nối các thành phần mã nguồn mở với công cụ nội bộ hoặc cơ sở hạ tầng đám mây của họ để làm cứng chúng.Trong thực tế, một cách tiếp cận lai là phổ biến: ví dụ, sử dụng LangChain trong một triển khai Azure OpenAI, hoặc sử dụng tổ chức của AWS trong khi vẫn viết logic tùy chỉnh với các thư viện mở. Cons: Cùng với các gã khổng lồ, một làn sóng các công ty khởi nghiệp đang đẩy ranh giới với các giải pháp chuyên biệt. Những giải pháp này dao động từ các nền tảng tập trung vào nhà phát triển đến các đại lý AI cụ thể cho lĩnh vực. Ví dụ, một công ty khởi nghiệp đã làm việc trên một đại lý mục đích chung có thể thực hiện các hành động phần mềm bằng cách quan sát và bắt chước cách con người sử dụng các ứng dụng (chủ yếu là đào tạo một đại lý để sử dụng phần mềm thông qua UI). Một công ty khởi nghiệp khác có thể tập trung vào các đại lý học các quy trình kinh doanh bằng cách quan sát người lao động, nhằm mục đích tự động hóa dễ dàng các nhiệm vụ. Chúng tôi cũng đang thấy các công ty xây dựng các hoạt động đại lý và các công cụ đánh giá, về cơ bản là bộ công cụ “DevOps for AI” Startups and Niche Players: · Những người chơi nhỏ hơn này thường đổi mới nhanh hơn và nhắm mục tiêu vào các điểm đau cụ thể - bạn có thể tìm thấy một giải pháp phù hợp với nhu cầu của bạn (ví dụ, một đại lý chuyên về quy trình làm việc tuân thủ tài chính). Pros: · Không phải tất cả sẽ tồn tại lâu dài, và một số có thể không mở rộng để đáp ứng các yêu cầu của doanh nghiệp. Có một gánh nặng due diligence: bạn phải kiểm tra chúng cho an ninh, độ tin cậy, và hỗ trợ. Một cách tiếp cận thực dụng một số thực hiện là để thử nghiệm với một giải pháp khởi nghiệp để xem nếu nó giải quyết vấn đề, nhưng kiến trúc mọi thứ theo cách mà bạn có thể trao đổi nó ra nếu cần thiết (tránh liên kết sâu). Cons: Tóm lại, bối cảnh nhà cung cấp / công cụ rất phong phú và đang phát triển nhanh chóng. Không có câu trả lời phù hợp với tất cả các kích thước - sự lựa chọn phù hợp phụ thuộc vào các yếu tố như tích hợp công nghệ hiện có của bạn, tầm quan trọng của vị trí tại chỗ hoặc dữ liệu, chuyên môn của nhóm của bạn và mức độ tiên tiến (trái ngược với rủi ro) của tổ chức của bạn. Lời khuyên của tôi là chiến lược: không mù quáng cam kết với toàn bộ tích hợp của một nhà cung cấp duy nhất nếu bạn có thể tránh nó. Thay vào đó, đánh giá các thành phần tốt nhất cho mỗi cột kiến trúc. Nhấn mạnh vào khả năng tương tác - ủng hộ các công cụ hỗ trợ tiêu chuẩn mở hoặc ít nhất là các tùy chọn xuất khẩu / nhập khẩu cho các mô hình dữ liệu và vì vậy bạn được lưu ý Cuối cùng, hãy nhớ: nền tảng tuyệt vời nhất sẽ không cứu một dự án với định nghĩa vấn đề kém hoặc thực hiện kém. Công nghệ là một tác nhân, không phải là người cứu hộ. Các nguyên tắc cơ bản chúng tôi thảo luận: mục tiêu rõ ràng, kiến trúc mạnh mẽ, quản trị, v.v. - vẫn quyết định thành công hơn bất kỳ công cụ cụ thể nào. Chọn các công cụ phù hợp với những nguyên tắc cơ bản và phù hợp với những hạn chế của bạn. Cultural and Organisational Shifts Việc triển khai các đại lý tự trị không chỉ là một nỗ lực kỹ thuật, nó là một sự biến đổi tổ chức. Để thực sự khai thác AI đại lý, các công ty thường cần phải điều chỉnh vai trò, phát triển các kỹ năng mới và thấm nhuần cách làm việc mới. mặt con người này của phương trình có thể là khó khăn nhất, nhưng nó hoàn toàn quan trọng đối với thành công lâu dài. Cũng giống như phong trào DevOps đã tạo ra các vai trò như Kỹ sư độ tin cậy trang web (SRE), sự gia tăng của các đại lý AI đang sinh ra vai trò của riêng họ.Chúng tôi đã thấy các tiêu đề công việc như Kỹ sư Prompt, Nhà đạo đức AI, Chuyên gia AI Ops hoặc Kỹ sư tri thức xuất hiện.Trong nhóm của tôi, chúng tôi đã nâng cấp một số nhà phân tích kinh doanh của chúng tôi để trở thành những gì tôi gọi là "những phi công AI" - những người hiểu sâu sắc quy trình làm việc và có thể làm việc với các đại lý, điều chỉnh các yêu cầu của họ hoặc cung cấp phản hồi về sản phẩm của họ.Chúng tôi cũng thấy có giá trị để có một người quản lý sản phẩm cho các đại lý AI, một người chịu trách nhiệm về hiệu suất, kinh nghiệm người dùng và lộ trình cải tiến của các đại lý, New Roles and Skills: Các tổ chức có thể xem xét việc thành lập Trung tâm Xuất sắc AI (CoE) hoặc tương tự, tập hợp các kỹ năng này và phục vụ như một trung tâm chuyên môn. CoE có thể thiết lập tiêu chuẩn, chia sẻ thực hành tốt nhất và giúp các đơn vị kinh doanh triển khai các đại lý một cách nhất quán hơn. Quan trọng là, các nhóm CNTT sẽ cần đào tạo về các nền tảng và khuôn khổ cụ thể được lựa chọn, ví dụ: nếu bạn sử dụng Azure OpenAI, hãy đảm bảo rằng các kỹ sư của bạn biết cách triển khai và bảo mật các mô hình; nếu bạn sử dụng thư viện mã nguồn mở, chia sẻ lời khuyên và gotchas để sử dụng nó đúng cách. Bằng cách đầu tư vào tài năng (huấn luyện nhân viên hiện có, tuyển dụng chuyên gia hoặc hợp tác với các chuyên gia tư vấn khi cần thiết), bạn sẽ xây dựng một năng lực nội Các tổ chức thành công có các giám đốc điều hành hàng đầu công khai ủng hộ các sáng kiến AI, không chỉ bằng cách tài trợ cho họ, mà bằng cách truyền đạt tầm quan trọng của họ và khung hình chúng một cách tích cực cho lực lượng lao động. Các nhà thầu, không thay thế họ, và cam kết chuyển đổi nhân viên để làm việc cùng với AI. Loại đảm bảo và rõ ràng từ trên xuống là rất quan trọng để ngăn chặn tin đồn và kháng cự trên mặt đất. Leadership and Culture: trợ giúp Về mặt văn hóa, các nhóm phải chuyển sang một tư duy hợp tác nhân tạo nhân tạo. Điều này có nghĩa là đào tạo nhân viên để xem nhân viên là một phần của nhóm. Chúng tôi đã cập nhật các quy trình hoạt động tiêu chuẩn (SOP) để bao gồm cách tương tác với nhân viên AI hoặc phải làm gì nếu nhân viên đánh dấu một vấn đề. Chúng tôi khuyến khích một cách tiếp cận "tin tưởng nhưng xác minh" - đối xử với nhân viên AI như một đồng nghiệp cấp thấp mà bạn kiểm tra hai lần công việc, thay vì tin tưởng mù quáng hoặc từ chối nó hoàn toàn. Ngoài ra, điều quan trọng là phải kỷ niệm người + AI giành chiến thắng. Khi một nhân viên sử dụng nhân viên đạt được điều gì đó tuyệt vời (chẳng hạn như giải quyết một vấn đề nhanh hơn nhiều), gọi ra điều đó và đưa ra tín dụng cho cả người và công nghệ. Nó củng Chúng tôi cũng tạo ra các vòng phản hồi từ người dùng trở lại nhóm phát triển AI, ví dụ, một kênh Slack nơi bất cứ ai cũng có thể đăng “Các đại lý đã đưa ra một câu trả lời kỳ lạ về trường hợp này” hoặc “Chúc các đại lý cũng có thể làm X.” Điều này đã cho người dùng một giọng nói trong việc cải thiện các đại lý và khiến họ cảm thấy một phần của sự tiến hóa của nó, thay vì có một công cụ áp đặt lên họ. Sự tin tưởng là tiền tệ của việc áp dụng. Người dùng cần tin tưởng vào đại lý để thực sự sử dụng nó, và quản lý cần tin tưởng nó để cho phép nó mở rộng đến các nhiệm vụ quan trọng hơn. Xây dựng sự tin tưởng bắt đầu với tính minh bạch. Như chúng tôi đã thảo luận dưới sự quản lý, có nhật ký và khả năng giải thích hành động của một đại lý giúp làm mờ đi nó. Trong một trường hợp, chúng tôi đã cung cấp cho các nhà quản lý một báo cáo hàng tuần đơn giản: “Đây là những gì đại lý đã làm trong tuần này, đây là kết quả, đây là nơi cần giúp đỡ.” Theo thời gian, khi báo cáo đó liên tục cho thấy kết quả tích cực và tính toán trung thực về bất kỳ sự thất bại nào, niềm tin đã tăng lên. Trust and Accountability: Một chiến thuật khác: tự chủ dần dần. Đừng cho một đại lý quyền kiểm soát đầy đủ qua đêm: bắt đầu nó trong chế độ tư vấn, sau đó tự động hóa một phần, sau đó tự động hóa đầy đủ trong một lĩnh vực hạn chế.Vào thời điểm nó hoàn toàn tự trị, mọi người đã thấy nó hoạt động và thoải mái.Đó tương tự như việc đưa một nhân viên mới lên tàu: bạn sẽ không để một nhân viên mới đưa ra quyết định lớn vào ngày đầu tiên mà không có sự giám sát; một đại lý AI không nên khác. Cũng thiết lập khuôn khổ trách nhiệm rõ ràng: quyết định trước thời gian làm thế nào bạn sẽ xử lý nó nếu đại lý phạm sai lầm. Ví dụ, nếu một đại lý AI gửi email sai cho một khách hàng hoặc thực hiện một cuộc gọi xấu trong một quá trình, ai chịu trách nhiệm? Thông thường đó sẽ là chủ doanh nghiệp hoặc nhóm đã triển khai đại lý, nhưng viết ra điều này tránh hoảng loạn và chỉ ngón tay khi có điều gì đó sai. Chúng tôi thấy rằng có một kế hoạch phản hồi hoặc sự cố xác định thực sự tăng cường sự tự tin, ví dụ như biết rằng “nếu đại lý không chắc chắn, nó tự động đánh dấu một người, và nếu nó bao giờ thất bại, nó trang các kỹ sư gọi” đảm bảo tất cả mọi người rằng chúng tôi không để mọi thứ hoàn toàn vào cơ hội. Thật thú vị, đôi khi thể hiện những giới hạn của đại lý có thể xây dựng niềm tin.Chúng tôi đã đưa ra một điểm để nói rõ AI sẽ làm gì. Do or là Bằng cách thiết lập những giới hạn đó (ví dụ: "Các đại lý sẽ không bao giờ phê duyệt một khoản thanh toán trên £ 1000; điều đó sẽ luôn luôn đi đến một người quản lý"), mọi người cảm thấy thoải mái hơn bởi vì họ biết phạm vi của AI và những thứ quan trọng đó đã được bảo vệ. Không Không cho phép Tóm lại, chuẩn bị nhân viên và quy trình của bạn cũng quan trọng như chuẩn bị công nghệ. Các tổ chức nhận được nhiều nhất từ AI đại lý thường là những tổ chức phát triển mô hình hoạt động của họ cùng với việc triển khai công nghệ. công nghệ mới + mô hình org cũ = giá trị hạn chế; công nghệ mới + tư duy org mới = chuyển đổi. Chúng tôi đã thấy các công ty tạo ra “AI Guilds” nội bộ hoặc nhóm làm việc cho nhân viên quan tâm đến AI để chia sẻ kinh nghiệm và lời khuyên. những người khác đã cập nhật mô tả công việc để bao gồm làm việc với các công cụ AI như một năng lực. Một số đã thiết kế lại các nhóm, ví dụ, bổ nhiệm một “AI Controller” trong một bộ phận chịu trách nhiệm giám sát các đại lý hàng ngày. những thay đổi này có thể nghe có vẻ nhỏ, nhưng chúng bổ sung cho một doanh nghiệp sẵn sàng cho AI, không chỉ là tò mò về AI. Future Predictions and Next Steps Nhìn về phía trước, tương lai sẽ giữ gì cho AI đại lý trong doanh nghiệp? Dựa trên xu hướng hiện tại, đây là một số dự đoán và hiểu biết về hướng đi của mọi thứ, và điều đó có nghĩa là gì đối với những người trong chúng ta triển khai các công nghệ này: Khi việc áp dụng mở rộng, có một khả năng thực sự của "chỉ số mở rộng": hàng chục hoặc thậm chí hàng trăm nhân viên AI xuất hiện trên các nhóm và chức năng khác nhau. Một mặt, điều đó có thể là một dấu hiệu của việc áp dụng và đổi mới lành mạnh; mặt khác, nó làm tăng đau đầu quản lý. Làm thế nào bạn đảm bảo tất cả các nhân viên này tuân thủ các quy tắc quản lý? Làm thế nào bạn tránh nỗ lực trùng lặp (hai đội xây dựng các nhân viên tương tự vì họ không phối hợp)? Chúng ta có thể thấy sự xuất hiện của các cửa hàng ứng dụng AI nội bộ hoặc đăng ký nơi các đại lý được phê duyệt được liệt kê để tái sử dụng, và các bảng điều khiển quản lý để giám sát tất cả các đại lý một cách tập trung. Các doanh nghiệp có thể sẽ cần thiết lập hàng rào bảo vệ để ngăn chặn mọi người Agent Sprawl (and the Need to Tame It): Trong khi thực hành các hệ thống AI hoạt động với mức độ tự chủ, Luật AI sắp tới của EU, ví dụ, sẵn sàng phân loại các ứng dụng AI nhất định, có khả năng bao gồm các hệ thống quyết định tự trị trong các lĩnh vực như tài chính, nhân sự hoặc dịch vụ khách hàng, như các quy định ngày càng tăng của các hệ thống AI hoạt động với mức độ tự chủ. Luật AI sắp tới của EU, ví dụ, sẵn sàng phân loại các ứng dụng AI nhất định, có khả năng bao gồm các hệ thống quyết định tự trị trong các lĩnh vực như tài chính, nhân sự hoặc dịch vụ khách hàng, như các quy định cao. Điều này sẽ áp đặt các yêu cầu của riêng họ: ví dụ, FTC của Mỹ có thể đã cảnh báo chống lại các thực tiễn AI “không công bằng hoặc lừa dối” bởi các công ty, và các quy định cụ thể của ngành (trong Regulation on the Horizon: Chúng tôi có khả năng chứng kiến một khoảng cách ngày càng tăng giữa các tổ chức sử dụng AI đại lý hiệu quả và những người không. Giống như với các làn sóng công nghệ trong quá khứ (hãy nghĩ về thương mại điện tử trong những năm 2000, hoặc điện toán đám mây trong những năm 2010), những người áp dụng sớm có thể thực hiện tốt hơn đáng kể những người cạnh tranh. Một đại lý tự động, khi được sử dụng tốt, có thể tăng đáng kể tốc độ và quy mô mà một công ty hoạt động. Điều đó có thể dẫn đến việc chia sẻ thị phần hoặc cung cấp dịch vụ với chi phí thấp hơn nhiều. Ví dụ, hãy tưởng tượng hai công ty hậu cần: một người sử dụng các đại lý AI để chuyển hướng vận chuyển, xử lý sự chậm trễ và tối ưu hóa tải trong thời gian thực mà không có sự can thiệp của con người; các đại lý khác có thể dựa vào các nhà Competitive Advantage: AI Haves vs Have-Nots: Trên một lưu ý lạc quan hơn, bản thân công nghệ đang cải thiện nhanh chóng. Nhiều hạn chế ngày nay (như LLM đôi khi "hallucinating" sự kiện, hoặc các đại lý đấu tranh với bộ nhớ lâu dài) đang được nghiên cứu và các công ty đang tích cực làm việc trên. Chúng ta có thể mong đợi các mô hình nền tảng thế hệ tiếp theo với khả năng lý luận tốt hơn, có lẽ thậm chí một số khả năng lập kế hoạch hoặc sử dụng công cụ tích hợp. Ngoài ra còn có những nỗ lực để làm cho đầu ra AI có thể kiểm soát được nhiều hơn (vì vậy bạn có thể đặt ranh giới vững chắc về những gì một đại lý sẽ hoặc sẽ không làm). Các công cụ để giải thích và xử lý các quyết định AI sẽ trở nên tốt hơn, điều này sẽ làm cho nó dễ dàng hơn để tin tưởng và xác minh những gì các đại lý đang làm. Evolving Technology (Smarter Agents): Về mặt ngược lại, các đại lý mạnh mẽ hơn có nghĩa là hậu quả lớn hơn nếu họ sai, vì vậy mọi thứ chúng ta đã thảo luận về quản trị và giám sát trở nên quan trọng hơn. tôi cũng dự đoán một làn sóng các sản phẩm "quản lý đại lý AI" tập trung vào bảo vệ - tương tự như cách chúng ta có phần mềm diệt virus và tường lửa cho CNTT truyền thống, chúng ta có thể có các công cụ giám sát được thiết kế đặc biệt để theo dõi hành vi của các đại lý AI và thậm chí tự động ngăn chặn các hành động sai lầm. sự xuất hiện của các tiêu chuẩn công nghiệp (như A2A cho khả năng tương tác, hoặc có lẽ các tiêu chuẩn kiểm toán) cũng sẽ làm cho việc áp dụng các đại lý rộng rãi dễ dàng hơn. Nếu tôi dự đoán, nói, 5 năm sau, tôi tưởng tượng nhiều công ty sẽ có một loại nền tảng đại lý AI phổ biến như CRM hoặc ERP của họ. Nền tảng này sẽ lưu trữ vô số đại lý, giám sát chúng, thực thi các chính sách và tạo điều kiện cho sự cải tiến liên tục - phần lớn nó được tự động hóa. Khái niệm "người lao động AI" hoặc "các đồng nghiệp kỹ thuật số" sẽ được bình thường hóa. Chúng ta thậm chí có thể thấy họ được tính đến chính thức trong các biểu đồ tổ chức hoặc các cuộc họp nhóm ("Chúng tôi có 5 nhà phân tích con người và 2 đại lý AI làm việc trên dự án này"). Tất cả điều đó vẽ ra một bức tranh về tiềm năng cao lớn: hiệu quả, khả năng mới, thậm chí có thể là các mô hình kinh doanh mới mà không có các đại lý AI. Trong ngắn hạn, mong đợi rất nhiều thử nghiệm và học tập trên các ngành công nghiệp. Sẽ có những chiến thắng lớn, và sẽ có những thất bại cao cấp (mà tất cả chúng ta sẽ học hỏi từ, có lẽ nhiều hơn từ những thất bại!). Tôi nghi ngờ các thực tiễn tiêu chuẩn sẽ bắt đầu xuất hiện một khi đủ các công ty đã trải qua chu kỳ. Có thể ngay cả các giải pháp đại lý cụ thể của ngành, chẳng hạn như các đại lý tài chính được đào tạo trước hoặc các đại lý chăm sóc sức khỏe đi kèm với kiến thức và bảo vệ tuân thủ có liên quan ra khỏi hộp, sẽ có sẵn. Chúng ta cũng có thể thấy sự hợp tác nhiều hơn giữa các công ty về an toàn và tiêu chuẩn AI (vì một thảm họa cho một người có thể thúc đẩy quy định cho tất cả mọi người, có một động lực để chia sẻ các thực tiễn tốt nhất Final Thoughts and Call to Action Nhưng như chúng ta đã thảo luận trong loạt bài này, hành trình này là một hành trình lặp đi lặp lại (một cuộc chạy marathon, không phải một sprint) và nó đòi hỏi nhiều sự nhấn mạnh về con người và quy trình như về thuật toán và mã. Nếu bạn là một nhà lãnh đạo doanh nghiệp hoặc học viên, bạn nên làm gì vào sáng thứ Hai?Đây là một cuốn sách nhanh được chưng cất từ mọi thứ chúng tôi đã bao gồm: Don’t just drop an AI agent into an existing process and expect magic. The biggest gains come when you reimagine the workflow with the agent in mind. Simplify or change human procedures alongside introducing the AI. Treat it as an opportunity to streamline the whole operation, not just plug in a fancy tool. Agents that look impressive but don’t actually improve how work gets done will fizzle out. Aim for process improvement + AI, not AI slapped onto a broken process. Redesign Workflows, Not Just Technology: Agentic AI is not a hammer for every nail. Successful solutions often mix approaches. Maybe an AI agent handles the unstructured, complex parts of a task, but a simple deterministic program handles the rest. Don’t force AI into areas where a straightforward software or rules-based solution would do better. Evaluate each step of a workflow: if it requires heavy judgement or pattern recognition, AI might help; if it’s formulaic or mission-critical to get exactly right every time, a conventional system might be safer. Often a hybrid approach: AI for what it does best, traditional automation for the rest - yields the best results. Use the Right Tool for the Right Task: Treat your agent as a product that’s never finished. The top performers set up continuous evaluation and improvement cycles. This means A/B testing changes, regularly feeding failure cases back into model training or prompt tweaking, and having a cadence for model updates. Implement the ability to track every decision the agent makes and review it (those logs are gold mines for debugging and improvement). Some firms, as mentioned, even have an “AI audit log” reviewed periodically by QA or audit teams. The mindset should be Agile: frequent iterations, feedback-driven tweaks, and incremental expansion of the agent’s capabilities. This not only improves performance but keeps stakeholders engaged as they see constant progress. Iterate with Evaluation Loops: Don’t reinvent the wheel for each new agent or use case. Aim to build modules and a common platform that can be reused. For example, if in Part 3 you developed a robust natural language parsing module or a connector to your SAP system for one agent, package it so other teams can reuse it for their agents. Consider creating a library of “agent skills” (reusable action integrations like sending an email, querying a DB, etc.) that all your agents can call. In practice, companies that adopt a platform mindset see huge efficiency gains. One bank reported that by reusing components, they reduced development time by ~40% for each subsequent agent. Also, maintain shared knowledge bases where possible instead of silos per agent (with proper context separation). Reusability is a force multiplier for scaling AI solutions across the enterprise. Build Modular, Reusable Components: Autonomy doesn’t mean no human involvement; it means humans focus their involvement where it matters most. Define clearly where human oversight or input is needed for your agents. Is it final approval on high-stakes decisions? Is it periodic quality spot-checks of the agent’s outputs? Plan these checkpoints deliberately. They act as safety nets while the agent earns trust. The trick is to avoid unnecessary micromanagement: humans should supervise, not redo the work. Over time, as the agent consistently proves itself, you can dial back some checkpoints (e.g. move from 100% review to sample audits). Also plan for new roles: you might need an “AI Controller” or agent supervisor as discussed, and you should train users on how to handle exceptions the agent flags. Human-AI partnership tends to yield better outcomes than either alone, and it helps culturally too - people see that the AI isn’t a black box running wild; there’s a human-centric safety net ensuring everything stays on track. Keep Humans in the Loop (Strategically): We’ve hit this point repeatedly because it’s crucial. Set up an AI governance framework at project inception, not as an afterthought. This includes forming a multi-disciplinary team or committee (IT, business, legal, compliance, security) to oversee the project, establishing guidelines for ethical use and risk assessment, and defining escalation paths if something goes wrong. Develop AI use policies, e.g. who can build or deploy an agent, what data can be used, levels of human oversight required for certain tasks, etc. Consider investing in tools for bias monitoring, model validation, and so on as they become available. Governance might sound like bureaucracy, but done well it’s an enabler of innovation, not a roadblock. The key is to make governance a partner in innovation: involve the risk folks early so they help shape a solution that can pass muster, rather than swooping in at the end to block something. A little time spent on guardrails and guidelines up front can save a lot of pain later, and will make scaling to multiple agents much smoother. Institute Strong Governance from Day One: Theo hướng dẫn này tạo điều kiện cho AI đại lý phát triển mạnh trong doanh nghiệp của bạn. Chủ đề tổng thể là sự cân bằng: hãy tham vọng trong việc khai thác AI, nhưng hãy dựa vào thực tế kinh doanh và quản lý rủi ro. Nếu bạn thiết kế lại quy trình làm việc, chọn công cụ phù hợp cho từng nhiệm vụ, liên tục lặp lại, tái sử dụng những gì bạn có thể, giữ cho con người phù hợp trong vòng tròn, và quản lý mạnh mẽ, bạn đang xếp chồng lên bàn cho thành công. Là một học viên, tôi đã học cách tiếp cận AI đại lý với tư duy song sinh: sự lạc quan rằng nó Giải quyết vấn đề và mở khóa giá trị mà chúng ta không thể trước đây, và chủ nghĩa thực dụng rằng nó đòi hỏi kỷ luật, làm việc chăm chỉ, và đôi khi nói "không" với những ý tưởng không thực tế. Với cách tiếp cận cân bằng đó, các kết quả mà tôi đã thấy thực sự biến đổi, không phải trong một cách khoa học viễn tưởng "AI điều hành công ty", nhưng trong những cải tiến hữu hình: các dự án từng mất vài tháng được hoàn thành trong vài tuần, những hiểu biết được chôn vùi trong dữ liệu được bề mặt hàng ngày, nhân viên được giải phóng khỏi sự lúng túng để tập trung vào công việc sáng tạo và chiến lược, và khách hàng nhận được dịch vụ nhanh hơn, thông minh hơn. Có thể lĩnh vực AI đại lý đang phát triển nhanh chóng. năm tới chắc chắn sẽ mang lại những bước đột phá mới và, không nghi ngờ gì, những câu chuyện cảnh báo mới. Nhưng được trang bị những hiểu biết chúng tôi đã thảo luận, từ các trụ cột kiến trúc đến thay đổi văn hóa, bạn nên được trang bị tốt để điều hướng cuộc hành trình này. các công ty đạt được nó đúng sẽ không chỉ tránh những cái bẫy; họ sẽ tạo ra các mô hình hoạt động mới xác định ranh giới cạnh tranh tiếp theo. Agentic AI là một công cụ, một công cụ rất mạnh mẽ. giá trị của nó cuối cùng phụ thuộc vào việc chúng ta sử dụng nó tốt như thế nào. hy vọng của tôi là với những bài học từ những người áp dụng ban đầu trong tay, bạn có thể sử dụng nó một cách khôn ngoan để thực sự biến đổi cách tổ chức của bạn hoạt động, tốt hơn. Denis Prilepsky là một kiến trúc sư doanh nghiệp và nhà tư vấn chuyển đổi kỹ thuật số với hơn 15 năm kinh nghiệm xây dựng các hệ thống AI-native cho các tổ chức lớn trên tài chính, tài nguyên thiên nhiên và bán lẻ. Denis Prilepsky là một kiến trúc sư doanh nghiệp và nhà tư vấn chuyển đổi kỹ thuật số với hơn 15 năm kinh nghiệm xây dựng các hệ thống AI-native cho các tổ chức lớn trên tài chính, tài nguyên thiên nhiên và bán lẻ.