Menguasai dan memperluaskan agensi AI: kecemerlangan operasi dan jalan ke hadapan

Ini adalah artikel kelima dan terakhir dalam siri kami mengenai agensi AI dalam syarikat. Dalam bahagian-bahagian terdahulu, kami merangkumi apa itu agensi AI (Bahagian 1), fasa matang pengambilan (Bahagian 2), tujuh pilar seni bina agensi (Bahagian 3), dan corak penyebaran vs. perangkap (Bahagian 4). Sekarang, kami beralih kepada bagaimana anda mengoperasikan dan meluaskan agensi AI ini dengan cara yang bertanggungjawab. Bahagian ini membincangkan menetapkan metrik yang betul dan amalan "AgentOps", mengurus alat dan platform, menyesuaikan budaya dan peranan organisasi, dan menyediakan apa yang akan datang - dari peraturan yang muncul kepada dinamik kompetitif masa depan. Ini adalah artikel kelima dan terakhir dalam siri kami mengenai agensi AI dalam syarikat. Dalam bahagian-bahagian terdahulu, kami merangkumi apa itu agensi AI (Bahagian 1), fasa matang pengambilan (Bahagian 2), tujuh pilar seni bina agensi (Bahagian 3), dan corak penyebaran vs. perangkap (Bahagian 4). Sekarang, kami beralih kepada bagaimana anda mengoperasikan dan meluaskan agensi AI ini dengan cara yang bertanggungjawab. Bahagian ini membincangkan menetapkan metrik yang betul dan amalan "AgentOps", mengurus alat dan platform, menyesuaikan budaya dan peranan organisasi, dan menyediakan apa yang akan datang - dari peraturan yang muncul kepada dinamik kompetitif masa depan. Ini adalah artikel kelima dan terakhir dalam siri kami mengenai agensi AI dalam syarikat. Pada masa anda meletakkan agen AI ke dalam pengeluaran dan memperluas penggunaan mereka, kejayaan menjadi kurang tentang Agen (Anda telah melakukan itu) dan lebih banyak tentang Ia serupa dengan bagaimana DevOps muncul apabila penyebaran perisian meluas: di sini kita memerlukan disiplin "AgentOps" atau "MLOps" untuk memastikan agen AI kami terus menyampaikan nilai hari demi hari. mari kita memecahkan beberapa aspek utama: metrik untuk mengukur kesan agen, landskap alat / pembekal yang berkembang yang boleh menyokong anda, perubahan budaya dan organisasi yang diperlukan, dan beberapa pemikiran tentang mempertahankan strategi anda sebagai agentik AI terus berevolusi. Bangunan Mengurus dan menguruskan Metrics for Measuring Impact "Apabila memperkenalkan agen AI, menentukan metrik adalah penting, jika tidak, bagaimana anda tahu jika ia benar-benar berfungsi?" Ini merupakan pelajaran yang sukar yang saya pelajari pada awalnya.Ia adalah mudah untuk menjadi kagum dengan demo, tetapi syarikat berjalan pada hasil, bukan teknologi sejuk.Kami mendapati ia berguna untuk menjejaki metrik di pelbagai dimensi untuk melukis gambaran keseluruhan kesan agen: prestasi operasi, kesan perniagaan, pematuhan / risiko, dan penerimaan pengguna. These tell you how well the agent is performing its task on a technical and service level. Examples include accuracy or success rate (what percentage of tasks does the agent complete correctly without human intervention?), average handling time (how fast does the agent resolve an issue vs. a human), and throughput (tasks completed per hour). If the agent interacts with end users, measure user satisfaction (e.g. CSAT scores or feedback ratings for those interactions). Also track utilisation: how often is the agent being triggered or used? For instance, after deploying an agent for software testing, we measured that it automatically caught and fixed about 30% of bugs, which was a clear operational win, tracked release-over-release. Operational metrics often form the early success criteria in pilot phases (e.g. “achieve at least X% accuracy within Y months”). Operational Metrics: Ultimately, you need to justify the project in business terms. Track how the agent is affecting the bottom line or key business KPIs. This can include direct cost savings (e.g. reduction in support labour hours: “the agent saved 200 hours of Tier-1 support work this month”), revenue impact (e.g. the agent’s upsell suggestions added £50k in sales last quarter), or efficiency gains in process metrics (like a higher conversion rate, or reduced downtime due to faster incident response). Also account for the cost of the agent itself, including ongoing cloud compute costs, maintenance effort, etc. One project of ours calculated that an AI agent reduced average QA cycle time by 30%, translating to an estimated £250k per year in saved engineering hours. But we also monitored that as usage grew, the agent’s API costs were climbing; this went into an ROI dashboard to ensure the value far outpaced the spend. Many organisations set up an “AI ROI” dashboard for leadership, showing running totals of benefits versus costs. Nothing quiets sceptics like hard numbers showing a positive payoff. Economic Metrics (ROI): Especially in regulated industries, you should measure things related to safety, compliance, and risk reduction. This might include the number of incidents or errors the agent prevented (“the agent caught 5 potential fraud cases that slipped past manual checks”), or conversely any compliance issues caused by the agent (hopefully zero, but if an agent made a decision that violated a policy, you need to log that and investigate). If you have human review steps, track how often humans override or correct the agent. A high override rate might indicate the agent is doing things people aren’t comfortable with - a risk signal that either the agent is making dubious choices or users don’t trust it yet. Another useful metric is time to detect and resolve agent issues (analogous to MTTR in incident management): if something goes wrong with the agent, how quickly do you notice and fix it? Some companies even conduct regular compliance audits of their AI systems; the findings can be distilled into metrics. For example, “Last quarter’s audit found 0 instances of personal data leakage by the agent” or “100% of high-value transactions handled by the agent were logged and reviewed with no discrepancies found.” These reassure management (and regulators) that the AI is under control. Compliance & Risk Metrics: Finally, gauge the human side: are people actually using the agent and integrating it into their work? Metrics here could include adoption rates (e.g. what percentage of customer inquiries are now handled by the agent vs. humans - and is that trending up or flat?), or user sentiment surveys (do employees find the agent helpful? do customers feel their issue was well-handled by the AI?). You might measure the number of new ideas or requests for AI agents coming from the business, e.g. “after our pilot, 5 other departments requested their own AI agent within 3 months,” which is a nice indicator of organisational buy-in. Another angle: how roles are changing. If the agent takes over task X, are the employees who used to do X now moving to higher-value work? That can be captured via qualitative manager feedback or time-allocation studies. The ultimate adoption metric is a bit fuzzy but revealing: when people start saying things like “Let’s have the agent handle this,” as a normal part of conversation, you know it’s become a trusted part of operations. Organisational (Adoption) Metrics: Dengan memantau peta skor yang seimbang daripada metrik-metrik ini, anda boleh memastikan inisiatif agen AI kekal dalam jalur dan memberikan nilai yang berkelanjutan. Metrik membantu anda menangkap isu-isu awal (contohnya, penurunan ketepatan atau puncak dalam overrides manusia boleh memberi isyarat laluan model atau jenis soalan baru yang agensi tidak boleh menangani dengan baik). Metrik juga menyediakan bukti yang diperlukan untuk memastikan sokongan berterusan dan bajet - tidak ada yang membina keyakinan seperti papan panduan yang semakin meningkat. anda meletakkan agen (jadi anda mempunyai garis asas), dan kemudian berulang-ulang pada mereka apabila anda belajar apa yang benar-benar penting. Disiplin ini bukan sahaja menunjukkan nilai; ia sering membimbing anda untuk meningkatkan agen itu sendiri. Sebagai contoh, kami memperhatikan daripada metrik bahawa jenis tertentu pertanyaan sentiasa membawa kepada kegagalan manusia, yang menunjukkan kepada kita keupayaan agen yang hilang, yang kemudian kami menambah. Secara ringkas: mengukur, mengukur, mengukur. sebelum Tooling and Vendor Landscape Kemunculan agensi AI tidak terlepas daripada industri teknologi.Sebenarnya, ia telah mendorong boom dalam alat dan platform untuk membantu membina dan menguruskan sistem ini. Setahun atau dua yang lalu, ramai daripada kita telah mengumpulkan perpustakaan sumber terbuka dan kod tersuai; kini, setiap pembekal awan utama dan sekumpulan start-up menawarkan penyelesaian untuk agensi AI korporat. Ia adalah kedua-dua berkat (lebih banyak pilihan, pembangunan yang lebih cepat) dan kutukan (banyak hype, risiko penguncian). mari kita merangkumi gambaran netral landskap supaya anda tahu apa yang ada di luar sana dan apa kompromi yang perlu dipertimbangkan: Pembekal awan utama (AWS, Microsoft, Google, IBM, Oracle, dan lain-lain) telah melemparkan topi mereka ke dalam ring dengan tawaran agen AI enterprise. , yang menyediakan templat untuk membina agen pelbagai langkah dengan integrasi alat dan lapisan orkestrasi, semua berjalan pada infrastruktur dikendalikan AWS (https://aws.amazon.com/bedrock/agents/). Microsoft telah membina ekosistem Copilot di seluruh produk dan memperkenalkan , secara berkesan platform bagi perniagaan untuk mencipta dan menguruskan copilot AI mereka sendiri atau agen yang menyambung ke Microsoft 365 dan sistem lain (https://www.microsoft.com/en-us/microsoft-365-copilot/microsoft-copilot-studio). dalam platform Vertex AI, lengkap dengan konektor yang dibina terlebih dahulu dan API Agen, dan juga memperkenalkan kerangka kerja terbuka seperti A2A (digambarkan di atas) untuk menggalakkan interoperabiliti pelbagai agen. , bertujuan untuk mengotomatiskan aliran kerja perniagaan dengan mengoreksi pelbagai komponen AI dan RPA - spin IBM pada AI agensi untuk proses perniagaan (https://www.ibm.com/products/watsonx-orchestrate). pemain lain seperti Oracle dan SAP juga memasukkan ciri-ciri automatik seperti agen dalam aplikasi awan mereka. Cloud AI Platforms (Hyperscalers): Bedrock Agents Copilot Studio Agent Builder watsonx Orchestrate · Tempoh ke pasaran yang lebih cepat (karena anda boleh memanfaatkan komponen yang telah dibina), dan banyak penambahan berat (pembangunan, keselamatan, hosting model) dikendalikan untuk anda.Ia boleh menjadi lebih mudah untuk mengintegrasikan dengan perkhidmatan lain dalam ekosistem awan itu (contohnya, menggunakan AWS Lambda, Azure Functions, dan lain-lain di samping agen). Pros: · Potensi pembekal kunci atau batasan - anda sering perlu bekerja dalam ekosistem mereka dan menerima pengawal dan harga mereka. Juga, tidak semua ciri-ciri mungkin memenuhi keperluan spesifik anda, jadi pertimbangkan dengan teliti. Ramai pasukan berpengetahuan menggunakan ini sebagai pengecas untuk prototipe atau penyebaran permulaan, tetapi juga merancang bagaimana untuk kekal fleksibel. Cons: Komuniti sumber terbuka telah sangat aktif dalam agensi AI, dan rangka kerja ini sering menetapkan kelajuan inovasi. LangChain adalah perpustakaan popular yang menyediakan cara modular untuk rantai panggilan LLM, mengintegrasikan alat, dan menguruskan keadaan agensi perbualan - banyak eksperimen agensi awal dibina pada LangChain. Kami juga melihat seperti AutoGPT (salah satu daripada demo agensi berasaskan GPT autonomi pertama) menghasilkan banyak variasi dan mengilhami ciri-ciri dalam alat yang lebih kukuh. Haystack (dari deepset) memberi tumpuan kepada agensi menjawab soalan dengan pangkalan pengetahuan, tetapi ia termasuk komponen yang berguna untuk agensi pembinaan yang melakukan pemulihan dan mengambil tindakan. Terdapat alat pembina visual seperti Flowise, Dust, dan lain-lain, untuk membina aliran kerja agensi dengan pengkodean minimum. Open-Source Frameworks: · Fleksibiliti dan penambahbaikan berasaskan komuniti.Anda boleh melihat kod, menyesuaikannya untuk memenuhi keperluan anda, dan mengelakkan kos lesen.Terdapat ekosistem yang kaya plugin dan integrasi yang disumbangkan oleh pengembang di seluruh dunia. Pros: · Anda sedang dalam usaha untuk mengekalkan, memastikan keselamatan, dan meluaskannya dalam pengeluaran. Ramai syarikat mengurangkan ini dengan menggabungkan komponen sumber terbuka dengan alat atau infrastruktur awan dalaman mereka sendiri untuk menguatkan mereka.Dalam amalan, pendekatan hibrid adalah biasa: contohnya, menggunakan LangChain dalam penyebaran OpenAI Azure, atau menggunakan pengaturcaraan AWS sambil masih menulis logik tersuai dengan pustaka terbuka. Cons: Di samping raksasa, gelombang start-up memindahkan sempadan dengan penyelesaian khusus. Ini berkisar daripada platform yang memberi tumpuan kepada pengembang kepada agen AI khusus domain. Sebagai contoh, sebuah startup telah bekerja pada agen tujuan umum yang boleh melakukan tindakan perisian dengan mengamati dan meniru bagaimana manusia menggunakan aplikasi (dalam asasnya melatih seorang agen untuk menggunakan perisian melalui UI). Satu lagi startup mungkin memberi tumpuan kepada agen yang mempelajari proses perniagaan dengan mengamati pekerja manusia, bertujuan untuk automasi tugas yang mudah. Kami juga melihat syarikat membina ops agent dan alat penilaian, pada asasnya set alat "DevOps untuk AI" yang membantu menguji, memantau, dan menguruskan agen AI dalam pengeluaran. Lain-lain pakar dalam keselamatan AI - menawarkan produk yang menyediakan pelindung tambahan untuk LLM untuk mengelakkan perkara-perkara seperti suntikan segera Startups and Niche Players: · Pemain-pemain yang lebih kecil ini sering berinovasi lebih cepat dan menargetkan titik-titik kesakitan tertentu - anda boleh mencari penyelesaian yang sesuai dengan keperluan anda (katakan, agen yang mengkhususkan diri dalam aliran kerja pematuhan kewangan). Pros: · Tidak semua akan bertahan dalam jangka panjang, dan sesetengah mungkin tidak melampaui keperluan perniagaan.Terdapat beban berhati-hati: anda perlu memeriksa mereka untuk keselamatan, kebolehpercayaan, dan sokongan. Pendekatan pragmatik yang diambil oleh sesetengah adalah untuk menembak dengan penyelesaian startup untuk melihat sama ada ia menyelesaikan masalah, tetapi membina perkara-perkara dengan cara yang anda boleh menukarnya jika perlu (mengelakkan penyambung mendalam). Cons: Singkatnya, landskap vendor/tool kaya dan berkembang pesat. Tiada jawapan yang sesuai dengan saiz - pilihan yang betul bergantung kepada faktor-faktor seperti tumpukan teknologi yang sedia ada, kepentingan lokasi data atau lokasi, kepakaran pasukan anda, dan bagaimana cutting-edge (versus risiko-averse) organisasi anda adalah. Nasihat saya adalah untuk menjadi eklektik secara strategik: jangan berkomitmen secara buta kepada tumpukan penuh vendor tunggal jika anda boleh mengelak daripada itu. Sebaliknya, menilai komponen yang terbaik untuk setiap pilar seni bina. Menegaskan interoperabiliti - mengutamakan alat yang menyokong piawaian terbuka atau sekurang-kurangnya pilihan eksport/import untuk model data dan, jadi anda dicatat jika anda perlu mengubah arah kemudian. Berita baiknya ialah bahawa persaingan mendorong pembekal besar untuk terus menambah ciri-ciri dan meningkatkan (contoh Akhirnya, ingatlah: platform yang paling cemerlang tidak akan menyelamatkan projek dengan definisi masalah yang buruk atau pelaksanaan yang lemah. Teknologi adalah pemulihan, bukan penyelamat. Dasar-dasar yang kami bicarakan: matlamat yang jelas, arsitektur yang kuat, pengurusan, dan lain-lain - masih menentukan kejayaan lebih daripada mana-mana alat tertentu. Pilih alat yang selaras dengan asas-asas itu dan yang sesuai dengan sekatan anda. Cultural and Organisational Shifts Mengimplementasikan agen autonomi bukan sekadar usaha teknikal, ia merupakan transformasi organisasi. Untuk benar-benar memanfaatkan agensi AI, syarikat-syarikat sering perlu menyesuaikan peranan, membangunkan kemahiran baru, dan menanamkan cara-cara baru untuk bekerja. Hal ini sisi manusia persamaan boleh menjadi yang paling sukar, tetapi ia sangat penting untuk kejayaan jangka panjang. Berikut adalah beberapa pergeseran utama orang-orang dan proses yang telah kita amati sebagai agensi AI mengambil alih: Sama seperti pergerakan DevOps mencipta peranan seperti Engineer Reliability Site (SRE), kemunculan agen AI telah menghasilkan peranan mereka sendiri.Kami sudah melihat tajuk pekerjaan seperti Engineer Prompt, Ethicist AI, Specialist AI Ops, atau Engineer Pengetahuan muncul.Dalam pasukan saya, kami meningkatkan beberapa analis perniagaan kami untuk menjadi apa yang saya sebut "ko-pilot AI" - orang-orang yang memahami aliran kerja dan boleh bekerja dengan agen, menyesuaikan petunjuknya atau memberikan maklum balas mengenai hasilnya.Kami juga mendapati ia berharga untuk mempunyai Pengurus Produk untuk agen AI, seseorang yang bertanggungjawab untuk prestasi, pengalaman pengguna dan jalur penambahbaikan agen, seperti pemilik produk. New Roles and Skills: Organisasi mungkin mempertimbangkan untuk menubuhkan Pusat Cemerlang AI (CoE) atau serupa, yang menggabungkan kemahiran ini dan berfungsi sebagai pusat kepakaran. CoE boleh menetapkan piawaian, berkongsi amalan terbaik, dan membantu unit perniagaan mengimplementasikan agen dengan lebih konsisten. Pentingnya, pasukan IT akan memerlukan latihan pada platform dan kerangka kerja tertentu yang dipilih, contohnya jika anda menggunakan Azure OpenAI, pastikan jurutera anda tahu bagaimana untuk mengimplementasikan dan mengamankan model; jika anda menggunakan perpustakaan sumber terbuka, berkongsi tip dan gotcha untuk menggunakannya dengan betul. Dengan melabur dalam bakat (melatih kakitangan sedia ada, menyewa pakar, atau bekerjasama dengan perunding di mana diperlukan), anda membina kecekapan dalaman yang akan membayar dividen apabila penerimaan AI berkembang. Seperti seorang CIO member Organisasi yang berjaya mempunyai eksekutif terkemuka secara terbuka membela inisiatif AI, bukan sahaja dengan membiayai mereka, tetapi dengan mengkomunikasikan kepentingan mereka dan membungkusnya secara positif kepada tenaga kerja. kontraktor, bukan menggantikan mereka, dan berkomitmen untuk menukar kakitangan untuk bekerja di samping AI. jenis kepastian dan kejelasan dari atas ke bawah adalah penting untuk mengelakkan gosip dan rintangan di lapangan. Leadership and Culture: Bantuan Secara budaya, pasukan mesti bertukar kepada pola pikir kerjasama manusia-IA. Ini bermaksud melatih pekerja untuk melihat agen sebagai sebahagian daripada pasukan. Kami mengemas kini prosedur operasi standard (SOP) untuk termasuk bagaimana berinteraksi dengan agen AI atau apa yang perlu dilakukan jika agen menandakan masalah. Kami menggalakkan pendekatan "percayalah tetapi semak" - merawat AI seperti rakan sekerja junior yang kerja anda semak dua kali, bukannya percaya secara buta kepada ia atau menolaknya sepenuhnya. Juga, ia adalah penting untuk meraikan kemenangan manusia + AI. Apabila seorang pekerja menggunakan agen mencapai sesuatu yang hebat (seperti menyelesaikan masalah lebih cepat), hubungi itu dan berikan kredit kepada kedua-dua orang dan teknologi. Ia mengukuhkan bahawa bekerja dengan AI adalah aset, bukan ancaman. Kami juga mencipta laluan maklum balas daripada pengguna kembali kepada pasukan pembangunan AI, contohnya, saluran Slack di mana sesiapa sahaja boleh memposting "Agent memberikan jawapan yang pelik pada kes ini" atau "Wish the agent could also do X." Kepercayaan adalah mata wang penerimaan. Pengguna perlu mempercayai agen untuk benar-benar menggunakannya, dan pengurusan perlu mempercayai ia untuk membolehkan ia meluaskan skala kepada tugas-tugas yang lebih penting. Membina kepercayaan bermula dengan ketelusan. Seperti yang kami membincangkan di bawah pengurusan, mempunyai log dan keupayaan untuk menjelaskan tindakan agen membantu memecah belah. Dalam satu kes, kami menyediakan kepala jabatan dengan laporan mingguan yang mudah: "Inilah apa yang dilakukan agen minggu ini, di sini adalah hasilnya, di sini adalah di mana ia memerlukan bantuan." Trust and Accountability: Taktik lain: autonomi beransur-ansur.Jangan berikan kawalan penuh kepada agen pada malam hari: mula dalam mod nasihat, kemudian automatik parsial, kemudian automatik penuh dalam domain terhad.Pada masa ia sepenuhnya autonomi, orang-orang telah melihat ia bertindak dan selesa.Ini serupa dengan memasuki kakitangan baru: anda tidak akan membenarkan penyewa baru membuat keputusan utama pada hari pertama tanpa pengawasan; seorang agen AI tidak boleh berbeza. Juga menubuhkan kerangka tanggungjawab yang jelas: memutuskan terlebih dahulu bagaimana anda akan mengatasinya jika agen membuat kesilapan. Sebagai contoh, jika seorang agen AI menghantar e-mel yang salah kepada pelanggan atau membuat panggilan yang buruk dalam proses, siapa yang bertanggungjawab? Biasanya ia akan menjadi pemilik perniagaan atau pasukan yang melancarkan agen, tetapi mengetikkan ini mengelakkan panik dan menunjuk jari apabila sesuatu yang salah. Kami mendapati bahawa mempunyai rancangan tanggapan yang ditetapkan atau insiden sebenarnya meningkatkan keyakinan juga, sebagai contoh, mengetahui bahawa "jika agen tidak pasti, ia secara automatik menandakan manusia, dan jika ia pernah pecah, ia halaman-halaman jurutera panggilan" meyakinkan semua orang bahawa kita tidak meninggalkan perkara-perkara semata-mata kepada peluang. Menariknya, kadang-kadang menunjukkan keterbatasan agen boleh membina kepercayaan.Kami membuat ia titik untuk menyatakan dengan jelas apa AI akan Do atau Is Dengan menetapkan batas-batas itu (contohnya: "Agen tidak akan pernah mengesahkan bayaran lebih daripada £ 1000; yang akan sentiasa pergi kepada pengurus"), orang merasa lebih selesa kerana mereka tahu skop AI dan perkara penting itu dilindungi. Tidak Tidak dibenarkan Secara ringkas, menyediakan orang dan proses anda adalah sama pentingnya dengan menyediakan teknologi. organisasi yang mendapat manfaat daripada agensi AI biasanya adalah mereka yang membangunkan model operasi mereka di samping penyebaran teknologi. teknologi baru + model org lama = nilai terhad; teknologi baru + pemikiran org baru = transformasi. Kami telah melihat syarikat-syarikat mencipta “AI Guilds” dalaman atau kumpulan kerja untuk pekerja yang berminat dengan AI untuk berkongsi pengalaman dan tip. yang lain telah mengemas kini deskripsi pekerjaan untuk memasukkan bekerja dengan alat AI sebagai kompetensi. Sesetengah telah merancang semula pasukan, contohnya, menamakan seorang “AI Controller” dalam jabatan yang bertanggungjawab untuk memantau agen-agen sehari-hari. Perubahan ini mungkin terdengar kecil, tetapi mereka menambah kepada syarikat yang bersedia untuk AI, bukan hanya ingin tahu AI. Future Predictions and Next Steps Memandang ke hadapan, apa masa depan bagi AI agensi dalam syarikat?Berdasarkan trend semasa, di sini adalah beberapa ramalan dan wawasan tentang ke arah perkara-perkara, dan apa yang bermakna bagi kita yang melaksanakan teknologi ini: Apabila pengambilan berkembang, terdapat kemungkinan sebenar "agennya menyebar": puluhan atau bahkan beratus-ratus agen AI yang muncul di seluruh pasukan dan fungsi yang berbeza. Di satu pihak, ia boleh menjadi tanda pengambilan dan inovasi yang sihat; di sisi lain, ia meningkatkan sakit kepala pengurusan. Bagaimana anda memastikan semua agen ini mengikuti peraturan pengurusan? Bagaimana anda mengelakkan usaha duplikat (dua pasukan membina agen yang serupa kerana mereka tidak mengkoordinasikan)? Kami boleh melihat munculnya "sebuah kedai aplikasi" AI dalaman atau rekod di mana agen yang diluluskan dikategorikan untuk digunakan semula, dan konsol pengurusan untuk memantau semua agen secara pusat. Syarikat-syarikat mungkin perlu menubuhkan pengawal untuk mengelakkan semua orang daripada hanya memutar agensi mereka sendiri yang jahat (IA setara dengan IT bayang). Saya curiga bahawa dalam setahun atau dua, Agent Sprawl (and the Need to Tame It): Walaupun amalan undang-undang AI yang beroperasi dengan tahap autonomi. Undang-undang AI yang akan datang, contohnya, bersedia untuk mengklasifikasikan aplikasi AI tertentu, mungkin termasuk sistem pengambilan keputusan autonomi dalam bidang-bidang seperti kewangan, HR, atau perkhidmatan pelanggan, sebagai "berisiko tinggi." Ini akan mengenakan keperluan mereka sendiri: contohnya, FTC AS telah memberi amaran terhadap praktik-praktik AI "tidak adil atau menipu", dan langkah-langkah tanggungjawab untuk sistem-praktik AI yang akan datang (https://commission.europa.eu/news-and-media/news/ai-act-enters-force-2024-08-01_en). Untuk perniagaan tertentu, kerja-kerja untuk pengesahan, pengesahan pasukan tertentu bermaksud mendapatkan keputusan mereka sendiri: dengan pengesahan algoritma yang adil, anda boleh melihat persyaratan kemanusiaan, Regulation on the Horizon: Agensi-agensi aktif di sekitar kita mungkin menyaksikan perbezaan yang semakin meningkat antara organisasi yang memanfaatkan AI agentik secara berkesan dan mereka yang tidak. Sama seperti dengan gelombang-gelombang teknologi masa lalu (pikirkan e-dagang pada tahun 2000 atau komputer awan pada tahun 2010), penerima awal yang mendapatkannya betul boleh secara signifikan melampaui yang berkompetisi, mengendalikan penundaan, dan mengoptimalkan beban dalam masa nyata tanpa campur tangan manusia; yang lain bergantung kepada peta skala dan skala di mana sebuah syarikat beroperasi. Yang pertama mungkin mempunyai prestasi yang lebih baik dan kos per penghantaran, memberi kelebihan kepada pelanggan dengan kos yang lebih rendah. Sebagai contoh, bayangkan dua syarikat logistik: satu menggunakan agen AI untuk secara dinamik mengarahkan penghantaran, menangani penundaan, dan mengoptimalkan beban dalam masa nyata tanpa campur Competitive Advantage: AI Haves vs Have-Nots: Pada nota yang lebih optimis, teknologi itu sendiri sedang berkembang pesat. Banyak keterbatasan hari ini (seperti LLM kadang-kadang "halusinasi" fakta, atau agen yang berjuang dengan memori jangka panjang) sedang aktif dikerjakan oleh penyelidik dan syarikat-syarikat. Kita boleh mengharapkan model asas generasi seterusnya dengan keupayaan pertimbangan yang lebih baik, mungkin juga beberapa perancangan built-in atau keupayaan alat-alat. Terdapat juga usaha untuk menjadikan output AI lebih boleh dikawal (jika anda boleh menetapkan sempadan yang kukuh pada apa yang seorang agen mahu atau tidak akan lakukan). Alat-alat untuk interpretabiliti dan debug keputusan AI akan menjadi lebih baik, yang akan membuatnya lebih mudah untuk mempercayai dan mengesahkan apa yang agen sedang lakukan. Terdapat prospek agen yang boleh belajar secara berterusan di tempat kerja: pada masa ini, kebanyakan agensi Evolving Technology (Smarter Agents): Di sisi lain, agen yang lebih berkuasa bermaksud kesan yang lebih besar jika mereka salah, jadi semua yang kami bicarakan mengenai pengurusan dan pengawasan menjadi lebih penting.Saya juga meramalkan gelombang produk "pengurusan agen AI" yang memberi tumpuan kepada penyimpanan - serupa dengan bagaimana kita mempunyai antivirus dan firewall untuk IT tradisional, kita boleh mendapatkan alat pemantauan yang direka khas untuk memantau tingkah laku agen AI dan menandakan atau bahkan menghentikan tindakan yang salah secara automatik. Jika saya merancang, katakanlah, 5 tahun, saya membayangkan banyak syarikat akan mempunyai sejenis platform agen AI yang sama biasa dengan CRM atau ERP mereka. Platform ini akan menjadi tuan rumah kepada pelbagai agen, memantau mereka, menguatkuasakan dasar-dasar, dan memfasilitasi peningkatan berterusan - sebahagian besarnya diautomatik. Konsep "pekerja AI" atau "kolega digital" akan menjadi normal. Kita mungkin melihat mereka secara rasmi dihitung dalam carta organisasi atau mesyuarat pasukan ("Kami mempunyai 5 penganalisis manusia dan 2 agen AI yang bekerja pada projek ini"). Dalam jangka pendek, harapkan banyak percubaan dan pembelajaran di seluruh industri. Akan ada kemenangan besar, dan akan ada kegagalan profil tinggi (yang kita semua akan belajar daripada, mungkin lebih banyak daripada kegagalan!). Saya mengesyaki amalan standard akan mula muncul sebaik sahaja syarikat-syarikat yang mencukupi telah melalui kitaran. Mungkin walaupun penyelesaian agensi khusus industri, seperti agensi kewangan yang dilatih terlebih dahulu atau agensi penjagaan kesihatan yang datang dengan pengetahuan dan pengesahan kepatuhan yang relevan daripada kotak, akan menjadi tersedia. Kita juga boleh melihat lebih banyak kerjasama antara syarikat-syarikat mengenai keselamatan AI dan piawaian (karena bencana untuk satu boleh mendorong peraturan untuk semua, terdapat insentif untuk berkongsi amalan terbaik mengenai aspek-aspek yang tidak kompetitif seperti keselamatan). Final Thoughts and Call to Action Menggabungkan semua ini, agensi AI di sini untuk kekal, dan jejaknya dalam perniagaan hanya akan berkembang. tetapi seperti yang telah kami bicarakan sepanjang siri ini, perjalanan ini adalah satu yang berulang (marathon, bukan sprint) dan ia memerlukan penekanan yang sama pada orang dan proses seperti pada algoritma dan kod.Mereka yang menggabungkan visi (mempunyai cara baru untuk memanfaatkan agensi autonomi) dengan pragmatisme (menguruskan risiko dan membina secara beransur-ansur) akan membentuk era perniagaan seterusnya. Jika anda seorang pemimpin perniagaan atau pengamal, apa yang perlu anda lakukan pada hari Isnin pagi?Ini adalah buku permainan yang cepat yang dibentuk daripada semua yang kami telah meliputi: Don’t just drop an AI agent into an existing process and expect magic. The biggest gains come when you reimagine the workflow with the agent in mind. Simplify or change human procedures alongside introducing the AI. Treat it as an opportunity to streamline the whole operation, not just plug in a fancy tool. Agents that look impressive but don’t actually improve how work gets done will fizzle out. Aim for process improvement + AI, not AI slapped onto a broken process. Redesign Workflows, Not Just Technology: Agentic AI is not a hammer for every nail. Successful solutions often mix approaches. Maybe an AI agent handles the unstructured, complex parts of a task, but a simple deterministic program handles the rest. Don’t force AI into areas where a straightforward software or rules-based solution would do better. Evaluate each step of a workflow: if it requires heavy judgement or pattern recognition, AI might help; if it’s formulaic or mission-critical to get exactly right every time, a conventional system might be safer. Often a hybrid approach: AI for what it does best, traditional automation for the rest - yields the best results. Use the Right Tool for the Right Task: Treat your agent as a product that’s never finished. The top performers set up continuous evaluation and improvement cycles. This means A/B testing changes, regularly feeding failure cases back into model training or prompt tweaking, and having a cadence for model updates. Implement the ability to track every decision the agent makes and review it (those logs are gold mines for debugging and improvement). Some firms, as mentioned, even have an “AI audit log” reviewed periodically by QA or audit teams. The mindset should be Agile: frequent iterations, feedback-driven tweaks, and incremental expansion of the agent’s capabilities. This not only improves performance but keeps stakeholders engaged as they see constant progress. Iterate with Evaluation Loops: Don’t reinvent the wheel for each new agent or use case. Aim to build modules and a common platform that can be reused. For example, if in Part 3 you developed a robust natural language parsing module or a connector to your SAP system for one agent, package it so other teams can reuse it for their agents. Consider creating a library of “agent skills” (reusable action integrations like sending an email, querying a DB, etc.) that all your agents can call. In practice, companies that adopt a platform mindset see huge efficiency gains. One bank reported that by reusing components, they reduced development time by ~40% for each subsequent agent. Also, maintain shared knowledge bases where possible instead of silos per agent (with proper context separation). Reusability is a force multiplier for scaling AI solutions across the enterprise. Build Modular, Reusable Components: Autonomy doesn’t mean no human involvement; it means humans focus their involvement where it matters most. Define clearly where human oversight or input is needed for your agents. Is it final approval on high-stakes decisions? Is it periodic quality spot-checks of the agent’s outputs? Plan these checkpoints deliberately. They act as safety nets while the agent earns trust. The trick is to avoid unnecessary micromanagement: humans should supervise, not redo the work. Over time, as the agent consistently proves itself, you can dial back some checkpoints (e.g. move from 100% review to sample audits). Also plan for new roles: you might need an “AI Controller” or agent supervisor as discussed, and you should train users on how to handle exceptions the agent flags. Human-AI partnership tends to yield better outcomes than either alone, and it helps culturally too - people see that the AI isn’t a black box running wild; there’s a human-centric safety net ensuring everything stays on track. Keep Humans in the Loop (Strategically): We’ve hit this point repeatedly because it’s crucial. Set up an AI governance framework at project inception, not as an afterthought. This includes forming a multi-disciplinary team or committee (IT, business, legal, compliance, security) to oversee the project, establishing guidelines for ethical use and risk assessment, and defining escalation paths if something goes wrong. Develop AI use policies, e.g. who can build or deploy an agent, what data can be used, levels of human oversight required for certain tasks, etc. Consider investing in tools for bias monitoring, model validation, and so on as they become available. Governance might sound like bureaucracy, but done well it’s an enabler of innovation, not a roadblock. The key is to make governance a partner in innovation: involve the risk folks early so they help shape a solution that can pass muster, rather than swooping in at the end to block something. A little time spent on guardrails and guidelines up front can save a lot of pain later, and will make scaling to multiple agents much smoother. Institute Strong Governance from Day One: Mengikuti buku kerja ini mencipta syarat-syarat bagi AI agensi untuk berkembang dalam perniagaan anda. Tema yang meliputi adalah keseimbangan: bercita-cita untuk memanfaatkan AI, tetapi kekal berasaskan dalam realiti perniagaan dan pengurusan risiko.Jika anda reka bentuk semula aliran kerja, pilih alat yang betul untuk setiap tugas, berterusan, menggunakan semula apa yang anda boleh, mengekalkan manusia dengan betul dalam lingkaran, dan menguasai dengan kuat, anda mengumpulkan dek untuk kejayaan. Sebagai seorang ahli praktikal, saya telah belajar untuk mendekati agensi AI dengan pemikiran kembar: optimisme bahawa ia menyelesaikan masalah dan membuka nilai yang kita tidak boleh sebelum ini, dan pragmatisme bahawa ia memerlukan disiplin, kerja keras, dan kadang-kadang mengatakan "tidak" kepada idea-idea yang tidak realistis. Dengan pendekatan seimbang itu, hasil yang saya lihat benar-benar transformatif, bukan dalam cara sci-fi "AI menjalankan syarikat" tetapi dalam peningkatan nyata: projek yang digunakan untuk mengambil bulan dilakukan dalam minggu, wawasan yang terkubur dalam data dipaparkan setiap hari, kakitangan dibebaskan daripada drudgery untuk memberi tumpuan kepada kerja kreatif dan strategik, dan pelanggan mendapat perkhidmatan yang lebih cepat, lebih pintar. boleh Bidang agensi AI sedang berkembang dengan pesat. Tahun depan pasti akan membawa kemajuan baru dan, tidak diragukan lagi, kisah-kisah peringatan baru. Tetapi bersenjata dengan wawasan yang telah kami perbincangkan, dari pilar seni bina kepada perubahan budaya, anda harus dilengkapi dengan baik untuk menavigasi perjalanan ini. syarikat-syarikat yang mendapatkannya betul tidak hanya akan mengelakkan perangkap; mereka akan mewujudkan model operasi baru yang mendefinisikan sempadan kompetitif seterusnya. Agentic AI adalah alat, yang sangat berkuasa. Nilainya pada akhirnya bergantung kepada seberapa baik kita mengendalikannya. harapan saya ialah dengan pelajaran daripada penerima awal di tangan, anda boleh mengendalikannya dengan bijak untuk benar-benar mengubah cara organisasi anda berfungsi, untuk lebih baik. Denis Prilepsky adalah seorang arsitek perniagaan dan perunding transformasi digital dengan lebih daripada 15 tahun pengalaman membina sistem AI-native untuk organisasi besar di seluruh kewangan, sumber semula jadi dan ritel. Denis Prilepsky adalah seorang arsitek perniagaan dan perunding transformasi digital dengan lebih daripada 15 tahun pengalaman membina sistem AI-native untuk organisasi besar di seluruh kewangan, sumber semula jadi dan ritel.