Aš sukūriau daugiau nei 12 gamybos AI agentų sistemų per plėtrą, DevOps ir duomenų operacijas.Štai kodėl dabartinė hype apie autonominius agentus yra matematiniu požiūriu neįmanoma ir kas iš tikrųjų veikia gamyboje. Visi sako, kad 2025 metai yra AI agentų metai. antraštės yra visur: „Autonominis AI pakeis darbą“, „Agentai yra kita riba“, „Ateitis yra agentinė.“ Tuo tarpu praėjusiais metais aš praleidau daugybę skirtingų agentų sistemų, kurios iš tikrųjų veikia gamyboje. Per pastaruosius metus sukūriau daugiau nei tuziną gamybos agentų sistemų per visą programinės įrangos kūrimo gyvavimo ciklą: UI generatoriai, kurie sukuria funkcinius React komponentus iš natūralios kalbos, kodo refaktoriaus agentai, kurie modernizuoja įprastas kodų bazes, dokumentacijos generatoriai, kurie automatiškai palaiko API dokumentus, ir funkcijų generatoriai, kurie konvertuoja specifikacijas į darbo įgyvendinimus. Development agents Duomenų bazės operacijų agentai, kurie tvarko sudėtingas užklausas ir migracijas, „DevOps“ automatizuoja AI sistemas, valdančias infrastruktūrą kaip kodą daugelyje debesų teikėjų. Data & Infrastructure agents AI varomi CI / CD vamzdynai, kurie išsprendžia juostų problemas, generuoja išsamius bandymų rinkinius, atlieka automatinius kodų peržiūras ir sukuria išsamius traukos užklausas su tinkamais aprašymais. Quality & Process agents Šios sistemos veikia. Jie pristato realią vertę. Jie kiekvieną dieną taupo valandas rankiniu būdu atliekamo darbo. Ir būtent todėl manau, kad dauguma to, ką girdite apie 2025-uosius „agentų metus“, praleidžia pagrindines realijas. TL;DR: Three Hard Truths About AI Agents TL;DR: Trys sunkios tiesos apie AI agentus Sukūręs daugiau nei 12 gamybos sistemų, čia yra tai, ko aš išmokau: Klaidų lygis daugiapakopėse darbo eigose didėja eksponentiškai. 95% patikimumas per žingsnį = 36% sėkmė per 20 žingsnių. gamybai reikia 99,9% +. 
 
 
 Konteksto langai sukuria kvadratines žetonų sąnaudas. ilgas pokalbis tampa nepaprastai brangus mastu. Tikrasis iššūkis nėra AI galimybės, tai yra įrankių ir atsiliepimų sistemų, kurias agentai gali veiksmingai naudoti, projektavimas. Matematinės realybės, apie kurias niekas nekalba Štai nepatogi tiesa, kad kiekviena AI agento įmonė šoka aplink: klaidų suderinimas daro autonominius kelių žingsnių darbo srautus matematiniu požiūriu neįmanoma gamybos mastu. Jei kiekvienas agento darbo eigos žingsnis turi 95% patikimumą, kuris yra optimistiškas dabartiniams LLM, tada: 
 
 
 
 5 žingsniai = 77% sėkmės rodiklis 10 žingsnių = 59% sėkmės rodiklis 20 žingsnių = 36% sėkmės rodiklis Gamybos sistemoms reikia 99,9% patikimumo. Net jei stebuklingai pasieksite 99% patikimumą per žingsnį (kurio niekas neturi), vis tiek gausite tik 82% sėkmės per 20 žingsnių. Mano DevOps agentas veikia būtent todėl, kad tai iš tikrųjų nėra 20 žingsnių autonominis darbo eiga. Tai 3-5 diskretiškos, nepriklausomai tikrinamos operacijos su aiškiais atgaliniais taškais ir žmogaus patvirtinimo vartais. „agentas“ tvarko infrastruktūros kodo generavimo sudėtingumą, tačiau sistema yra sukurta aplink matematinius patikimumo apribojimus. Kiekviena sėkminga agentų sistema, kurią sukūriau, seka tą patį modelį: riboti kontekstai, patikrinamos operacijos ir žmogaus sprendimų taškai (kartais) kritinėse sankryžose. Token ekonomika, kuri neprideda Yra dar viena matematinė tikrovė, kurią agentų evangelistai patogiai ignoruoja: kontekstiniai langai sukuria kvadratinį išlaidų skalavimą, dėl kurio pokalbių agentai yra ekonomiškai neįmanomi. Štai kas iš tikrųjų atsitinka, kai kuriate „kalbėjimo“ agentą: 
 
 
 
 
 Kiekviena nauja sąveika reikalauja apdoroti visus ankstesnius kontekstus Token sąnaudų skalė kvadratiniu būdu su pokalbio ilgiu 100 sukimų pokalbis kainuoja nuo 50 iki 100 JAV dolerių vien tokenais Dauginasi tūkstančiais vartotojų, o jūs žiūrite į netvarią ekonomiką Aš išmokau tai sunkiai, kai prototipavo pokalbių duomenų bazės agentą. Pirmosios kelios sąveikos buvo pigios. Iki 50-osios sesijos užklausos kiekvienas atsakymas kainuoja kelis dolerius - daugiau nei ji suteikė vertę. Mano funkcijos generavimo agentas yra sėkmingas, nes jis yra visiškai be statuso: aprašymas → funkcija → padaryta. Nėra konteksto palaikyti, jokių pokalbių sekti, jokių kvadratinių sąnaudų sprogimo. Sėkmingiausi "agentai" gamyboje apskritai nėra pokalbių. jie yra protingi, riboti įrankiai, kurie gerai daro vieną dalyką ir išeina iš kelio. Įrankių inžinerijos realybės siena Net jei jūs išsprendžiate matematikos problemas, jūs nukentėjote nuo kitokio tipo sienos: statyti gamybos klasės įrankius agentams yra visiškai kitokia inžinerinė disciplina, kurią dauguma komandų neįvertina. Įrankių skambučiai dabar iš tikrųjų yra gana tikslūs. Tikrasis iššūkis yra įrankių dizainas. Kiekvienas įrankis turi būti kruopščiai suprojektuotas, kad suteiktų tinkamą atsiliepimą, neperkraunant konteksto lango. 
 
 
 
 
 Kaip agentas žino, ar operacija iš dalies sėkminga?Kaip jūs bendraujate su sudėtingais būsenos pokyčiais, nesudegindami žetonų? Duomenų bazės užklausa gali grąžinti 10 000 eilučių, tačiau agentas turi žinoti tik "užklausa pavyko, 10 000 rezultatų, čia yra pirmieji 5". Kai įrankis nepavyksta, kokią informaciją agentas turi atkurti? per mažai ir jis įstrigo; per daug ir jūs švaistote kontekstą. Kaip jūs tvarkote operacijas, kurios turi įtakos viena kitai? duomenų bazės operacijos, failų spynos, išteklių priklausomybės. Mano duomenų bazės agentas veikia ne todėl, kad įrankių skambučiai yra nepatikimi, bet todėl, kad praleidau savaites projektuojant įrankius, kurie veiksmingai bendrauja su AI. Bendrovės, pažadinančios "tik prijungti savo API ir mūsų agentas išsiaiškins", nepadarė šio inžinerinio darbo.Jie tvarko įrankius, tokius kaip žmogaus sąsajos, o ne AI sąsajos. Nešvari kiekvienos gamybos agentų sistemos paslaptis yra ta, kad AI atlieka gal 30% darbo.Kiti 70% yra įrankių inžinerija: projektavimas grįžtamojo ryšio sąsajas, efektyviai valdyti kontekstą, tvarkyti dalinius gedimus ir kurti atkūrimo mechanizmus, kuriuos AI gali iš tikrųjų suprasti ir naudoti. Integracijos tikrovės patikrinimas Bet sakykime, kad jūs išsprendžiate patikimumo problemas ir ekonomiką.Jūs vis dar turite integruotis su realiu pasauliu, o realus pasaulis yra netvarka. Įmonių sistemos nevaldo API, laukia, kol AI agentai juos organizuos.Jie yra įprastos sistemos, turinčios keiksmažodžių, dalinių gedimų režimų, autentifikavimo srautų, kurie keičiasi be įspėjimo, tarifų apribojimų, kurie skiriasi pagal dienos laiką, ir atitikties reikalavimus, kurie netinka skubiems šablonams. Mano duomenų bazės agentas ne tik "savarankiškai vykdo užklausas".Jis naršo ryšio sujungimą, tvarko sandorių grįžtamąjį ryšį, gerbia tik skaitymo replikas, valdo užklausų laiko tarpsnius ir registruoja viską audito takeliams. Bendrovės, žadančios „autonomiškus agentus, kurie integruojasi su visa jūsų technologijų rinkiniu“, yra pernelyg optimistiškos arba iš tikrųjų nesistengė sukurti masto gamybos sistemų. Kas iš tikrųjų veikia (ir kodėl) Sukūręs daugiau nei tuziną skirtingų agentų sistemų per visą programinės įrangos kūrimo gyvavimo ciklą, sužinojau, kad sėkmingi tie, kurie dalijasi vienu modeliu: 
 
 
 
 
 
 Mano UI generavimo agentas veikia, nes žmonės peržiūri kiekvieną sukurtą sąsają prieš diegiant. „AI“ tvarko natūralios kalbos vertimo į funkcinius „React“ komponentus sudėtingumą, tačiau žmonės priima galutinius sprendimus dėl vartotojo patirties. Mano duomenų bazės agentas veikia, nes jis patvirtina kiekvieną destruktyvią operaciją prieš vykdymą. „AI“ tvarko verslo reikalavimų vertimo į SQL sudėtingumą, tačiau žmonės išlaiko duomenų vientisumo kontrolę. Mano funkcijos generavimo agentas veikia, nes jis veikia aiškiai apibrėžtose ribose. Duokite jam specifikaciją, grąžinkite funkciją. Nėra šalutinių poveikių, nėra valstybės valdymo, nėra integracijos sudėtingumo. Mano „DevOps“ automatizavimas veikia, nes jis sukuria infrastruktūrą kaip kodą, kurį galima peržiūrėti, versijuoti ir grąžinti atgal. „AI“ tvarko reikalavimų vertimo į „Terraform“ sudėtingumą, tačiau diegimo vamzdynas palaiko visus saugumo mechanizmus, kuriais mes išmokome pasikliauti. Mano CI / CD agentas veikia, nes kiekvienas etapas turi aiškius sėkmės kriterijus ir atgalinius mechanizmus. „AI“ tvarko kodo kokybės analizės ir pataisų generavimo sudėtingumą, tačiau vamzdynas išlaiko kontrolę, kas iš tikrųjų susijungia. Modelis yra aiškus: AI tvarko sudėtingumą, žmonės išlaiko kontrolę, o tradicinė programinės įrangos inžinerija tvarko patikimumą. My Predictions Mano prognozės Štai mano konkrečios prognozės apie tai, kas kovoja 2025 m.: Verslo finansuojami „visiškai autonominiai agentai“ pradedantiesiems pirmiausia pasieks ekonomikos sieną.Jų demonstravimai puikiai veikia su 5 žingsnių darbo srautais, tačiau klientai reikalauja daugiau nei 20 žingsnių procesų, kurie suskaidomi matematiniu požiūriu. Įmonių programinės įrangos kompanijos, kurios įdiegė "AI agentus" į esamus produktus, pamatys, kad jų priėmimas stagnuoja. Tuo tarpu nugalėtojai bus komandos, kuriančios ribotus, domeno specifinius įrankius, kurie naudoja AI kietosioms dalims, išlaikydami žmogaus kontrolę ar griežtas ribas kritiniams sprendimams. Rinka sužinos skirtumą tarp AI, kuris demonstruoja gerai ir AI, kuris laivai patikimai. Aš lažinuosi prieš dabartinį požiūrį į agentų architektūrą. bet manau, kad ateitis bus kur kas vertingesnė, nei rodo hype. Sukurti teisingą kelią Jei galvojate apie statybą su AI agentais, pradėkite nuo šių principų: Ką tiksliai gali padaryti jūsų agentas ir ką jis perduoda žmonėms ar deterministinėms sistemoms? Define clear boundaries. Kaip elgiatės su 20-40% atvejų, kai AI daro klaidas? Design for failure. Kiek kainuoja kiekviena sąveika, ir kaip tai skiriasi naudojimu? Solve the economics. Vartotojai pasitiki įrankiais, kurie veikia nuosekliai, labiau nei vertina sistemas, kurios kartais daro magiją. Prioritize reliability over autonomy. Naudokite AI kietosioms dalims (suprasti ketinimą, kurti turinį), bet remtis tradicine programinės įrangos inžinerija kritinėms dalims (vykdymas, klaidų tvarkymas, valstybės valdymas). Build on solid foundations. Jis tiesiog nebus panašus į tai, ką visi žada 2025 m. Ir būtent todėl jis bus sėkmingas. Tikrosios pamokos iš treniruočių Skirtumas tarp „demo darbų“ ir „didelio masto darbų“ yra didžiulis, ir dauguma pramonės šakų vis dar tai supranta. Iššūkiai, susiję su agento patikimumu, sąnaudų optimizavimu ir integracijos sudėtingumu, yra įdomios inžinerinės problemos, kurioms dar nėra akivaizdžių sprendimų. Aš reguliariai patariu komandoms ir įmonėms naršyti šiuos tikslius iššūkius - nuo architektūros sprendimų, kad būtų išvengta spąstų, apie kurias sužinojau iš pirmų rankų. Kuo daugiau žmonių kuria realias sistemas ir dalijasi sąžininga patirtimi, tuo greičiau mes visi išsiaiškinsime, kas iš tikrųjų veikia. Jei norite giliau pasinerti į bet kurią iš šių temų. X

Read My Stories

Šis garso įrašas sukurtas originalia istorijos kalba!

Per ilgai; Skaityti

Make resilience your competitive advantage

Nustokite tikėti agentu Hype - skaičiai nemeluoja

About Author

KOMENTARAI

PABAIGTI ŽYMES

ŠIS STRAIPSNIS BUVO PRISTATYMAS

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps