Düşündirip boljak AI, bulam-bujarlygy çözmek däl

Size AI ulgamy tarapyndan ipoteka berilmedi. Hiç bir adam siziň meseläňizi gözden geçirmedi, ýüz tutmak mümkin däl we teselli beriji baýragyňyz: "Karzyňyzy ulanmagyň gatnaşygy negatiw netije berdi". Özüňizi köşeşdirýärsiňizmi? Beýle pikir etmedim .

Maşynlara näçe köp düşürsek, şonça-da düşnükli AI (XAI) - botlary döwüp, bizi gara gutulardan çykarjak gurallary talap edýäris . Bu programma kämilligi! Tehnofobiýamyzy köşeşdirmek we maşynlary gözegçilikde saklamak üçin bir gezeklik çözgüt.

Notok.

Düşündirilýän AI bulam-bujarlygy aňsatlaşdyrmaýar; ony diňe rebrend edýär.

Alýan zadymyz altyn çaýylan illýuziýa: kodlaşdyrmak ulgamlaryna milliardlarça guýuldy, hakyky problemalar - ikitaraplaýyn ulanmak, hyýanatçylykly peýdalanmak, aşa çemeleşmek - henizem çözülmän galýar.

Bahasy? Dollardan köp.

XAI 101: Niýet däl-de, täsirini çözýär

Häzirki düşündirilýän AI (XAI), sebäp däl-de, korrelýasiýany kesgitlemek üçin SHAP (Şapli Goşmaça Düşündirişler) we LIME (Localerli Düşündirişli Model-Agnostik Düşündirişler) ýaly usullara daýanýar. SHAP, terezini üýtgedýän üýtgeýänleri kartalaşdyrmak, girdeji derejesi, karz taryhy ýa-da piksel toparlary ýaly esasy girdejilere “günäkärlemek” üçin kooperatiw oýun teoriýasyna daýanýar, LIME bolsa çaklamalaryň üýtgemegini görmek üçin giriş maglumatlaryny üýtgedýär, ýönekeýleşdirilen model döredýär belli bir karar üçin haýsy aýratynlyklaryň has möhümdigini düşündirýär. Surat agyr programmalar, haýsy piksel AI-iň ünsüni özüne çekendigini kesgitlemek üçin gradient esasly derňewden usullary ulanýan aýratyn kartalaşdyrmaga ýüz tutýarlar. Saglygy goraýyş we işe giriş ýaly has uly ssenariýler, eger giriş ähtimal üýtgedilen bolsa, potensial netijeleri ýüze çykarmak üçin alternatiw hakykatlary arzuw edýän garşylykly düşündirişlere ýüz tutmak: mysal üçin, “Çiş 2mm kiçi bolan bolsa näme etmeli?”.

Uly elektrik toguny basmak isleseňiz, XAI möhüm zat barada geçip boljak hasabat berip biler. Emma näme üçin ? Nada.

'Näme üçin' diýip soramaga garşy kazyýet işi

"Düwürtik nerw ulgamymyň 34-nji gatlagy, ýokarky sag kwadrantda 12,3% piksel intensiwlik anomaliýasyny hasaba aldy, demografiki we genetiki taýdan sazlaşykly bolmagy üçin kadalaşdyrylan 15 sebit maglumat bazasyndaky erbetlik bellikleri bilen baglanyşdyryldy we Baýesian tarapyndan döredilen zyýan çäginden ýokary ynam gazandy. yzky kalibrleme. "

Bu " näme üçin" meňzeýär. Bulaşyk? Elbetde . Köşeşdiriji? Marginally .

Thisöne bu derejeli düşündiriş döretmek üçin (köpüsi IKEA gurnama gollanmasy bilen bilelikde çykar) diňe bir gymmat däl - bu zyýanly bolar . Erbet ýagdaýda. Düşündiriş, hasaplaýyş çeşmelerini sarp edýär, täzeligi haýalladýar we her täze açyşy öz-özüni aklamak býurokratiýasyna öwürmek töwekgelçiligini döredýär. Düşündiriş wadasy asylly duýulsa-da, söwdalar AI-iň hakyky potensialyny basyp biler. “Näme üçin” maksady ösüşi peseltmäge mynasypmy?

Netijede, AI-iň işlemegi möhüm däl, bu biziň üçin işleýärmi. *

Açyklyk arzan däl

Kararyň näme üçin kabul edilendigine hakykatdanam jogap bermek üçin neýro-simwoliki AI , gapma-garşylykly düşündirişler we sebäpler bilen baglanyşykly modeller ýaly döreýän tehnologiýalar işlenip düzülýär. Bu usullar, çuňňur öwrenmegiň nagyşlaryny simwoliki pikirlenişiň kada-kanun logikasy bilen garyşdyrýan gibrid arhitekturalara daýanýar. Şeýle ulgamlary taýýarlamak ep-esli ýokary hasaplaýyş çeşmelerini talap edýär, sebäbi bu modeller bir wagtyň özünde gurulmadyk maglumatlary (mysal üçin, suratlar ýa-da tekst) we gurluşly logika çarçuwalaryny gaýtadan işlemeli, meseläniň şkalasy bilen şarlary birleşdirýän çylşyrymlylygy girizmeli.

Emma hakyky kynçylyk enjamda. Häzirki GPU-lar we TPU-lar, NVIDIA-nyň H100 ýa-da Google-yň TPU v5 ýaly, XAI üçin zerur iteratiw, gradient-agyr hasaplamalar üçin däl-de, okuw we netije çykarmak üçin has köp öndürijilik üçin döredildi. Sebäp aýratynlyklary ýa-da ünsi wizuallaşdyrmak ýaly ösen düşündirişler döretmek, gradiýent gaýtalamak , dinamiki ýadyň elýeterliligi we pes gijä galmak parallelligi üçin optimallaşdyrylan çipleri talap edýär. XAI iş ýükleri düýpgöter dürli enjamlary talap edýär, esasanam awtonom ulaglar ýa-da lukmançylyk diagnostikasy ýaly real wagt programmalary üçin, düşündirişler bilen birlikde düşündirilmeli. Uly ýigitleriň LLM-leri güýçlendirmek üçin çipler üçin näçeräk arzuw edýändigine serediň. XAI-e mahsus çipleri ösdürmegiň bahasy, hasaplama üstünden täze gatlaklaryň zerurlygy sebäpli has ýokary bolup biler. In Engineeringenerçilik kynçylygy? Maliýe düýşüne meňzeýär.

Akyl rahatlygy VS Ösüş paradoksy

AI gurmak eýýäm ýokary simli synag we optimizasiýa. Garyndynyň içine düşündiriş goşuň, diňe tigrtrop bilen ýöremän, arkaňyzdaky holodilnik bilen edýärsiňiz.

Düşündiriş, düşnükli netijeleri döretmek üçin modelleri täzeden arhitektura etmegi talap edýär. Görüş transformatorlary (ViTs) ýaly ýokary öndürijilikli ulgamlar çylşyrymlylygy ösdürýärler - nuansly nagyşlary çykarmak üçin köp sanly maglumat bazalaryny skanirleýärler, ýöne olary düşündirmek köplenç hasaplaýyş güýjüni sifonlaýan we öndürijilik ukybyna eýe bolan üns mehanizmlerini ýa-da sroogat modellerini ornaşdyrmagy aňladýar. Güýçlendirmek okuwynda, döredijiler agentiň optimizasiýa potensialyny ýitirip, sylag gurluşlaryny ýönekeýleşdirmäge ýa-da kesgitlenip bilinjek syýasatlary düzmäge mejbur bolup bilerler. Grounder titremesiniň netijelerini ýangyç berýän şol bir çylşyrymlylyk, aç-açanlyk talaplary bilen üpjün edilen ulgamda erbetlige öwrülýär .

Geçiriji turbasy hem gowy titreýär. Garşydaşlyklar ýa-da sebäpleri modellemek ýaly düşnükli usullar, bozulan maglumatlar bazalaryna gaýta-gaýta baha berilmegini talap edýär we häzirki iterasiýa görnüşine giperparametrleri arassalamak, ýitgi funksiýalaryny üýtgetmek we masştabda işlemek). Bu birnäçe goşmaça ädim däl; her ädimde marafon bolup, üstünliklere tarap ylgaýan zady býurokratik şygara öwürýär. Hasap ýük? Düşündirişler erkin ýaly siklleri iýýär, köp modal ýa-da generator AI ýaly ösen meýdanlarda eýýäm buzluk okuwlaryny haýalladýar.

Huzza, sen ýasadyň! Örän çalt däl , düzgünleşdirmek soňky başlyk hökmünde ädim ätýär. Saglygy goraýyş we maliýe ýaly pudaklar ýaýbaňlandyrmagyň düşündirilmegini talap edýär, ýöne bu talaplar köplenç Lu Hamiltondan pellehanadan geçmezden ozal biliniň her öwrümini aklamagyny soraýan ýaly duýulýar. Işläp düzüjiler, modelleriniň optimal işlemegini üpjün etmekden has manylydygyny subut etmek üçin has köp wagt sarp edýärler. AI tarapyndan dolandyrylýan rak keselini anyklaýyş guralyny jezalandyrdyňyzmy? Ajaýyp - indi her gradiýenti we agramy ajaýyp regs otagyna düşündiriň. Doneerine ýetireniňizde, tehnologiýanyň köne bolmagy ähtimal we kowalap ýören täzelikiňiz purgatoriýada saklanýar .

Düşündiriş ileri tutulýan ugurlar. Toparlar AI-iň gazanyp biljek zatlarynyň çäklerini öňe sürmegiň ýerine, aç-açanlyk talaplaryny çözmäge mejbur bolýarlar. Başlangyçlar we gözlegçiler, aý düşýän ýerlere laýyk gelýän vanil gaýtalamalaryny saýlap, batyrgaý pikirlerden yza çekilip bilner. Ösüş duralgalary, yhlas çaýkanýar we pyrlanmaly bolanda meýdan dýuým .

Rus gurjak meselesi: Düşündirişler düşündirişleri talap edýär

Düşündirip boljak AI düşündirip bolmajak zady aňsatlaşdyrýandygyny öňe sürýär, ýöne düşündiriji keramatly däl. Ösen modeli açmak üçin akylly islendik gural, öz syrlaryny döretmek üçin ýeterlik derejede akyllydyr . Düşündirişçi terjimeçini talap edýär, terjimeçä terjimeçi gerek bolar we düşünersiňiz. Gaýtalanma, bize hiç hili akylly galdyrman, ylham hökmünde çykdy.

Garşy çykýan düşündirişleri alyň, alternatiw hakykatlary şekillendirýän ýigitler, mysal üçin, awokado tostuna däl-de, tygşytlasaňyz, netijeleriň nähili üýtgejekdigini görkezmek üçin. Emma bu ssenariýler, aýratynlyklaryň garaşsyzlygy ýa-da girişleriň arasyndaky çyzykly gatnaşyk ýaly seýrek gabat gelýän optimizasiýa çaklamalaryna daýanýar. Şol çaklamalar başa barmasa, düşündiriş başga bir düşündirip bolmaýan abstraksiýa öwrülýär. Muny düzetmek üçin? Sebäp modelleriniň ýa-da aýratyn kartalaryň ikinji gatlagy, her täze guralyň öz terjimeçisini talap edýän spiralyna has çuňňur girýär. Gara gutyny döwmegiň ýerine, içerde has kiçi we deň derejede aç-açan höwürtge döredýäris .

Köp modally ulgamlar - teksti, şekilleri we sesleri birbada gaýtadan işleýän AI modelleri - örän peýdaly, ýöne ýigrenji birleşýär. Bu ulgamlaryň dürli dürli giňişliklerde bäsdeşlik girdejilerini nädip deňleşdirýändigini düşündirmek, dürli maglumatlar görnüşlerinde aýratynlyklary agramlaşdyrýan we birleşdirýän birleşdiriş mehanizmlerini (üns gatlaklary ýa-da modal transformatorlar ýaly) kodlamagy öz içine alýan Gerkul meselesi. Theseöne bu düşündiriş gurallarynyň özleri goşmaça derňew gatlaklaryny talap edip, çylşyrymly optimizasiýa aýlawlaryna we parametr sazlamalaryna bil baglaýarlar.

Ah, ýakymly degişme : XAI AI-ni bölmeýär - bu illýuziýany ýerine ýetirmek üçin edil başga bir maşyn gurýar.

Gara gutyny çözemzok; Her birine soňkydan has düşnüksiz düşnüksiz bölekleýin böleklere bölýäris.

"Näme üçin" kowalasak, şonça-da düşnüksiz we gymmat AI bolýar, bize öz-özüne bagly paradoksda galýar: AI gaty düşnükli, hiç kim düşündirip bilmez.

Goragmy ýa-da gapdal?

SHAP we LIME karara täsir eden zatlaryň arassa tort çyzgylaryny görkezip biler, ýöne bu diagrammalar diňe dizaýn eden adamlar ýaly dogruçyl . Aýry-aýry diskriminasiýa netijeleri, poçta kodlary we çykdajy endikleri ýaly bigünä üýtgeýjiler ünsi özüne çekýär, iň ýigrenji taraplar - jyns wekilleri, girdeji toparlary amatly ýagdaýda gizlenýär. Nädogry ellerde aç-açanlyk teatra öwrülýär.

Highokary derejeli domenlerde guramalar, diňe iki parametr redaktirläp, ahlaksyz amallary ýa-da tehniki gysga ýollary ýitirip, berk kadalaşdyryjy talaplara laýyk gelýän netijeleri öndürip bilerler. Düşündirişçini siňdiriň, oňa dogry gürrüň beriň we voilà: kod görnüşinde dogry inkär etmek . Ikitaraplaýyn maglumat bazalary ýa-da kemçilikli maksatlar bilen kabul edilen kararlar, sanitariýa logikasyna siňdirilip, düşündirilişini jogapkärçilige ýol däl-de, barlagdan galkana öwürip biler - soraglary başlamazdan ozal duruzmak üçin döredilen pseudo-logika .

“Näme üçin” hiç haçan mesele däldi

AI-ni düşündirmek üçin milliardlarça zyňmagyň ýerine, ony has gowulaşdyrmaga üns bermelidiris. AI bilen hakyky meseleler, näme üçin näme edýändigini bilmeýändigimiz däl, ilki bilen nädogry işleri edýär. Kararlarda ikitaraplaýynmy? Almagyň sargytlarynyň we familiýalarynyň näme üçin karzy ret edendigi barada 50 gatly düşündirişiň ýerine, çeşmede algoritmiki ikitaraplaýyn täsirleri azaltmaga maýa goýuň: maglumat bazalaryny täzeden agramlaň, okuw wagtynda adalatlylyk çäklendirmelerini ulanyň ýa-da gizlin taraplary paş etmek we aýyrmak üçin garşydaş usullary ulanyň. Çüýräni modele bişmänkä düzediň.

Düşündiriş ygtybarlylygy hem çözüp bilmez. Rorsalňyşlyklary aklamak üçin LIME ýa-da SHAP ýaly gurallar bilen yzarlamagyň ýerine, modelleri şowhunly ýa-da garşydaş girişlere az duýgur edýän ygtybarly optimizasiýa usullaryny ulanyň. Has gowy kadalaşdyrmak, daşarky kesgitlemek we kalibrleme usullary, meselem , temperaturany ulaltmak ýa-da Baýziýanyň näbellilik modelleri - çaklamalaryň diňe bir takyk bolman, eýsem ygtybarly bolmagyny üpjün edip biler. Bu çemeleşme, erbet kararlary aşa düşündirmegiň bulaşyk orta gatlagyndan geçýär we has gowy karar bermäge gönükdirilýär.

Düzgünnama, XAI-iň ýygnan gimnastikasyna mätäç däl başga bir serhet. Ynam, AI-iň yzygiderli işlemegi üçin, öz janyny götermegi talap etmeýär. Düşnüksizligi düşnüksiz standart hökmünde görkezmegiň ýerine, iň erbet ýa-da gyradaky ssenariýalar we gözegçilik turbalary üçin güýçli synag çarçuwalaryny basyň. Awtoulaglar üçin heläkçilik synaglary ýaly pikir ediň - hiç kim howa ýassygy ýerleşdirmegiň mehanikasyna düşünmeli däl; diňe işleýändigini bilmeli. AI näme üçin başgaça bolmaly?

"Näme üçin" ünsüňi sowýar? Iň gowy sorag "näme" - AI-ni has ygtybarly, has ygtybarly we ygtybarly etmek üçin näme edip bileris?

Dünýä nädogry zatlaryň 100 basgançakly düşündirilmegine mätäç däl.

Ilki bilen zatlary düzetmek üçin döredilen ulgamlar gerek.

Jemleýji pikirler: Gaýrat et, ýöne samsyk bolma

AI-de iň ýakyn Kanax-y gysyp bilmeýän bolsaňyz, ýa-da inkär edýärsiňiz ýa-da meýilnama düzýän anarhiýa. AI gorkunç täsir edýär . Existöne bar bolan gorky , çözjek bolýan bulam-bujarlygymyz ýaly platsebo çözgütlerine itergi berip bilmeris .

Gülkünç, AI-ni dolandyrmagyň iň gowy usuly oňa az bil baglamak bolup biler. Her bir mesele maşyn öwreniş düzedişine mätäç däl, käwagt bolsa köne adamyň düşünjesi gowy işleýär. Gaýrat et. Gorkuň. Paranoýa güýçleri öňe gidýär .

Panöne howsala düşmäge synanyşýan ulgamlarymyzdan has samsyk bolmaga ýol bermäň.