Kopīgs virziens parādās, jo uzņēmumi cīnās, lai izveidotu un ieviestu AI sistēmas. Tad kāds no juridiskajiem jautājumiem jautā: "Pagaidiet, vai mēs tiešām varam izskaidrot, kā tas noveda pie šī lēmuma?" vai vēstule nāk no regulatora. vai klients iesniedz sūdzību. Problēma ir tāda, ka AI pieņemšana ir notikusi ātrāk, nekā lielākā daļa uzņēmumu var atbildīgi rīkoties.Mēs izgatavojām lidmašīnu, kamēr mēs to lidojām.Un tagad mēs zinām, ka atbilstības pievienošana AI sistēmām, kas jau tiek izmantotas, ir dārga, riskanta un bieži vien apslēpta ar kļūdām. AtScale, kas palīdz uzņēmumiem izveidot pārvaldītu analīzi, atbalsta tendenci veidot pārvaldību tieši AI arhitektūrās, nevis vēlāk pievienot kontroles. Retrofit AI pārvaldības robežas Lielākā daļa organizāciju ārstē Tā kā tie nodrošinātu drošību (pirms būvējiet un pēc tam aizsargājiet). AI pārvaldība AI pārvaldība Atpakaļejoši īstenojot pārvaldības kontroles var radīt pretestību, kad katra komanda veido modeļus, pamatojoties uz savām definīcijām par terminiem, piemēram, "ieņēmumi" vai "klienti", utt Kad divas vai vairākas komandas mēģina pārvaldīt šos modeļus, viņi parasti atklāj neatbilstības, kā viņi definē tos pašus noteikumus. Līdz brīdim, kad atbilstības komanda pārskata modeli, tā jau ir pieņēmusi tūkstošiem lēmumu. organizācijas pievieno izskaidrojamus AI rīkus, lai demonstrētu, ko AI sistēma darīja, nevis kāpēc viņi to tā uzcēla. Turklāt šie rīki parasti ir atsevišķi no datu infrastruktūras, kas atbalsta AI sistēmu, tāpēc šī slāņa pievienošana var būt atrisinājusi sākotnējo problēmu, bet tas arī mēdz radīt lielāku sarežģītību. Praksē šie ierobežojumi kļūst visredzamākie, kad organizācijas mēģina pārvietoties. , atklājot pārvaldības modeļus, kas tika izstrādāti statiskām BI vidēm, nevis autonomām, varbūtības sistēmām. AI iniciatīvas no pilotprojekta līdz ražošanai AI iniciatīvas no pilotprojekta līdz ražošanai Ko “uzticība pēc dizaina” nozīmē praksē Uzticība pēc dizaina ir par to, lai integrētu sistēmas, kurās pārvaldība ir iebūvēta no paša sākuma, nevis pievienota pēc fakta.Kad tas tiek īstenots, jums nav jājautā sev: "Kā mēs pārbaudīsim šo AI pēc tā uzsākšanas?" Pāreja uz uzticību pēc dizaina notiek arhitektūras līmenī, pirms tiek veikta jebkāda viena prognoze.Tas nozīmē datu strukturēšanu tādā veidā, kas padara to pārredzamu, izsekojamu un atbildīgu.Šīs sistēmas ir paredzētas, lai lēmumu loģika būtu skaidra un viegli pārbaudāma. Laiks ir vissvarīgākais faktors, kas nosaka uzticību pēc dizaina. Tradicionālā pārvaldība cenšas pārbaudīt un labot lietas pēc tam, kad tās ir ieviestas. Uzticība pēc dizaina padara pārvaldību vieglu. Ja jūsu biznesa loģika ir iebūvēta datu slānī, katrs rīks un modelis, kas strādā ar šiem datiem, ietver tādus pašus noteikumus, definīcijas un ierobežojumus. Jūs iegūstat konsekvenci bez izpildes un atbilstību bez pastāvīgas uzraudzības. Semantisko modeļu loma AI pārredzamībā Semantiskie modeļi ir vērtīgs veids, kā ieviest uzticēšanos praksē, izmantojot dizainu.Tie nodrošina, ka visām sistēmām, kurām tas nepieciešams, ir vienāds konteksts, standartizē uzņēmējdarbības definīcijas un parāda, kā rādītāji attiecas viens pret otru. A nodrošina, ka AI modelis vienmēr atgriež to pašu atbildi, kad tiek lūgts "klienta mūža vērtība", neatkarīgi no tā, vai pieprasījums nāk no rokasgrāmatas, Python skripta vai ģeneratīva AI rīka. Semantiskais modelis Semantiskais modelis Semantiskie modeļi izskaidro, ko nozīmē rādītāji un kā tie tiek izmantoti. Tie izskaidro neskaidras zināšanas. Piemēram, AtScale izmanto semantisko modelēšanu kā pamatu pārvaldības gatavai analīzei.Saskaņā ar Dave Mariani, AtScale CTO un līdzdibinātāju, “tas nodrošina, ka “aktīvie klienti”, “kvalificēti vadītāji” vai “neto ieņēmumi” visi nozīmē to pašu, neatkarīgi no tā, vai jūs uzdodat jautājumu AI aģentam Slack, vaicājat caur dabisko valodu vai velciet instrumentu”. Pārvaldība, kas būvēta arhitektūrā: līnija, atbildība, izskaidrojamība Kad pārvaldība dzīvo pašā arhitektūrā, jūs iegūstat konkrētus, izmērāmus un nozīmīgus rezultātus, atbildīgi pārvaldot AI. 
 
 
 
 redzamība datu līnijā: modeļi ar semantiku var nodrošināt papildu redzamību datu līnijā (t.i., kur dati radies, kā tas tika pārveidots un kuras sistēmas to patērēja), kā arī izsekot katram aprēķinam un tā avotam kādam, kurš apšauba AI izeju. Atbildīga lēmumu loģika: uzņēmējdarbības loģikas ievietošana centrālajā slānī ļauj uzņemties atbildību, nodrošinot skaidrību par to, kas izveidoja katru noteikumu, kad tie to izveidoja un kāpēc. Izskaidrojami rezultāti: Kad AI sistēmas izmanto vadītos semantiskos modeļus, loģika kļūst saprotamāka (un tādējādi izskaidrojama). Papildus izskaidrojot to, ko modelis paredzēja, jūs varat arī izskaidrot, kāpēc pamatā esošie dati tika strukturēti noteiktā veidā. Kāpēc tas ir svarīgi ētikai, regulējumam un riskam Diskusija par AI ir pāriet no “varam veidot šo?” uz “varam veidot šo?” un “kā mēs izveidojam pierādījumus, ka mēs veidojam to atbildīgi?” Organizācijām vajadzētu paredzēt daudzus sarežģītus jautājumus no regulatoriem, klientiem un darbiniekiem par atbildību, taisnīgumu un pārskatāmību. Uzticība pēc dizaina sniedz iespēju risināt šīs bažas, pirms tās kļūst par krīzi.Pārredzama, revidējama pārvaldības struktūra ļauj redzēt un izsekot lēmumu pieņemšanas procesiem.Turklāt pārredzamība pārvaldības struktūrā ļauj revidēt iespējamās aizspriedumus un demonstrē ieinteresētajām personām, ka AI sistēmas izmanto konsekventu, dokumentētu loģiku. AtScale uzskata, ka problēmas, kas saistītas ar pārvaldību, arvien vairāk ir saistītas ar datu nozīmes definēšanu un dalīšanu vairākās sistēmās.Ja jūsu semantiskais slānis definē aizspriedumus vai neskaidras definīcijas, katrs AI modelis, kas apmācīts šajā slānī, mantos šādas problēmas. Dizains uzticību, jo AI kļūst vairāk autonoms AI sistēmas pieņem vairāk lēmumu ar mazāk cilvēku uzraudzību.Šī trajektorija, visticamāk, netiks mainīta. Organizācijas var uzskatīt, ka uzticība nav kaut kas, ko viņi var pievienot vēlāk, bet tas ir jāizstrādā arhitektūrā no paša sākuma. Semantiskie modeļi ir viena no šīs rīku kopas daļām. Jautājums nav par to, vai pārvaldīt AI, tas ir par to, vai jūs esat izveidojis arhitektūru, lai padarītu pārvaldību iespējamu vispirms. 
 
 Šis stāsts tika izplatīts kā Džona Stojana izlaišana HackerNoon biznesa emuāru programmas ietvaros. Šis stāsts tika izplatīts kā Džona Stojana izlaišana HackerNoon biznesa emuāru programmas ietvaros.

This story contains new, firsthand information uncovered by the writer.

Šis audio ir izveidots stāsta oriģinālvalodā!

Uzticība pēc dizaina: pārvaldības iekļaušana tieši AI arhitektūrā

About Author

KOMENTĀRI

PAKARINĀT TAGUS

ŠIS RAKSTS TIKS PĀRSTRĀDĀTS

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps