Un fir comun apare pe măsură ce companiile se luptă să construiască și să implementeze sisteme AI. Apoi, cineva din domeniul juridic întreabă: „Continuă, putem explica cu adevărat cum a condus această decizie?” sau o scrisoare vine de la un regulator. sau un client face o plângere. Problema este că adoptarea AI s-a întâmplat mai repede decât cele mai multe companii pot gestiona în mod responsabil.Am făcut avionul în timp ce l-am zburat.Și acum știm că adăugarea de conformitate la sistemele AI care sunt deja în utilizare este costisitoare, riscantă și adesea plină de greșeli.În loc să fie o fundație, guvernanța devine o gândire ulterioară. AtScale, care ajută întreprinderile să stabilească analize guvernate, susține tendința de a construi guvernanța direct în arhitecturile AI, mai degrabă decât de a adăuga controale mai târziu. Limitele guvernării retrofit AI Cele mai multe companii tratează Astfel de abordări pot crea probleme care devin din ce în ce mai dificil de gestionat în timp. Ce guvernanță Ce guvernanță Implementarea retroactivă a controalelor de guvernanță poate crea vânturi negative atunci când fiecare echipă construiește modele bazate pe propriile definiții pentru termeni precum "venituri" sau "clienți" etc. Când două sau mai multe echipe încearcă să guverneze aceste modele, ele descoperă de obicei inconsecvențe în modul în care definesc aceleași termeni. Guvernarea implementată după implementare poate să nu urmărească neapărat modul în care sistemele AI funcționează cu adevărat.În momentul în care echipa de conformitate revizuiește un model, au fost deja luate mii de decizii.Organizațiile adaugă instrumente AI explicabile pentru a demonstra ce a făcut un sistem AI, nu de ce l-au construit în acest fel. În plus, aceste instrumente sunt de obicei separate de infrastructura de date care susține sistemul AI, astfel încât adăugarea acestui strat ar fi putut rezolva problema inițială, dar are, de asemenea, tendința de a crea mai multă complexitate. În practică, aceste limitări devin cele mai vizibile pe măsură ce organizațiile încearcă să se miște. , expunând modele de guvernanță care au fost concepute pentru medii BI statice, mai degrabă decât sisteme autonome, probabiliste. AI initiatives from pilot to production Inițiative AI de la pilot la producție Ce înseamnă "încrederea prin design" în practică Încrederea prin design este despre integrarea sistemelor în care guvernanța este construită de la început, nu adăugată după fapt. Când este implementată, nu trebuie să vă întrebați: "Cum vom audita această IA după ce a fost lansată?" Trecerea la încredere prin proiectare are loc la nivel arhitectural, înainte de a se face o singură predicție.Acest lucru înseamnă structurarea datelor într-un mod care le face transparente, trasabile și responsabile.Aceste sisteme sunt menite să facă logica din spatele deciziilor clare și ușor de verificat. Timpul este cel mai important factor care definește încrederea prin proiectare. Gestionarea tradițională încearcă să verifice și să remedieze lucrurile după ce au fost puse în funcțiune. Încrederea prin proiectare facilitează guvernanța. Dacă logica afacerii dvs. este încorporată în stratul de date, fiecare instrument și model care funcționează cu aceste date încorporează aceleași reguli, definiții și limite. Veți obține coerență fără aplicare și conformitate fără monitorizare constantă. Rolul modelelor semantice în transparența AI Modelele semantice sunt o modalitate valoroasă de a pune încrederea în practică prin proiectare, asigurându-se că toate sistemele care au nevoie de ele împărtășesc același context, standardizează definițiile de afaceri și arată cum se referă metricile una la cealaltă. a Asigură faptul că un model AI returnează întotdeauna același răspuns atunci când este cerut pentru "valoarea de viață a clientului", indiferent dacă cererea vine de la un dashboard, un script Python sau un instrument generativ AI. Trebuie doar să definiți logica o dată și o puteți folosi oriunde. Modelul semantic Modelul semantic Modelele semantice clarifică ce înseamnă metricile și cum sunt utilizate. Ele clarifică cunoștințele ambigue. De exemplu, AtScale folosește modelarea semantică ca bază pentru analiza gata de guvernare. Potrivit lui Dave Mariani, CTO și co-fondator al AtScale, „Asigură că ‘clienții activi’, ‘leads calificați’ sau ‘venituri nete’ înseamnă același lucru, indiferent dacă întrebați întrebarea într-un agent AI în Slack, căutați prin limbaj natural sau trageți un tablou de bord.” Guvernanța construită în arhitectură: linie, responsabilitate, explicabilitate Atunci când guvernanța trăiește în arhitectura însăși, obțineți rezultate specifice, măsurabile și semnificative în timp ce gestionați AI în mod responsabil. 
 
 
 
 Vizibilitatea în liniile de date: Modelele cu semantică pot oferi vizibilitate suplimentară în liniile de date (adică, unde au apărut datele, cum au fost transformate și ce sisteme le-au consumat), precum și urmărirea fiecărui calcul și a sursei sale pentru cineva care pune la îndoială o ieșire AI. Logica decizională responsabilă: Încorporarea logicii de afaceri într-un strat central permite responsabilitatea, oferind claritate cu privire la cine a creat fiecare regulă, când au creat-o și de ce. Rezultate explicabile: Atunci când sistemele AI utilizează modele semantice guvernate, logica devine mai ușor de înțeles (și, prin urmare, explicabilă).În plus față de explicarea a ceea ce a prezis modelul, puteți explica, de asemenea, de ce datele subiacente au fost structurate într-un anumit mod. De ce este important pentru etică, reglementare și risc Discuția în jurul AI a trecut de la „ar putea să construim acest lucru?” la „ar trebui să construim acest lucru?” și „cum să creăm dovezi că l-am construit în mod responsabil?” Organizațiile ar trebui să anticipeze multe întrebări dificile din partea autorităților de reglementare, a clienților și a angajaților cu privire la responsabilitate, echitate și audibilitate. Încrederea prin proiectare oferă o oportunitate de a aborda aceste preocupări înainte ca acestea să escaladeze într-o criză.O structură de guvernanță transparentă, audibilă permite vizibilitatea și urmărirea proceselor de luare a deciziilor.În plus, transparența într-o structură de guvernanță permite auditarea pentru posibile prejudecăți și demonstrează părților interesate că sistemele AI utilizează o logică coerentă, documentată. AtScale consideră că provocările asociate cu guvernanța sunt din ce în ce mai legate de definirea și împărtășirea semnificației datelor în mai multe sisteme. Dacă stratul semantic definește prejudecăți sau definiții neclare, fiecare model AI instruit pe acel strat va moșteni astfel de probleme. Dezvoltarea încrederii pe măsură ce AI devine mai autonomă Sistemele AI iau mai multe decizii cu mai puțină supraveghere umană. Această traiectorie este puțin probabil să se răstoarne. Organizațiile pot găsi că încrederea nu este ceva ce pot adăuga mai târziu, dar trebuie să fie proiectate în arhitectură de la început.Modelele semantice sunt o parte a acelui set de instrumente. Întrebarea nu este dacă să guverneze AI. este dacă ați construit arhitectura pentru a face posibilă guvernanța în primul rând. 
 
 Această poveste a fost distribuită ca o lansare de Jon Stojan în cadrul HackerNoon's Business Blogging Program. Această poveste a fost distribuită ca o lansare de Jon Stojan în cadrul HackerNoon's Business Blogging Program.

This story contains new, firsthand information uncovered by the writer.

Acest audio este produs în limba originală a poveștii!

Încrederea prin proiectare: încorporarea guvernanței direct în arhitectura AI

About Author

COMENTARII

Etichete suspendate

ACEST ARTICOL A FOST PREZENTAT IN

Related Stories

The Robots Are Taking Over

The TechBeat: Digital Transformation Success Stories in Mezzanine Lending (3/3/2024)

The TechBeat: Digital Transformation Success Stories in Mezzanine Lending (3/1/2024)

How Soon Can Google Investors Make Bank?

The Robots Are Taking Over

The TechBeat: Digital Transformation Success Stories in Mezzanine Lending (3/3/2024)

The TechBeat: Digital Transformation Success Stories in Mezzanine Lending (3/1/2024)

How Soon Can Google Investors Make Bank?

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps