En vanlig tråd dyker upp när företag tävlar om att bygga och distribuera AI-system.De fungerar tillräckligt bra för att människor ska börja använda dem. Då frågar någon i juridik, "Fortsätt, kan vi verkligen förklara hur detta ledde till det beslutet?" Eller ett brev kommer från en tillsynsmyndighet. eller en kund gör ett klagomål. Problemet är att AI-antagandet har skett snabbare än de flesta företag kan hantera på ett ansvarsfullt sätt.Vi gjorde planet medan vi flög det.Och nu vet vi att lägga till efterlevnad till AI-system som redan används är kostsamt, riskabelt och ofta gåtfullt med misstag.I stället för att vara en grund, blir styrning en eftertanke. AtScale, som hjälper företag att etablera styrd analys, stöder trenden att bygga styrning direkt i AI-arkitekturer snarare än att lägga till kontroller senare. Gränserna för retrofit AI-styrning De flesta organisationer behandlar som de skulle säkerhet (bygg först och skydda senare).Denna metod kan skapa problem som blir allt svårare att hantera över tiden. och styrning och styrning Retroaktivt genomförande av styrningskontroller kan skapa motvindar när varje team bygger modeller baserat på sina egna definitioner för termer som "intäkter" eller "kunder", etc. När två eller flera team försöker styra dessa modeller, upptäcker de vanligtvis inkonsekvenser i hur de definierar samma termer. Governance implementerad efterutbyggnad kanske inte nödvändigtvis spåra hur AI-system verkligen fungerar.När efterlevnadsteamet granskar en modell har det redan fattat tusentals beslut.Organisationer lägger till förklarliga AI-verktyg för att visa vad ett AI-system gjorde, inte varför de byggde det på det sättet. Dessutom är dessa verktyg vanligtvis separerade från den datainfrastruktur som stöder AI-systemet, så att lägga till detta lager kan ha löst det ursprungliga problemet, men det tenderar också att skapa mer komplexitet. I praktiken blir dessa begränsningar mest synliga när organisationer försöker flytta , som avslöjar styrningsmodeller som var utformade för statiska BI-miljöer snarare än autonoma, probabilistiska system. AI initiativ från pilot till produktion AI initiativ från pilot till produktion Vad "trust by design" betyder i praktiken Förtroende genom design handlar om att integrera system där styrning är inbyggd från början, inte tillsatt efter faktum.När det implementeras, behöver du inte fråga dig själv, "Hur kommer vi att granska denna AI efter att den har lanserats?" Övergången till förtroende genom design sker på arkitektonisk nivå, innan en enda förutsägelse görs.Detta innebär att strukturera data på ett sätt som gör det transparent, spårbart och ansvarsfullt.Dessa system är avsedda att göra logiken bakom beslut tydliga och lätta att kontrollera. Timing är den viktigaste faktorn som definierar förtroende genom design. Traditionell styrning försöker kontrollera och fixa saker efter att de har tagits i bruk. Förtroende genom design gör styrning lätt. Om din affärslogik är inbyggd i datakiktet, innehåller varje verktyg och modell som fungerar med dessa data samma regler, definitioner och gränser. Du får enhetlighet utan verkställighet och efterlevnad utan konstant övervakning. Semantiska modellernas roll i AI-transparens Semantiska modeller är ett värdefullt sätt att sätta förtroende i praktiken genom design.De ser till att alla system som behöver det delar samma sammanhang, standardiserar affärsdefinitioner och visar hur mätvärden relaterar till varandra. A är säkerställer att en AI-modell alltid returnerar samma svar när det frågas om "kundlivsvärde", oavsett om begäran kommer från en instrumentpanel, ett Python-skript eller ett generativt AI-verktyg. Semantisk modell Semantisk modell Semantiska modeller klargör vad mätvärden betyder och hur de används. De klargör tvetydig kunskap. Till exempel använder AtScale semantisk modellering som grunden för styrningsberedd analys. Enligt Dave Mariani, AtScales CTO och medgrundare, "Det säkerställer att 'aktiva kunder', 'kvalificerade leads' eller 'nettointäkter' alla betyder samma sak oavsett om du frågar frågan i en AI-agent i Slack, frågar genom naturligt språk eller drar upp en instrumentpanel." Styrning inbyggd i arkitektur: linjeform, ansvarighet, förklarbarhet När styrningen lever i själva arkitekturen får du specifika, mätbara och meningsfulla resultat samtidigt som du hanterar AI på ett ansvarsfullt sätt. 
 
 
 
 Synlighet i data linje: Modeller med semantik kan ge ytterligare synlighet i data linje (dvs, var data härstammar, hur den omvandlades, och vilka system förbrukade den), samt spåra varje beräkning och dess källa för någon som ifrågasätter en AI-utgång. Ansvarsfull beslutslogik: Att bädda in affärslogik i ett centralt lager möjliggör ansvarsskyldighet genom att klargöra vem som skapade varje regel, när de skapade den och varför. Förklarliga utgångar: När AI-system utnyttjar styrda semantiska modeller blir logiken mer förståelig (och därmed förklarlig). Förutom att förklara vad modellen förutspådde kan du också förklara varför de underliggande data strukturerades på ett visst sätt. Varför detta är viktigt för etik, reglering och risk Diskussionen kring AI har övergått från "kan vi bygga detta?" till "bör vi bygga detta?" och "hur skapar vi bevis på att vi byggde det ansvarsfullt?" Organisationer bör förutse många svåra frågor från tillsynsmyndigheter, kunder och anställda om ansvarighet, rättvisa och revision. Förtroende genom design ger en möjlighet att ta itu med dessa farhågor innan de eskalerar till en kris.En transparent, auditerbar styrningsstruktur möjliggör synlighet i och spårning av beslutsfattande processer.Dessutom möjliggör transparens inom en styrningsstruktur auditering för potentiella bias och visar intressenter att AI-system använder en konsekvent, dokumenterad logik. AtScale anser att de utmaningar som är förknippade med styrning alltmer är kopplade till att definiera och dela innebörden av data över flera system. Om ditt semantiska lager definierar fördomar eller otydliga definitioner kommer varje AI-modell som utbildas på det lagret att ärva sådana problem. Utforma förtroende när AI blir mer självständigt AI-system fattar fler beslut med mindre mänsklig övervakning.Den trajektorin är osannolikt att vända. Organisationer kan finna att förtroende inte är något de kan lägga till senare, men måste utformas in i arkitekturen från början. Semantiska modeller är en del av det verktyget. Men den bredare principen håller: om du vill att AI du kan försvara, auditera och lita, måste du bygga dessa förmågor i grunden, inte fasaden. Frågan är inte om du ska styra AI. Det är om du har byggt upp arkitekturen för att göra styrning möjlig i första hand. 
 
 Denna berättelse distribuerades som en release av Jon Stojan under HackerNoon Business Blogging Program. Denna berättelse distribuerades som en release av Jon Stojan under HackerNoon Business Blogging Program.

This story contains new, firsthand information uncovered by the writer.

Det här ljudet är producerat på berättelsens originalspråk!

Förtroende genom design: Integrera styrning direkt i AI-arkitektur

About Author

KOMMENTARER

HÄNG TAGGAR

DENNA ARTIKEL PRESENTERAS I

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps