Een gemeenschappelijke draad komt naar voren als bedrijven de race maken om AI-systemen te bouwen en te implementeren. Vervolgens vraagt iemand in de jurisprudentie: "Houd er rekening mee, kunnen we echt uitleggen hoe dit tot die beslissing heeft geleid?" of een brief komt van een regelgevende instantie. of een klant maakt een klacht. Het probleem is dat AI-adoptie sneller is gebeurd dan de meeste bedrijven op een verantwoorde manier kunnen omgaan.We maakten het vliegtuig terwijl we het vliegen.En nu weten we dat het toevoegen van compliance aan AI-systemen die al in gebruik zijn kostbaar, riskant en vaak verraden is met fouten.In plaats van een basis te zijn, wordt governance een afterthought. AtScale, dat bedrijven helpt gestuurde analytics op te zetten, ondersteunt de trend van het bouwen van governance rechtstreeks in AI-architecturen in plaats van het toevoegen van controles later. De grenzen van retrofit AI governance De meeste organisaties behandelen Zoals ze zouden beveiliging (bouwen eerst en beschermen later).Deze aanpak kan problemen creëren die na verloop van tijd steeds moeilijker te beheren worden. De governance De governance Retroactief implementeren van governance-controles kan tegenwind creëren wanneer elk team modellen bouwt op basis van hun eigen definities voor termen zoals "inkomsten" of "klanten", etc. Wanneer twee of meer teams proberen deze modellen te regeren, ontdekken ze meestal inconsistenties in hoe ze dezelfde termen definiëren. Governance geïmplementeerde post-deployment kan niet noodzakelijkerwijs volgen hoe AI-systemen echt werken.Tot het moment dat het compliance-team een model beoordeelt, zijn er al duizenden beslissingen genomen. organisaties voegen verklaarbare AI-tools toe om te demonstreren wat een AI-systeem deed, niet waarom ze het op die manier bouwden. Bovendien zijn deze tools meestal gescheiden van de gegevensinfrastructuur die het AI-systeem ondersteunt, dus het toevoegen van deze laag heeft misschien het oorspronkelijke probleem opgelost, maar het heeft ook de neiging om meer complexiteit te creëren. In de praktijk worden deze beperkingen het meest zichtbaar als organisaties proberen te bewegen. , het blootleggen van governance-modellen die zijn ontworpen voor statische BI-omgevingen in plaats van autonome, probabilistische systemen. AI-initiatieven van piloot tot productie AI-initiatieven van piloot tot productie Wat "vertrouwen door ontwerp" betekent in de praktijk Vertrouwen door ontwerp gaat over het integreren van systemen waar governance vanaf het begin is ingebouwd, niet toegevoegd na het feit.Wanneer je het implementeert, hoef je jezelf niet te vragen: "Hoe zullen we deze AI auditeren nadat deze is gelanceerd?"In plaats daarvan is het een proactieve vraag van "Hoe maken we deze AI vanaf het begin auditbaar?" De verschuiving naar vertrouwen door ontwerp vindt plaats op het architecturale niveau, voordat een enkele voorspelling wordt gemaakt.Dit betekent dat gegevens op een manier worden gestructureerd die het transparant, traceerbaar en verantwoordelijk maakt.Deze systemen zijn bedoeld om de logica achter beslissingen duidelijk en gemakkelijk te controleren te maken. Timing is de belangrijkste factor die vertrouwen door ontwerp definieert. Traditionele governance probeert dingen te controleren en te repareren nadat ze in gebruik zijn genomen. Vertrouwen door ontwerp maakt governance gemakkelijk. Als uw bedrijfslogica is ingebouwd in de gegevenslaag, bevat elke tool en model dat met die gegevens werkt dezelfde regels, definities en limieten. U krijgt consistentie zonder handhaving en naleving zonder constante monitoring. De rol van semantische modellen in AI transparantie Semantische modellen zijn een waardevolle manier om vertrouwen in de praktijk te brengen door middel van ontwerp. ze zorgen ervoor dat alle systemen die het nodig hebben, dezelfde context delen, bedrijfsdefinities standaardiseren en laten zien hoe metrics met elkaar te maken hebben. a zorgt ervoor dat een AI-model altijd hetzelfde antwoord retourneert wanneer het wordt gevraagd voor "klant levenslange waarde", ongeacht of de aanvraag afkomstig is van een dashboard, een Python-script of een generatieve AI-tool. Semantisch model Semantisch model Semantische modellen verduidelijken wat metricen betekenen en hoe ze worden gebruikt. Ze verduidelijken dubbelzinnige kennis.AtScale gebruikt bijvoorbeeld semantische modellering als basis voor governance-ready analytics.Volgens Dave Mariani, CTO en medeoprichter van AtScale, "zorgt het ervoor dat 'actieve klanten', 'gekwalificeerde leads' of 'netto-inkomsten' allemaal hetzelfde betekenen, ongeacht of u de vraag in een AI-agent in Slack stelt, door natuurlijke taal vraagt of een dashboard ophaalt." Governance ingebouwd in architectuur: lineage, verantwoordelijkheid, verklaarbaarheid Wanneer governance leeft in de architectuur zelf, krijg je specifieke, meetbare en betekenisvolle resultaten terwijl je AI verantwoordelijk beheert. 
 
 
 
 Zichtbaarheid in data lineage: Modellen met semantiek kunnen extra zichtbaarheid bieden in data lineage (dat wil zeggen, waar de gegevens zijn ontstaan, hoe het is getransformeerd en welke systemen het hebben geconsumeerd), evenals het bijhouden van elke berekening en de bron ervan voor iemand die een AI-uitvoer in twijfel trekt. Aansprakelijke beslissingslogica: Het invoegen van bedrijfslogica in een centrale laag maakt verantwoording mogelijk door duidelijkheid te geven over wie elke regel heeft gemaakt, wanneer ze deze hebben gemaakt en waarom. Uitvoerbaar: Wanneer AI-systemen gebruikmaken van geregeerde semantische modellen, wordt de logica begrijpelijker (en dus verklaarbaar).Naast het uitleggen van wat het model voorspelde, kunt u ook uitleggen waarom de onderliggende gegevens op een bepaalde manier zijn gestructureerd. Waarom dit belangrijk is voor ethiek, regelgeving en risico De discussie rond AI is overgegaan van "kunnen we dit bouwen?" naar "Moeten we dit bouwen?" en "Hoe kunnen we bewijzen creëren dat we het op een verantwoorde manier hebben gebouwd?" Organisaties moeten veel moeilijke vragen van toezichthouders, klanten en werknemers over verantwoordingsplicht, eerlijkheid en controleerbaarheid anticiperen. Vertrouwen door ontwerp biedt de mogelijkheid om deze zorgen aan te pakken voordat ze escaleren in een crisis.Een transparante, controleerbare governance-structuur maakt zichtbaarheid in en tracking van besluitvormingsprocessen mogelijk.Bovendien maakt transparantie binnen een governance-structuur auditing mogelijk voor mogelijke vooroordelen en laat stakeholders zien dat AI-systemen consistente, gedocumenteerde logica gebruiken. AtScale gelooft dat de uitdagingen in verband met governance steeds meer verband houden met het definiëren en delen van de betekenis van gegevens over meerdere systemen.Als uw semantische laag vooroordelen of onduidelijke definities definieert, zal elk AI-model dat op die laag wordt getraind dergelijke problemen erven. Vertrouwen ontwerpen naarmate AI meer autonoom wordt AI-systemen nemen meer beslissingen met minder menselijk toezicht. dat traject is onwaarschijnlijk om te keren. Organisaties kunnen vinden dat vertrouwen niet iets is wat ze later kunnen toevoegen, maar moet vanaf het begin worden ontworpen in de architectuur. semantische modellen zijn een deel van die toolkit. De vraag is niet of je AI moet regeren, het is of je de architectuur hebt gebouwd om governance in de eerste plaats mogelijk te maken. 
 
 Dit verhaal werd verspreid als een release door Jon Stojan onder HackerNoon's Business Blogging Program. Dit verhaal werd verspreid als een release door Jon Stojan onder HackerNoon's Business Blogging Program.

This story contains new, firsthand information uncovered by the writer.

Deze audio wordt geproduceerd in de originele taal van het verhaal!

Vertrouwen door ontwerp: governance rechtstreeks in AI-architectuur opnemen

About Author

OPMERKINGEN

LABELS

DIT ARTIKEL WERD GEPRESENTEERD IN

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps