Rząd ma problem z produkcją. W ciągu ostatnich kilku lat organy regulacyjne, organy normalizacyjne i liderzy branży osiągnęli wyraźny konsensus: systemy sztucznej inteligencji muszą być odpowiedzialne.Ramy, takie jak unijny akt dotyczący sztucznej inteligencji, ramy zarządzania ryzykiem w zakresie sztucznej inteligencji NIST i pojawiające się globalne standardy, określają oczekiwania dotyczące sprawiedliwości, audytowalności, zarządzania ryzykiem i nadzoru. Istnieje jednak fundamentalne rozłączenie. Zarządzanie istnieje jako polityka. Istnieje jako infrastruktura. A gdzieś pomiędzy tymi dwoma, rozpada się odpowiedzialność. Podstawową kwestią nie jest jasność regulacyjna; jest to wdrożenie inżynieryjne. Dziś zarządzanie sztuczną inteligencją jest w dużej mierze proceduralne. istnieje dokumentacja. przeprowadzane są oceny ryzyka. opisane są kontrole. Ale same systemy często nie mają deterministycznych mechanizmów egzekwowania, które zapewniają, że wymagania dotyczące zarządzania są aktywnie egzekwowane w czasie realizacji. To nie jest porażka polityczna, to brakująca warstwa architektoniczna. The Problem: Governance Without Enforcement Problem: rządzenie bez egzekwowania prawa Nowoczesne systemy AI działają w niezwykłej skali. One wpływają na: 
 
 
 
 
 Rozliczenia finansowe dotykające miliony osób Ranking treści i moderacja na globalnych platformach Zautomatyzowane decyzje operacyjne w infrastrukturze krytycznej Pomoc w podejmowaniu decyzji dotyczących opieki zdrowotnej wpływających na wyniki leczenia pacjentów Na tej skali nawet niewielkie odchylenia mogą powodować ryzyko systemowe. Jednak większość mechanizmów zarządzania działa obecnie poza samym systemem: 
 
 
 
 
 Audyty okresowe Przegląd manualny Dokumentacja polityczna Reaktywne śledztwo po incydencie Mechanizmy te nie zapewniają ciągłego egzekwowania. Nie mogą zagwarantować, że wymogi w zakresie zarządzania zostały faktycznie egzekwowane w momencie podejmowania decyzji. Bez egzekwowania na poziomie systemu zarządzanie staje się retrospektywne, a nie zapobiegawcze. The Root Cause: No Translation Layer Between Policy and Systems Przyczyna korzeni: brak warstwy tłumaczenia między polityką a systemami Wymagania regulacyjne są pisane w języku ludzkim: „Zapewnienie sprawiedliwości” „Utrzymanie odpowiednich zabezpieczeń”. „Zapewnienie audytu”. Systemy produkcyjne wymagają specyfikacji deterministycznych: 
 
 
 
 
 
 Wartości progowe Logika egzekwowania Prymitywna kontrola dostępu Narzędzia Hooks Audyt systemów telemetrii Obie te dziedziny działają niezależnie. Zespoły prawne i ds. zgodności określają wymogi w zakresie zarządzania. zespoły inżynieryjne budują systemy. ale rzadko istnieje zorganizowany mechanizm, który przekłada mandaty w zakresie zarządzania na wykonalne kontrole techniczne. Powoduje to systemową lukę w rozliczalności. Introducing the AI Accountability Control Stack (AACS) Wprowadzenie AI Accountability Control Stack (AACS) Aby wyeliminować tę niedociągnięcie, opracowaliśmy — ramy architektoniczne na poziomie produkcji, które operacyjnie realizują wymogi w zakresie zarządzania bezpośrednio w ramach infrastruktury systemowej AI. AI Accountability Control Stack (AACS) AACS przekształca zarządzanie z dokumentacji w egzekwowalne zachowanie systemu. Zamiast polegać na nadzorze ręcznym, wkłada odpowiedzialność do samego systemu. Architektura składa się z sześciu warstw funkcjonalnych: Layer 1: Policy Abstraction Layer Ta warstwa przekształca wymagania dotyczące zarządzania w ustrukturyzowane, czytelne maszynowo elementy sterowania. Zamiast polityki istniejącej tylko jako dokumenty tekstowe, staje się ona ustrukturyzowanymi metadanymi, które systemy mogą interpretować i egzekwować. Layer 2: Risk Modeling Layer Różne systemy AI niesie ze sobą różne poziomy ryzyka w zależności od: 
 
 
 
 
 Wpływ decyzji Ludność dotknięta Jurysdykcja regulacyjna Kontekst wdrażania Ta warstwa mapuje wymagania w zakresie zarządzania do specyficznych dla systemu profili ryzyka. Layer 3: Control Specification Layer Warstwa ta przekłada wymogi w zakresie zarządzania na wykonalne specyfikacje techniczne, w tym: 
 
 
 
 
 
 Próg sprawiedliwości Polityka kontroli dostępu Ograniczenia w wykorzystaniu danych Wymagania monitorowania Triggery eskalacyjne Specyfikacje te są wykonalne, a nie doradcze. Layer 4: Instrumentation Layer Instrumentalizacja osadza śruby monitorowania i egzekwowania bezpośrednio w: 
 
 
 
 
 Modele rurociągów inferencyjnych Apię Data Access Layers - warstwy dostępu Usługi integracyjne Zapewnia to egzekwowanie rządzenia podczas wykonywania systemu. Nie po . Layer 5: Audit Telemetry Layer Ta warstwa generuje ustrukturyzowane, oczywiste dzienniki audytu, rejestrujące: 
 
 
 
 
 
 Wersja modelu Charakterystyka wejściowa Klasyfikacja wydajności Stosowane kontrole zarządzania Decyzje egzekucyjne W ten sposób automatycznie tworzy się weryfikowalne dowody audytu. Layer 6: Governance Reporting Interface Ta ostatnia warstwa przekształca telemetrię w: 
 
 
 
 
 Sprawozdania z audytu gotowych regulatorów Wewnętrzne dashboardy zgodności Automatyczne ostrzeżenia o ryzyku Eskalacja przepływów pracy Zarządzanie staje się stale wymierne. Why This Architecture Matters Dlaczego architektura ma znaczenie Istniejące ramy zarządzania określają oczekiwania, nie definiują architektury wdrażania. AACS zapewnia deterministyczną warstwę tłumaczenia między polityką zarządzania a wdrażaniem systemu. Powoduje to kilka krytycznych zdolności: Kontrole są stosowane w czasie inferencji. Continuous enforcement : Dowody są generowane jako część funkcjonowania systemu. Automatic auditability : Zarządzanie skalą z infrastrukturą. Scalability : Zarządzanie pozostaje nienaruszone wraz z rozwojem systemów. Operational resilience : How This Works in Real Systems Jak to działa w rzeczywistych systemach Nowoczesna infrastruktura to: 
 
 
 
 
 rozproszone chmura native Nieustannie rozmieszczone Integracja z usługami zewnętrznymi AACS integruje się bezpośrednio z tym środowiskiem, przyłączając mechanizmy egzekwowania i telemetrii do granic usług, rur inferencyjnych i warstw API. Pozwala to kontrolom zarządzania podróżować z systemem niezależnie od architektury wdrożenia. Nawet przy użyciu zewnętrznie dostarczonych modeli, osłonki zarządzania mogą egzekwować kontrole dostępu, wymagania logowania i zabezpieczenia operacyjne. Zapewnia to odpowiedzialność niezależnie od złożoności systemu. The Emergence of Governance Engineering Powstanie inżynierii zarządzania Ten model architektoniczny wprowadza nową dyscyplinę inżynierską: inżynierię zarządzania. Inżynierowie zarządzania projektują i wdrażają infrastrukturę niezbędną do operacyjnej realizacji wymagań w zakresie zarządzania. Ich praca zapewnia, że zarządzanie jest egzekwowane automatycznie, a nie ręcznie. Funkcja ta staje się coraz ważniejsza, ponieważ oczekiwania regulacyjne zmieniają się w kierunku wykonalności technicznej. The Future: Governance Will Be Evaluated at the System Level Przyszłość: zarządzanie będzie oceniane na poziomie systemowym Nadzór regulacyjny szybko się rozwija. Przyszła ocena regulacyjna skupi się nie tylko na dokumentacji dotyczącej polityki, ale także na dowodach na poziomie systemowym wykazujących egzekwowanie rządzenia. Organizacje będą musiały zademonstrować: 
 
 
 
 Jak wymagania dotyczące zarządzania zostały przetłumaczone na systemy kontroli Jak przeprowadzono te kontrole Jakie dowody potwierdzają, że doszło do egzekucji Wdrożenie architektury stanie się standardem. Nie jest opcjonalne. Final Thought: Accountability Is an Architectural Decision Ostateczna myśl: Odpowiedzialność jest decyzją architektoniczną Odpowiedzialność nie może być osiągnięta wyłącznie poprzez dokumentację, politykę lub audyty. Należy je wprowadzić do samego systemu. AI Accountability Control Stack zapewnia praktyczny model architektoniczny, aby to osiągnąć, wprowadzając deterministyczną warstwę kontroli, która łączy zarządzanie i wykonywanie systemu. Ponieważ systemy sztucznej inteligencji nadal się rozwijają, a oczekiwania regulacyjne rosną, organizacje, które traktują zarządzanie jako infrastrukturę, a nie politykę, będą w najlepszej sytuacji, aby zbudować wiarygodne, odporne i zgodne z przepisami systemy sztucznej inteligencji. Zarządzanie musi być kodem.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Ten dźwięk jest produkowany w oryginalnym języku historii!

Inżynieria odpowiedzialnych systemów AI: dlaczego zarządzanie musi stać się pierwszorzędną warstwą systemu

About Author

UWAGI

ZAWIEŚĆ TAGI

ARTYKUŁ TEN ZOSTAŁ PREZENTOWANY W

Related Stories

Google's Gemini AI: A Thought Experiment in Deception

Pleasures of the telescope by Garrett Putman Serviss - Table of Links

Meet Sora: HackerNoon Company of the Week

The Noonies 2022 Award Goes to Madalin Muraretiu - Contributor of The Year - Cryptocurrency Edition

Google's Gemini AI: A Thought Experiment in Deception

Pleasures of the telescope by Garrett Putman Serviss - Table of Links

Meet Sora: HackerNoon Company of the Week

The Noonies 2022 Award Goes to Madalin Muraretiu - Contributor of The Year - Cryptocurrency Edition

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps