Управувањето со АИ има производствен проблем. Во текот на изминатите неколку години, регулаторите, органите за стандардизација и лидерите на индустријата конвергираа на јасен консензус: системите за вештачка интелигенција мора да бидат одговорни. рамки како што се Законот за вештачка интелигенција на ЕУ, Рамката за управување со ризици за вештачка интелигенција на NIST и новите глобални стандарди сите ги дефинираат очекувањата околу фер, ревидирање, управување со ризици и надзор. Но, постои фундаментална раздвојување. Управувањето постои како политика. Таа постои како инфраструктура. И некаде помеѓу двете, одговорноста се распаѓа. Основното прашање не е регулаторната јасност, тоа е инженеринг имплементација. Управувањето со вештачката интелигенција денес е во голема мера процедурно. Документацијата постои. се спроведуваат проценки на ризик. се опишуваат контролите. Но, самите системи честопати немаат детерминистички механизми за спроведување кои гарантираат дека барањата за управување се активно спроведуваат на време. Ова не е неуспех на политиката, тоа е недостасувачки архитектонски слој. The Problem: Governance Without Enforcement Проблемот: Управување без спроведување Модерните системи за вештачка интелигенција работат во неверојатни размери. Тие влијаат на: 
 
 
 
 
 Финансиски одобрувања кои влијаат на милиони поединци Рангирање на содржината и модерација на глобалните платформи Автоматизирани оперативни одлуки во критична инфраструктура Поддршка на здравствените одлуки кои влијаат на исходот на пациентот На оваа скала, дури и мали отстапувања може да предизвикаат системски ризик. Сепак, повеќето механизми за управување денес работат надвор од самиот систем: 
 
 
 
 
 Периодични ревизии Ручни прегледи Политичка документација Реактивни истраги по инцидентите Овие механизми не обезбедуваат континуирано спроведување. Тие не можат да гарантираат дека барањата за управување биле всушност спроведени во моментот на донесување одлуки. Без имплементација на ниво на системот, управувањето станува ретроспективно наместо превентивно. The Root Cause: No Translation Layer Between Policy and Systems Коренот на причината: Нема слој на превод помеѓу политиката и системите Регулаторните барања се напишани на човечки јазик: „Обезбедување на правдата“ „Одржувајте соодветни заштитни мерки“. „Обезбеди ревизија“ Производствените системи бараат детерминистички спецификации: 
 
 
 
 
 
 Прагови на вредности Логика на спроведување Примитивни контроли на пристап Инструменти за хокирање Проверка на телеметриски шеми Овие две области работат независно. Правните и тимовите за усогласеност ги дефинираат барањата за управување. Инженерските тимови градат системи.Но ретко постои структуриран механизам кој ги преведува мандатите за управување во спроведувачки технички контроли. Ова создава системски јаз во одговорноста. Introducing the AI Accountability Control Stack (AACS) Интегрирање на AI Accountability Control Stack (AACS) Со цел да се надминат овие структурни недостатоци, развивме – архитектурна рамка на ниво на производство која ги имплементира барањата за управување директно во рамките на инфраструктурата на системот за вештачка интелигенција. AI Accountability Control Stack (AACS) AACS го трансформира управувањето од документација во спроведувачко однесување на системот. Наместо да се потпира на рачен надзор, таа вградува одговорност во самиот систем. Архитектурата се состои од шест функционални слоеви: Layer 1: Policy Abstraction Layer Овој слој ги претвора барањата за управување во структурирани, машински читливи контролни примитиви. Наместо политика која постои само како текстуални документи, станува структурирана метаподатоци кои системите можат да ги толкуваат и спроведуваат. Layer 2: Risk Modeling Layer Различните системи за АИ носат различни нивоа на ризик во зависност од: 
 
 
 
 
 Влијание на одлуката Население погодено Регулаторна надлежност Контекст на имплементација Овој слој ги мапира барањата за управување со специфични за системот профили на ризик. Layer 3: Control Specification Layer Овој слој ги преведува барањата за управување во применливи технички спецификации, вклучувајќи: 
 
 
 
 
 
 Прагови на праведноста Политика за контрола на пристап Ограничувања за користење на податоци Барања за мониторинг Ескалација на тригери Овие спецификации се извршни, а не советодавни. Layer 4: Instrumentation Layer Инструментацијата ги вградува контролните и спроведувачките куки директно во: 
 
 
 
 
 Модел на инференциски цевки АПИ Достапни нивоа на податоци Услуги за интеграција Ова обезбедува спроведување на управувањето се случува за време на извршувањето на системот. Не подоцна Layer 5: Audit Telemetry Layer Овој слој генерира структурирани, лаптоп-очигледни дневници за ревизија зафаќајќи: 
 
 
 
 
 
 Верзија на моделот Карактеристики на влез Класификација на извозот Применета контрола на управувањето Одлуки за спроведување Ова автоматски создава проверливи докази за ревизија. Layer 6: Governance Reporting Interface Овој последен слој ја претвора телеметријата во: 
 
 
 
 
 Регулаторно подготвени ревизорски извештаи Внатрешни табла за усогласеност Автоматски предупредувања за ризик Ескалација на работните процеси Управувањето станува постојано измеримо. Why This Architecture Matters Зошто архитектурата е важна Постоечките рамки за управување ги дефинираат очекувањата, а не ги дефинираат архитектурите за имплементација. AACS обезбедува детерминистички слој на превод помеѓу политиката за управување и извршувањето на системот. Ова произведува неколку критични способности: Контролите се применуваат во време на инференција. Continuous enforcement : Доказите се генерираат како дел од функционирањето на системот. Automatic auditability : Управување со скали со инфраструктура. Scalability : Управувањето останува непроменето како што се развиваат системите. Operational resilience : How This Works in Real Systems Како тоа функционира во реални системи Современата инфраструктура на АИ е: 
 
 
 
 
 дистрибуирани Cloud-народен Постојано распоредени Интегриран со надворешни услуги AACS директно се интегрира во оваа средина со прицврстување на механизми за спроведување и телеметрија на границите на услугите, заклучоците и API слоевите. Ова им овозможува на контролите за управување да патуваат со системот, без оглед на архитектурата на распоредување. Дури и кога се користат надворешно обезбедени модели, контролите за управување можат да ги спроведат контролите за пристап, барањата за евиденција и оперативните заштитни мерки. Ова обезбедува одговорност без оглед на комплексноста на системот. The Emergence of Governance Engineering Појавата на управување со инженеринг Овој архитектонски модел воведува нова инженерска дисциплина: управување со инженеринг. Инженерите за управување дизајнираат и имплементираат инфраструктура потребна за да ги операционализираат барањата за управување. Нивната работа гарантира дека управувањето се спроведува автоматски, а не рачно. Оваа функција станува од суштинско значење бидејќи регулаторните очекувања се менуваат кон техничка спроведуваност. The Future: Governance Will Be Evaluated at the System Level Иднината: Управувањето ќе се оценува на системско ниво Регулаторниот надзор се развива брзо. Иднината регулаторна евалуација ќе се фокусира не само на документацијата за политиката, туку и на доказите на системско ниво кои покажуваат спроведување на управувањето. Организациите ќе треба да демонстрираат: 
 
 
 
 Како барањата за управување се претворија во контрола на системот Како се спроведуваат овие контроли Кои докази докажуваат дека извршувањето се случило Архитектурното спроведување ќе стане стандард. Не е опционално. Final Thought: Accountability Is an Architectural Decision Завршна мисла: Одговорноста е архитектонска одлука Одговорноста не може да се постигне само преку документација, политика или ревизии. Тоа мора да биде инжинирирано во самиот систем. Управувањето со одговорноста на вештачката интелигенција обезбедува практичен архитектонски модел за постигнување на ова со воведување на детерминистички слој на контрола кој ги поврзува управувањето и извршувањето на системот. Како што системите за вештачка интелигенција продолжуваат да се прошируваат и регулаторните очекувања да се интензивираат, организациите кои го третираат управувањето како инфраструктура наместо политика ќе бидат најдобро позиционирани за изградба на доверливи, отпорни и усогласени системи за вештачка интелигенција. Владеењето мора да стане код.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Ова аудио е произведено на оригиналниот јазик на приказната!

Инженерски одговорни системи за вештачка интелигенција: Зошто управувањето мора да стане системски слој од прва класа

About Author

КОМЕНТАРИ

ВИСЕТЕ ТАГОВИ

ОВОЈ СТАТИЈА БЕШЕ ПРЕТСТАВЕН ВО

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps