לממשלה יש בעיה של ייצור. במהלך השנים האחרונות, הרגולטורים, הגופים לסטנדרטים ומנהיגי התעשייה התכנסו בהסכמה ברורה: מערכות AI חייבות להיות אחראיות. אבל יש הפרדה בסיסית. השלטון קיים כפוליטיקה. זה קיים כמו תשתית. ובמקום מסוים בין השניים, האחריות מתפרקת. הבעיה העיקרית היא לא בהירות רגולטורית, אלא יישום מהנדסי. מנהיגות AI כיום היא במידה רבה הליך. תיעוד קיים. הערכות סיכון מתבצעות. בקרים מתוארים. אבל המערכות עצמן לעתים קרובות חסרים מנגנונים אכיפת דטרמיטיסטיים שמבטיחים דרישות מנהיגות מתבצעות באופן פעיל בזמן ביצוע. זה לא כישלון פוליטי, זה שכבת ארכיטקטורה חסרת. The Problem: Governance Without Enforcement הבעיה: ממשל ללא ביצוע מערכות AI מודרניות פועלות בקנה מידה יוצא דופן. הם משפיעים על: 
 
 
 
 
 אישורים פיננסיים המשפיעים על מיליוני אנשים דירוג תוכן ומודרניזציה בכל הפלטפורמות העולמיות קבלת החלטות אוטומטיות בתשתיות קריטיות תמיכה בהחלטות בתחום הבריאות המשפיעות על תוצאות המטופל בקנה מידה זה, גם הפרעות קטנות יכולות לייצר סיכון מערכתי. עם זאת, רוב מנגנונים של ממשל כיום פועלים מחוץ למערכת עצמה: 
 
 
 
 
 בדיקות תקופתיות ביקורות ידניות תיעוד מדיניות חקירות לאחר האירועים מנגנונים אלה אינם מספקים יישום מתמשך. הם אינם יכולים להבטיח כי דרישות הניהול הוקמו למעשה ברגע שהחלטות נלקחו. ללא אימוץ ברמה המערכת, הממשל הופך לרטרופקטורי ולא למניע. The Root Cause: No Translation Layer Between Policy and Systems הסיבה השורשית: אין שכבת תרגום בין מדיניות ומערכות הדרישות הכלליות נכתבו בשפה האנושית: להבטיח את הצדק”. יש לשמור על אמצעי הגנה מתאימים". להבטיח את הפיקוח”. מערכות ייצור דורשות ספציפיות דטרמיניסטיות: 
 
 
 
 
 
 סף ערכים אכיפת ההיגיון בקרת גישה פרימיטיבית מכשירים Hooks תוכניות Telemetry Audit שתי התחומים האלה פועלות באופן עצמאי. צוותים משפטיים וקביעות מגדירים דרישות לניהול. צוותי הנדסה בונים מערכות.אבל לעתים רחוקות יש מנגנון מובנה המתרגם צוותים לניהול לבקשות טכניות אפשריות. זה יוצר חוסר אחריות מערכתי. Introducing the AI Accountability Control Stack (AACS) עקבו אחרי AI Accountability Control Stack (AACS) כדי לפתור את החסרונות הללו, פיתחתי את - מסגרת אדריכלית ברמה הייצור שמפעילה את דרישות הניהול ישירות בתשתית מערכת AI. AI Accountability Control Stack (AACS) AACS משנה את השלטון מהמסמכים לתנהגות מערכת אפשרית. במקום להסתמך על פיקוח ידני, היא מעבירה אחריות בתוך המערכת עצמה. האדריכלות מורכבת משש שכבות פונקציונליות: Layer 1: Policy Abstraction Layer שכבה זו משנה את דרישות הניהול לפרימיטיביות בקרה מובנות, קריאות מכונה. במקום שהמדיניות קיימת רק כמסמכים טקסטים, היא הופכת למנת נתונים מובנים שמערכות יכולות לפרש וליישם. Layer 2: Risk Modeling Layer מערכות AI שונות נושאות רמות שונות של סיכון בהתאם: 
 
 
 
 
 השפעת ההחלטה אוכלוסייה מושפעת סמכות רגולטורית הקשר להתפשטות שכבה זו מפותחת את דרישות הניהול לפרופילים של סיכונים ספציפיים למערכת. Layer 3: Control Specification Layer שכבה זו מתרגמת דרישות ניהול לתוך ספציפיות טכניות אפשריות, כולל: 
 
 
 
 
 
 סף הצדק מדיניות בקרת גישה מגבלות שימוש בנתונים דרישות מעקב מדרגות Triggers מפרטים אלה הם מיושמים, לא ייעוץ. Layer 4: Instrumentation Layer מכשירים מקיפים מעקב וחיזוק קוצים ישירות לתוך: 
 
 
 
 
 דוגמאות ל-Inference Pipe APIs גישה ל-Data Access Layers שירותי אינטגרציה זה מבטיח כי יישום של ממשל מתרחש במהלך ביצוע המערכת. לא אחר כך. Layer 5: Audit Telemetry Layer שכבה זו מייצרת יומני ביקורת מובנים ומאורגנים שמקבלים: 
 
 
 
 
 
 גרסה מודל המאפיינים של Input קטגוריות Output פיקוח ממשל יישומי החלטות אכיפת זה יוצר עדויות בדיקה מאומתות באופן אוטומטי. Layer 6: Governance Reporting Interface שכבה אחרונה זו משנה את הטלמטיקה ל: 
 
 
 
 
 דוחות בדיקה מוכנים Dashboards תאימות פנימית אזהרות סיכון אוטומטיות תנועות עבודה אקלים השלטון הופך כל הזמן למדויק. Why This Architecture Matters למה ארכיטקטורה זה חשוב מסגרות ניהול קיימות קובעות ציפיות; הן לא קובעות ארכיטקטורות יישום. AACS מספק שכבת תרגום דטרמיטיסטית בין מדיניות ניהול לבין ביצוע המערכת. זה מייצר מספר יכולות קריטיות: הבדיקות מתבצעות בזמן ההשלכות. Continuous enforcement : הוכחות נוצרות כחלק מהפעולה של המערכת. Automatic auditability : מנהיגות בדרגות עם תשתיות. Scalability : ממשל נשאר ללא הפרעה ככל שהמערכות מתפתחות. Operational resilience : How This Works in Real Systems איך זה עובד במערכות אמיתיות התשתית המודרנית היא: 
 
 
 
 
 חלוקת ענן מקומי מתפשטת באופן קבוע שילוב עם שירותים חיצוניים AACS משולב ישירות לסביבה זו על-ידי חיבור מנגנונים של אימוץ וטלומטריה לגבולות השירות, צינורות פירוט, ושכבות API. זה מאפשר לשלוט בשליטה לנסוע עם המערכת ללא קשר לארכיטקטורה של הפצה. גם כאשר משתמשים במודלים המסופקים מבחוץ, מכסים לניהול יכולים לאכוף בקרת גישה, דרישות רישום ואבטחה תפעולית. זה מבטיח אחריות ללא קשר למורכבות המערכת. The Emergence of Governance Engineering התפתחות הנדסה לניהול מודל אדריכלי זה מציג משמעת הנדסה חדשה: ניהול הנדסה. מהנדסי ממשל לתכנן וליישם את התשתית הנדרשת כדי להפעיל את דרישות הממשל. העבודה שלהם מבטיחה כי הממשל מתבצע באופן אוטומטי, לא באופן ידני. פונקציה זו הופכת להיות חיונית כפי הציפיות הרגולטוריות לעבור לביצועים טכניים. The Future: Governance Will Be Evaluated at the System Level העתיד: הממשל יוערך ברמת המערכת פיקוח פיקוח מתפתח במהירות. הערכה רגולטורית עתידית תתמקד לא רק בתיעוד המדיניות, אלא בהוכחות ברמה המערכת המעידות על ביצועי ניהול. הארגונים יצטרכו להוכיח: 
 
 
 
 כיצד דרישות הניהול מתורגמות לשליטה במערכת כיצד בוצעו הבדיקות הללו אילו ראיות מוכיחות כי ביצוע התרחש אמצעי אכיפה ארכיטקטוניים יהפכו לסטנדרט. לא אופציונלי Final Thought: Accountability Is an Architectural Decision המחשבה הסופית: האחריות היא החלטה אדריכלית לא ניתן להשיג אחריות רק באמצעות תיעוד, מדיניות או בדיקות. יש להכניס אותו למערכת עצמה. AI Accountability Control Stack מספק מודל ארכיטקטוני מעשי כדי להשיג זאת על ידי הצגת שכבת בקרה דטרמיטיסטית המגבהת ממשל ויישום המערכת. ככל שמערכות AI ממשיכות להתרחב והציפיות הרגולטוריות מתחזקות, הארגונים שמתייחסים לניהול כאל תשתית ולא למדיניות יהיו במצב הטוב ביותר לבנות מערכות AI אמינות, עמידות ומתאימות. הממשלה צריכה להפוך לקוד.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

האודיו הזה מופק בשפת המקור של הסיפור!

הנדסת מערכות AI אחראיות: מדוע ממשל חייב להיות שכבת מערכת ברמה הראשונה

About Author

הערות

תלו תגים

מאמר זה הוצג ב

Related Stories

ברכות עונות מ-HackerNoon: Boost Stories עם תרגומים, דיבור לטקסט ועוד

The TechBeat: Python's Testing Playbook: Building Bulletproof Code (1/18/2024)

The TechBeat: Investigating Internet Freedom: Unseen Aspects of Our Online Existence (1/20/2024)

179 Super Compelling HackerNoon Headlines

ברכות עונות מ-HackerNoon: Boost Stories עם תרגומים, דיבור לטקסט ועוד

The TechBeat: Python's Testing Playbook: Building Bulletproof Code (1/18/2024)

The TechBeat: Investigating Internet Freedom: Unseen Aspects of Our Online Existence (1/20/2024)

179 Super Compelling HackerNoon Headlines

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps