Sebuah thread umum muncul saat perusahaan berlari untuk membangun dan mengimplementasikan sistem AI. mereka bekerja cukup baik sehingga orang mulai menggunakannya. Kemudian, seseorang di bidang hukum bertanya, “Terus, apakah kita benar-benar dapat menjelaskan bagaimana ini menyebabkan keputusan itu?” atau surat datang dari regulator. atau klien membuat keluhan. dan tiba-tiba, tim harus bergegas untuk menambahkan kontrol transparansi, jalur audit, dan kerangka kerja pemerintahan ke sesuatu yang tidak dirancang untuk menampung mereka di tempat pertama. Masalahnya adalah bahwa penerapan AI telah terjadi lebih cepat daripada kebanyakan perusahaan dapat menangani dengan cara yang bertanggung jawab.Kami membuat pesawat saat kami menggunakannya.Dan sekarang kita tahu bahwa menambahkan kepatuhan ke sistem AI yang sudah digunakan adalah mahal, berisiko, dan sering dikelilingi dengan kesalahan. AtScale, yang membantu bisnis membangun analisis yang dikendalikan, mendukung tren membangun pemerintahan langsung ke dalam arsitektur AI daripada menambahkan kontrol kemudian.Ini adalah ide sederhana tetapi radikal: Bagaimana jika kepercayaan, keterbukaan, dan tanggung jawab bukan hanya hal-hal yang harus diperiksa, tetapi dibangun ke dalam desain? Batas-batas Pemerintahan AI yang Retrofit Sebagian besar organisasi memperlakukan seperti mereka akan keamanan (membangun pertama dan melindungi kemudian). pendekatan itu dapat menciptakan masalah yang menjadi semakin sulit untuk dikelola seiring waktu. AI governance dan pemerintahan Mengimplementasikan kontrol kepemimpinan secara retroaktif dapat menciptakan kebuntuan ketika masing-masing tim membangun model berdasarkan definisi mereka sendiri untuk istilah seperti "pendapatan" atau "pelanggan," dll Ketika dua atau lebih tim mencoba untuk mengatur model tersebut, mereka biasanya menemukan ketidaksesuaian dalam cara mereka mendefinisikan istilah yang sama. proses audit manual dapat menjadi upaya yang memakan waktu untuk menentukan proses pengambilan keputusan mana yang menyebabkan hasil tertentu. Pemerintahan implementasi pasca-implementasi mungkin tidak selalu melacak bagaimana sistem AI benar-benar berfungsi.Pada saat tim kepatuhan meninjau model, itu sudah membuat ribuan keputusan. organisasi menambahkan alat AI yang dapat dijelaskan untuk menunjukkan apa yang dilakukan sistem AI, bukan mengapa mereka membangunnya dengan cara itu. Selain itu, alat-alat ini biasanya terpisah dari infrastruktur data yang mendukung sistem AI, sehingga menambahkan lapisan ini mungkin telah memecahkan masalah asli, tetapi juga cenderung menciptakan lebih banyak kompleksitas. Dalam prakteknya, batasan-batasan ini menjadi paling terlihat saat organisasi mencoba untuk bergerak. , mengekspos model pemerintahan yang dirancang untuk lingkungan BI statis daripada sistem probabilistik otonom. Inisiatif AI dari pilot ke produksi Inisiatif AI dari pilot ke produksi Apa yang dimaksud dengan "desain" dalam praktek Kepercayaan oleh desain adalah tentang mengintegrasikan sistem di mana pemerintahan dibangun dari awal, tidak ditambahkan setelah fakta.Ketika diterapkan, Anda tidak perlu bertanya pada diri sendiri, "Bagaimana kita akan mengaudit AI ini setelah diluncurkan?" Pergeseran ke kepercayaan oleh desain terjadi pada tingkat arsitektur, sebelum prediksi tunggal dibuat.Ini berarti mengstrukturkan data dengan cara yang membuatnya transparan, dapat dilacak, dan bertanggung jawab.Sistem ini dimaksudkan untuk membuat logika di balik keputusan jelas dan mudah untuk memeriksa. Timing adalah faktor yang paling penting yang mendefinisikan kepercayaan oleh desain. Pemerintahan tradisional mencoba untuk memeriksa dan memperbaiki hal-hal setelah mereka telah dimanfaatkan. Kepercayaan oleh desain membuat pemerintahan mudah. Jika logika bisnis Anda dibangun ke dalam lapisan data, setiap alat dan model yang bekerja dengan data tersebut menggabungkan aturan, definisi, dan batasan yang sama. Anda mendapatkan konsistensi tanpa penegakan, dan kepatuhan tanpa pemantauan konstan. Peran Model Semantik dalam Transparansi AI Model semantik adalah cara yang berharga untuk menempatkan kepercayaan dalam praktek melalui desain. mereka memastikan bahwa semua sistem yang membutuhkannya berbagi konteks yang sama, menyederhanakan definisi bisnis, dan menunjukkan bagaimana metrik berhubungan satu sama lain. a yang memastikan bahwa model AI selalu mengembalikan jawaban yang sama ketika diminta untuk "nilai seumur hidup pelanggan," terlepas dari apakah permintaan itu berasal dari dashboard, skrip Python, atau alat AI generatif. Anda hanya perlu mendefinisikan logika sekali, dan Anda dapat menggunakannya di mana saja. konsistensi itu memungkinkan untuk terbuka dan jujur, karena Anda dapat menemukan sumber kebenaran untuk setiap output. Model Semantik Model Semantik Contohnya, AtScale menggunakan pemodelan semantik sebagai dasar untuk analisis yang siap untuk pemerintahan. Menurut Dave Mariani, CTO dan Co-Founder AtScale, “Ini memastikan bahwa ‘pelanggan aktif’, ‘leads berkualitas’, atau ‘pendapatan bersih’ semua berarti hal yang sama terlepas dari apakah Anda mengajukan pertanyaan di agen AI di Slack, menginterogasi melalui bahasa alami, atau menarik dashboard.” Governance Terbina dalam Arsitektur: Lineage, Accountability, Explainability Ketika pemerintahan hidup dalam arsitektur itu sendiri, Anda mendapatkan hasil yang spesifik, terukur, dan berarti sambil mengelola AI secara bertanggung jawab. 
 
 
 
 Visibilitas ke dalam garis data: Model dengan semantik dapat memberikan visibilitas tambahan ke dalam garis data (yaitu, di mana data berasal, bagaimana itu diubah, dan sistem mana yang mengkonsumsinya), serta melacak setiap perhitungan dan sumbernya bagi seseorang yang mempertanyakan output AI. Logika Keputusan yang Bertanggung Jawab: Mengintegrasikan logika bisnis ke dalam lapisan pusat memungkinkan akuntabilitas dengan memberikan kejelasan tentang siapa yang membuat setiap aturan, kapan mereka membuatnya, dan mengapa. Hasil yang dapat dijelaskan: Ketika sistem AI memanfaatkan model semantik yang dikendalikan, logika menjadi lebih dapat dimengerti (dan dengan demikian dapat dijelaskan). Selain menjelaskan apa yang diprediksi oleh model, Anda juga dapat menjelaskan mengapa data yang mendasari terstruktur dengan cara tertentu. Mengapa Ini Penting untuk Etika, Peraturan, dan Risiko Diskusi di sekitar AI telah beralih dari “bisa kita membangun ini?” ke “haruskah kita membangun ini?” dan “bagaimana kita membuat bukti bahwa kita membangunnya secara bertanggung jawab?” Organisasi harus mengantisipasi banyak pertanyaan sulit dari regulator, pelanggan, dan karyawan tentang akuntabilitas, keadilan, dan auditabilitas. Trust by design memberikan kesempatan untuk mengatasi kekhawatiran ini sebelum mereka meningkat menjadi krisis. struktur pemerintahan yang transparan dan dapat diaudit memungkinkan visibilitas ke dalam dan pelacakan proses pengambilan keputusan. AtScale percaya bahwa tantangan yang terkait dengan pemerintahan semakin terkait dengan mendefinisikan dan berbagi makna data di berbagai sistem.Jika lapisan semantik Anda mendefinisikan bias atau definisi yang tidak jelas, setiap model AI yang dilatih pada lapisan itu akan mewarisi masalah tersebut. Mengembangkan kepercayaan sebagai AI menjadi lebih otonom Sistem AI membuat lebih banyak keputusan dengan kurang pengawasan manusia. trajektori itu tidak mungkin untuk membalikkan. yang berarti jendela untuk mengembalikan pemerintahan menutup dengan cepat. Organisasi mungkin menemukan bahwa kepercayaan bukanlah sesuatu yang dapat mereka tambahkan nanti tetapi harus dirancang ke dalam arsitektur dari awal. model semantik adalah salah satu bagian dari toolkit itu. Pertanyaannya bukan apakah untuk menguasai AI, itu adalah apakah Anda telah membangun arsitektur untuk memungkinkan pemerintahan di tempat pertama. 
 
 Cerita ini didistribusikan sebagai rilis oleh Jon Stojan di bawah HackerNoon’s Business Blogging Program. Cerita ini didistribusikan sebagai rilis oleh Jon Stojan di bawah HackerNoon’s Business Blogging Program.

This story contains new, firsthand information uncovered by the writer.

Audio ini diproduksi dalam bahasa asli cerita!

Trust by Design: Embedding Governance secara langsung ke dalam Arsitektur AI

About Author

KOMENTAR

HANG TAG

ARTIKEL INI DISAJIKAN PADA

Related Stories

PROMISES FULFILLED.

Invest With Purpose: Interview with Arian Adeli, CEO at Rivo Trading

IdeaOps: Why Every Request is a Company Asset in Product Development

A Beginner’s Guide to Blockchain Programming

PROMISES FULFILLED.

Invest With Purpose: Interview with Arian Adeli, CEO at Rivo Trading

IdeaOps: Why Every Request is a Company Asset in Product Development

A Beginner’s Guide to Blockchain Programming

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps