Satu thread biasa muncul kerana syarikat-syarikat berlumba untuk membina dan melancarkan sistem AI.Mereka berfungsi dengan baik sehingga orang mula menggunakannya. Kemudian, seseorang dalam undang-undang bertanya, "Teruskan, boleh kita benar-benar menjelaskan bagaimana ini membawa kepada keputusan itu?" atau surat datang daripada pengawal. atau pelanggan membuat aduan. Dan tiba-tiba, pasukan terpaksa bergegas untuk menambah kawalan ketelusan, laluan audit, dan rangka kerja pengurusan kepada sesuatu yang tidak direka untuk menampung mereka pada mulanya. Masalahnya adalah bahawa pengambilan AI telah berlaku lebih cepat daripada kebanyakan syarikat boleh menangani dengan cara yang bertanggungjawab.Kami membuat pesawat semasa kami mengendalikannya.Dan sekarang kita tahu bahawa menambah pematuhan kepada sistem AI yang sudah digunakan adalah mahal, berisiko, dan sering digantung dengan kesilapan. AtScale, yang membantu perniagaan menubuhkan analisis yang diketuai, menyokong trend membina pengurusan terus ke dalam seni bina AI daripada menambah kawalan kemudian.Ia adalah idea yang mudah tetapi radikal: Bagaimana jika kepercayaan, keterbukaan, dan tanggungjawab bukan sahaja perkara yang perlu disemak keluar, tetapi dibina ke dalam reka bentuk? Perbatasan Pengurusan AI Retrofitted Kebanyakan organisasi merawat seperti mereka akan keselamatan (membina terlebih dahulu dan melindungi kemudian). pendekatan itu boleh mewujudkan isu-isu yang menjadi semakin sukar untuk dikendalikan dari masa ke masa. AI governance kepada pemerintahan Mengimplementasikan kawalan pentadbiran secara retroaktif boleh mewujudkan ketidaksetujuan apabila setiap pasukan membina model berdasarkan definisi mereka sendiri untuk istilah seperti "pendapatan" atau "pelanggan," dan lain-lain Apabila dua atau lebih pasukan cuba mengawal model-model tersebut, mereka biasanya mendapati ketidaksesuaian dalam cara mereka mendefinisikan istilah yang sama. Pemerintahan yang dijalankan selepas pelaksanaan mungkin tidak semestinya menjejaki bagaimana sistem AI benar-benar berfungsi.Pada masa pasukan pematuhan meninjau model, ia telah membuat beribu-ribu keputusan.Organisasi menambah alat AI yang boleh dijelaskan untuk menunjukkan apa yang dilakukan oleh sistem AI, bukan mengapa mereka membina ia dengan cara itu. Selain itu, alat-alat ini biasanya dipisahkan daripada infrastruktur data yang menyokong sistem AI, jadi menambah lapisan ini mungkin telah menyelesaikan masalah asal, tetapi ia juga cenderung untuk mewujudkan lebih kompleks. Dalam amalan, batasan-batasan ini menjadi paling jelas apabila organisasi cuba untuk bergerak , mendedahkan model pengurusan yang direka untuk persekitaran BI statik dan bukannya sistem autonomi, probabilistik. Inisiatif AI daripada percubaan kepada pengeluaran Inisiatif AI daripada percubaan kepada pengeluaran Apa yang dimaksudkan dengan "desain" dalam amalan Kepercayaan oleh reka bentuk adalah tentang mengintegrasikan sistem di mana pentadbiran dibina dari awal, bukan ditambah selepas fakta.Selepas digunakan, anda tidak perlu bertanya kepada diri sendiri, "Bagaimana kita akan mengaudit AI ini selepas ia dilancarkan?" Peralihan kepada kepercayaan oleh reka bentuk berlaku pada peringkat seni bina, sebelum apa-apa ramalan dibuat.Ini bermakna membina data dengan cara yang membuatnya transparan, boleh dilacak, dan bertanggungjawab.Sistem ini dimaksudkan untuk membuat logik di sebalik keputusan jelas dan mudah untuk memeriksa. Timing adalah faktor yang paling penting yang mendefinisikan kepercayaan oleh reka bentuk. Pengurusan tradisional cuba untuk memeriksa dan memperbaiki perkara-perkara selepas mereka telah dimasukkan ke dalam penggunaan. Kepercayaan oleh reka bentuk membuat pengurusan mudah. Jika logik perniagaan anda dibina dalam lapisan data, setiap alat dan model yang bekerja dengan data itu mengandungi peraturan yang sama, definisi, dan had. Anda mendapat kepatuhan tanpa penegakan, dan kepatuhan tanpa pemantauan yang berterusan. Peranan model semantik dalam AI Transparency Model semantik adalah cara yang berharga untuk meletakkan keyakinan ke dalam amalan melalui reka bentuk.Mereka memastikan bahawa semua sistem yang memerlukan ia berkongsi konteks yang sama, menyederhanakan definisi perniagaan, dan menunjukkan bagaimana metrik berkaitan satu sama lain. A ialah memastikan bahawa model AI sentiasa mengembalikan jawapan yang sama apabila diminta untuk "nilai seumur hidup pelanggan," sama ada permintaan itu berasal daripada papan panduan, skrip Python, atau alat AI generatif.Anda hanya perlu mendefinisikan logik sekali, dan anda boleh menggunakannya di mana-mana sahaja. Model Semantik Model Semantik Model semantik mengklarifikasi apa yang dimaksudkan dengan metrik dan bagaimana mereka digunakan. Mereka mengklarifikasi pengetahuan yang ambigu. Sebagai contoh, AtScale menggunakan pemodelan semantik sebagai asas bagi analisis yang bersedia untuk pentadbiran. Menurut Dave Mariani, CTO dan Co-Founder AtScale, “Ini memastikan bahawa ‘pelanggan aktif’, ‘leads berkelayakan’, atau ‘pendapatan bersih’ semua bermaksud perkara yang sama sama sama sama ada anda mengajukan soalan dalam agen AI di Slack, menginterogasi melalui bahasa semulajadi, atau menarik papan panduan.” Pengurusan Terbina dalam Arsitektur: Lineage, Tanggungjawab, Penjelasan Apabila pengurusan hidup dalam seni bina itu sendiri, anda mendapat hasil yang spesifik, boleh diukur dan bermakna sambil menguruskan AI secara bertanggungjawab. 
 
 
 
 Visibiliti ke dalam garis data: Model dengan semantik boleh menyediakan visibiliti tambahan ke dalam garis data (iaitu, di mana data itu berasal, bagaimana ia diubahsuai, dan sistem mana yang mengkonsumsinya), serta menjejaki setiap perhitungan dan sumbernya bagi seseorang yang mempertanyakan output AI. Logik keputusan yang bertanggungjawab: Meletakkan logik perniagaan dalam lapisan pusat membolehkan tanggungjawab dengan menyediakan kejelasan tentang siapa yang mencipta setiap peraturan, apabila mereka mencipta peraturan itu, dan mengapa. Hasil yang boleh dijelaskan: Apabila sistem AI memanfaatkan model semantik yang diketuai, logik menjadi lebih mudah difahami (dan oleh itu boleh dijelaskan).Selain menerangkan apa yang diramalkan oleh model, anda juga boleh menjelaskan mengapa data yang mendasari disusun dengan cara tertentu. Mengapa Ini Penting Untuk Etika, Peraturan, dan Risiko Perbincangan di sekeliling AI telah beralih daripada “kita boleh membina ini?” kepada “kami perlu membina ini?” dan “bagaimana kita mencipta bukti bahawa kita telah membina secara bertanggungjawab?”Organisasi perlu mengantisipasi banyak soalan yang sukar daripada pengawal, pelanggan, dan pekerja mengenai tanggungjawab, keadilan, dan kawalan. Kepercayaan melalui reka bentuk menyediakan peluang untuk menangani kebimbangan ini sebelum mereka meletus ke dalam krisis. Struktur pengurusan yang transparan dan boleh diaudit membolehkan kelihatan dan memantau proses pengambilan keputusan.Selain itu, ketelusan dalam struktur pengurusan membolehkan pengauditan untuk bias potensial dan menunjukkan kepada pemangku kepentingan bahawa sistem AI menggunakan logik yang konsisten dan didokumentasikan. AtScale percaya bahawa cabaran yang berkaitan dengan pengurusan semakin dikaitkan dengan mendefinisikan dan berkongsi makna data di pelbagai sistem.Jika lapisan semantik anda mendefinisikan bias atau definisi yang tidak jelas, setiap model AI yang dilatih pada lapisan itu akan mewarisi isu-isu tersebut. Reka bentuk keyakinan kerana AI menjadi lebih otonom Sistem AI membuat lebih banyak keputusan dengan kurang pengawasan manusia. trajektori itu tidak mungkin untuk membalikkan. yang bermakna tetingkap untuk pentadbiran retrofit menutup dengan cepat. Organisasi mungkin mendapati bahawa kepercayaan bukan sesuatu yang mereka boleh menambah kemudian tetapi mesti direka dalam seni bina dari awal. model semantik adalah sebahagian daripada set alat itu. tetapi prinsip yang lebih luas memegang: jika anda mahu AI anda boleh mempertahankan, mengaudit, dan percaya, anda perlu membina keupayaan itu ke dalam asas, bukan fasad. Soalan bukan sama ada untuk menguasai AI.Ia adalah sama ada anda telah membina seni bina untuk membuat pengurusan mungkin di tempat pertama. 
 
 Kisah ini telah didistribusikan sebagai rilis oleh Jon Stojan di bawah Program Blogging Perniagaan HackerNoon. Kisah ini telah didistribusikan sebagai rilis oleh Jon Stojan di bawah Program Blogging Perniagaan HackerNoon.

This story contains new, firsthand information uncovered by the writer.

Audio ini dihasilkan dalam bahasa asal cerita!

Kepercayaan oleh Reka Bentuk: Membina Pengurusan Langsung ke dalam Arsitektur AI

About Author

KOMEN

GANTUNG TANDA

ARTIKEL INI DIBENTANGKAN DALAM

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps