Sorumlu Yapay Zeka Yönetişimine Yönelik Stratejiler

Yapay zekanın yaygın şekilde benimsenmesi, kullanımını yönetmek, yönetmek ve güvence altına almak için metodik korkulukları gerektirir.

Son zamanlarda dünya, dijital ortamın her alanına nüfuz eden yapay zeka kullanımında önemli bir artışa tanık oldu. Otomatik işlemeden gelişmiş algoritmalara kadar yapay zeka, yavaş yavaş günlük hayatımızın ve iş operasyonlarımızın ayrılmaz bir parçası haline geliyor. Yapay zeka teknolojilerinin çeşitli endüstri ve sektörlerde kullanımı eşi benzeri görülmemiş ölçekte ve katlanarak artıyor. Bu aynı zamanda toplum üzerinde derin etkilere yol açtığı gibi, bireylerin temel haklarına yönelik tehlikelere ve risklere de yol açmıştır.

Yapay Zeka Nedir?

Yapay Zeka (AI), genellikle insanlar tarafından gerçekleştirilen veya insanın bilişsel yeteneklerini gerektiren görevleri yerine getirebilen sistemler oluşturmak için çeşitli makine öğrenimi, mantık ve bilgiye dayalı teknik ve yaklaşımları kapsayan geniş bir alandır. Bu, doğal dil işleme, görüntü tanıma, problem çözme ve karar verme gibi görevleri içerir. Avrupa Birliği Yapay Zeka Yasası ve OECD Yapay Zeka Risk Yönetimi Raporu uyarınca, yapay zeka sistemi, açık veya örtülü hedefler için, aldığı girdilerden tahminler, içerik, tavsiyeler gibi çıktıların nasıl üretileceği sonucunu çıkaran makine tabanlı bir sistemdir. veya fiziksel veya sanal ortamları etkileyebilecek kararlar.

İki geniş sınıflandırma vardır:

• Ayırt edici yapay zeka yalnızca veri sınıflandırması yapabilir. Örnek: lojistik regresyon, k-en yakın komşular, destek vektör makineleri ve gradyan destekli karar ağaçları. Evrişimli sinir ağları (CNN) ve uzun kısa süreli bellek (LSTM) birimleri gibi sinir mimarileri genellikle çok uzun ve değişken uzunluktaki girdiler için makul boyutta ayırt edici modeller oluşturmak için kullanılır.
• Üretken yapay zeka - üzerinde eğitim aldığı içeriğe benzeyen yeni içerik üretir. Örnek: Üretken Rekabetçi Ağlar (GAN'lar), yayılma modelleri ve otoregresif modeller.

GAN'lar, iki sinir ağından, bir üreteç ve bir ayırıcıdan oluşan makine öğrenimi çerçeveleridir. Jeneratör, kendisine beslenen rastgele gürültüyü hedef formatta şekillendirerek veri üretir. Jeneratörler tek başına çıktılarının kalitesini değerlendiremezler. Ayırıcı modelinin devreye girdiği yer burasıdır. Ayırıcı, gerçek veriler ile jeneratör tarafından üretilen sahte veriler arasında ayrım yapmayı amaçlar. Ayırıcının gerçek ve üreteç verilerini ayırt etmek üzere eğitilmesi ve jeneratörün giderek daha gerçekçi veriler üreterek ayırıcının kafasını karıştırması için eğitilmiş olmasıyla ikisi eş zamanlı olarak eğitilir. Eğitim ilerledikçe her model görevinde giderek daha iyi hale gelir ve bu da oluşturucunun gerçekçi görünen içerik oluşturabilmesini sağlar. GAN'larla ilgili zorluk onları eğitmektir. Örneğin, GAN'lar, eğitim sırasında model çökmesine maruz kalabilir; burada jeneratör yalnızca ayrıştırıcının kafasını karıştırmaya yetecek, ancak yararlı olmaya yetmeyecek kadar küçük bir örnek çeşitliliği oluşturmayı öğrenir. Yayılma modelinin devreye girdiği yer burasıdır. Temel olarak, yayılma modelleri, gürültülü alan versiyonlarından eğitim verilerini kurtarmak için eğitilir. Eğitimden sonra difüzyon, saf gürültü girdisinden tamamen yeni görüntüler üretebilir. Aşamalı bir gürültü giderme süreci yoluyla yinelemeli bir görüntü oluşturur.

Daha sonra, Otoregresif modeller istatistiklere dayanmaktadır. Önceki öğelere bağlı bir dizideki bir sonraki öğenin olasılığını modelleyerek veri dizileri üretir. Daha sonra bir sonraki öğe bu dağılımdan rastgele seçilir; bir "sıcaklık" parametresi kullanılarak sonuçların daha belirleyici veya daha rastgele olması sağlanabilir ve süreç tekrarlanır. Otoregresif modeller için popüler sinir ağı bileşenleri arasında LSTM'ler ve transformatörler (sinir ağlarının çok büyük hacimli metin eğitim verilerindeki kalıpları öğrenmesine olanak tanıyan) bulunur. Kendisine beslenen bir diziyi tamamlamak yerine, otoregresif modellere bir hizalama aşaması ekliyoruz. Burada model ayrıca insan geri bildirimine göre belirli girdi-çıktı çiftlerini diğerlerine tercih edecek şekilde eğitilir. Örneğin, Yüksek Lisans hizalamasında, modellere sorulara ve komutlara nasıl yanıt verileceğini başarıyla öğretti (pekiştirmeli öğrenme).

Yapay Zekanın Temel Faydaları

• Verimlilik için Otomasyon - tekrarlanan görevleri otomatikleştirerek üretkenliğin ve operasyonel verimliliğin artmasını sağlar;
• Veriye Dayalı İçgörüler - büyük veri kümelerinden değerli bilgiler elde ederek işletmelere veriye dayalı karar verme yoluyla rekabet avantajı sağlar;
• Yaratıcı Problem Çözme - belirsiz veya eksik talimatlar verildiğinde bile yenilikçi çözümler ve fikirler üreterek problem çözmeyi ve yaratıcılığı geliştirin;
• İçerik Oluşturma - içerik pazarlaması, reklamcılık ve müşteri katılımından yararlanarak yüksek kaliteli içeriği hızla ve geniş ölçekte üretin;
• Otonom Karar Verme: Önceki nesil yapay zeka ile mümkün olmayan düzeyde otonom karar alma olanağı sağlar.

Üretken Yapay Zekada Verinin Önemi

Veriler, üretken yapay zeka modellerinin, özellikle de Büyük Dil Modellerinin (LLM'ler) geliştirilmesinde merkezi bir rol oynar. Bu modeller, eğitim ve iyileştirme için çok miktarda veriye dayanır. Örneğin, OpenAI'nin ChatGPT'si, dijitalleştirilmiş kitaplar ve Wikipedia girişleri de dahil olmak üzere internetten toplanan 45 terabaytın üzerinde metin verisinden oluşan kapsamlı bir veri kümesi üzerinde eğitildi. Bununla birlikte, üretken yapay zekada veri toplamaya yönelik yoğun ihtiyaç, kişisel verilerin bireylerin rızası olmadan yanlışlıkla toplanması ve kullanılması da dahil olmak üzere önemli endişelere yol açabilir. Google AI araştırmacıları, genellikle büyük olan ve çeşitli yerlerden alınan bu veri kümelerinin, kamuya açık verilerden türetilmiş olsa bile hassas kişisel bilgiler içerebileceğini de kabul etti.

Veri toplama için genel olarak iki ortak kaynak vardır:

• Herkese Açık Erişilebilir Veriler - Web kazıma, veri toplamak için kullanılan en yaygın yöntemdir. Kamuya açık web sayfalarından büyük miktarda bilginin çıkarılmasını içerir. Bu veriler daha sonra eğitim amacıyla kullanılır veya satış için yeniden kullanılabilir veya diğer yapay zeka geliştiricilerinin kullanımına ücretsiz olarak sunulabilir. Web kazıma yoluyla elde edilen veriler genellikle kullanıcılar tarafından Facebook, Twitter, LinkedIn, Venmo ve diğer web siteleri gibi sosyal medya platformlarında paylaşılan kişisel bilgileri içerir. Bireyler, potansiyel işverenlerle bağlantı kurmak veya yeni arkadaşlar edinmek gibi çeşitli nedenlerle kişisel bilgilerini bu tür platformlarda paylaşabilirken, genellikle verilerinin üretken yapay zeka modellerini eğitmek için kullanılmasını düşünmezler.

  
  

• Kullanıcı Verileri - Kullanıcılar tarafından sohbet robotları gibi üretken yapay zeka uygulamalarıyla paylaşılan veriler, veri sahiplerinin bilgisi veya rızası olmadan saklanabilir ve eğitim amacıyla kullanılabilir. Örneğin, sağlık hizmetleri tavsiyesi, terapi, finansal hizmetler ve diğer hizmetleri sağlayan sohbet robotlarıyla etkileşime giren kullanıcılar hassas kişisel bilgileri ifşa edebilir. Bu tür sohbet robotları, kullanıcı verilerinin "hizmeti geliştirmek ve iyileştirmek" için kullanılabileceğini belirten hizmet şartları sunabilirken, eleştirmenler üretken yapay zeka modellerinin kullanıcılardan olumlu onay alması veya bilgilerin toplanması, kullanılması ve saklanması hakkında net açıklamalar sunması gerektiğini savunabilir. Kullanıcı bilgisi.

Birçok kuruluş, tekliflerini geliştirmek için üretken yapay zeka modellerini ürünlerine veya hizmetlerine de yerleştirmiştir. Bu tür bir entegrasyon, bazı durumlarda, bu modellerin eğitimi ve ince ayarı için tüketicilerin kişisel verileri de dahil olmak üzere bir veri kaynağı olarak da hizmet edebilir.

Potansiyel tehditler şunları içerir:

• Bireylerin ve toplumların izinsiz kitlesel gözetimi
• Bireylerin kişisel bilgilerinin beklenmedik ve kasıtsız ihlalleri
• Kişisel verilerin çeşitli amaçlarla büyük ölçekte manipüle edilmesi
• Bireylerin inandırıcı ve manipülatif derin sahtekarlıklarının üretilmesi
• Yasal ve sosyal açıdan önemli sonuçlarda kültürel önyargıların, ırkçılığın ve önyargıların etkilerini maskelerken güçlendirmek
• Amaç sınırlaması, depolama sınırlaması ve veri minimizasyonuna ilişkin veri koruma ilkelerinin ihlali
• Belirli birey gruplarına karşı ayrımcılık ve toplumsal önyargı
• Dezenformasyon ve gerçeğe aykırı bilgilerin sunulması
• Fikri mülkiyet ve telif hakkı ihlalleri

Yapay Zeka Yönetişimi

Üretken yapay zeka teknolojilerinden yoğun biçimde etkilenen bir döneme girerken, yapay zekanın yönetimi, yasal ve etik gereksinimleri karşılarken verilerin ve yapay zekanın güvenli kullanımını sağlamak isteyen işletmeler için giderek daha hayati bir öncelik haline geliyor. Ekim 2023'te, yapay zekanın "güvenli, emniyetli ve güvenilir" kullanımı, ABD'deki Biden-Harris yönetiminden bir idari emri garantiledi; bu karar, dünyanın ilk kapsamlı yapay zeka yasası olan AB'nin Yapay Zeka Yasası'nın hemen ardından gelen bir yayındı. kitaplara ilişkin yasa. Çin, Birleşik Krallık ve Kanada gibi diğer ülkeler ve hatta bazı ABD eyaletleri yapay zekada emniyet, güvenlik ve şeffaflığın önemini vurgulayan yasalar önererek veya yürürlüğe koyarak kendi çizgilerini kuma çizdiler.

Ürün yöneticileri ve genel olarak kurumsal liderlerin, yapay zekayı iş uygulamalarına dahil ederken bu güvenli yapay zeka kullanımı zihniyetini benimsemeleri gerekir. Etkili yapay zeka yönetişimi, kontrol ve gözetim sağlayarak işletmelerin yapay zeka hizmetlerini sorumlu, etik bir şekilde ve hem iç politikalara hem de dış düzenlemelere uygun olarak belgelenmiş, verimli ve kanıtlanabilir bir şekilde geliştirmelerini ve yönetmelerini sağlar. İşletmelerin güveni korumasını ve aynı zamanda hesap verebilirliği artırmasını sağlayacaktır.

Yapay zeka yönetişimi, yapay zekanın kullanımını yöneten, yöneten ve izleyen çerçevelerin, kuralların, standartların, yasal gerekliliklerin, politikaların ve en iyi uygulamaların uygulanmasını ifade eder. Yasal ve etik gereklilikleri karşılamak için yapay zeka faaliyetlerinin yönlendirilmesini, yönetilmesini ve izlenmesini içerir. Etik açıdan bakıldığında, işletmelerin müşteri güvenini oluşturmak ve sürdürmek için yapay zeka modellerinde yüksek düzeyde şeffaflık, emniyet ve güvenlik sağlamaya odaklanması gerekiyor. Yasal açıdan bakıldığında, işletmelerin yasal gerekliliklere uyması ve düzenleyici makamları memnun etmesi gerekir, aksi takdirde önemli mali cezalar ve marka itibarının zedelenmesi riskiyle karşı karşıya kalırlar.

McKinsey araştırması, üretken yapay zekanın gelecekte yıllık değere 2,6 ila 4,4 trilyon dolar arasında katkıda bulunabileceğini tahmin ediyor. Ancak bu potansiyeli gerçekleştirmek için kuruluşların yapay zekayı şeffaf, güvenli ve güvenilir bir şekilde uygulamaları gerekir. Aslında Gartner, güvenli ve güvenilir yapay zekayı başarılı bir şekilde operasyonel hale getiren kuruluşların, yapay zekayı benimseme ve iş hedeflerine ulaşma oranlarında %50'lik bir artış görebileceğini öne sürüyor.

İşletmelerde Yapay Zeka Yönetişiminin Temel Faktörleri

Bunlar aşağıdakileri içerir:

• Yenilik - Yapay zeka yönetişimi, sorumlu yeniliği teşvik eden yapılandırılmış ancak esnek bir çerçeve sağlar.
• Verimlilik - Yapay zeka geliştirme ve dağıtımını standartlaştırıp optimize eden yapay zeka yönetişimi, kuruluşların yapay zeka ürünlerini pazara daha hızlı sunarken maliyetleri düşürmesine olanak tanır.
• Uyumluluk - Yapay zeka yönetişimi, yapay zeka çözümlerini ve karar alma sürecini endüstri düzenlemeleri ve küresel yasal standartlarla uyumlu hale getirir. Bu, yapay zeka uygulamalarının yasal gereklilikleri karşılamasını, işletmenin yasal risklerini azaltmasını ve mevzuata uyumluluğunu artırmasını sağlar.
• Güven - Yapay Zeka yönetişimi, güvenilir ve şeffaf Yapay Zeka sistemleri oluşturmaya odaklanır. Bu uygulama, müşteri hakları ve memnuniyetinin korunması, aynı zamanda kurumun marka değerinin korunması açısından büyük önem taşımaktadır. Güvenilir yapay zeka, düzenleyici eylem riskini azaltırken müşteri güvenini ve sadakatini artırır.

Gartner tarafından geliştirilen yapay zeka yönetişim çerçevesinin bir örneği, yapay zeka kullanımında risklerin azaltılmasına ve veri gizliliği yasalarıyla uyum sağlanmasına odaklanan AI TRiSM - Yapay Zeka Güven, Risk ve Güvenlik Yönetimi çerçevesidir. Dört sütunu vardır: 1) Açıklanabilirlik ve model izleme - şeffaflığı ve güvenilirliği sağlamak için. 2) Model operasyonları - Yapay zeka modellerini yaşam döngüleri boyunca yönetmek için süreç ve sistemler geliştirmeyi içerir. 3) Yapay zeka uygulama güvenliği - modelleri güvende tutmak ve siber tehditlere karşı korumak için. 4) Model gizliliği - veri akışlarını gizlilik yasalarına (veri amacı/depolama sınırlamaları, veri minimizasyonu/koruma ilkeleri) göre yöneterek yapay zeka modellerini eğitmek veya test etmek için kullanılan verileri korumak. Genel olarak TRiSM, yapay zeka modellerinin güvenilirliğini, güvenilirliğini, güvenliğini ve gizliliğini geliştirmeye yönelik bir yaklaşımdır.

Daha İyi Yapay Zeka Yönetişimi İçin Gerçekleştirilecek Eylemler

• Yapay zeka sistemlerine yönelik gelişmiş görünürlük - Yapay zeka modellerini keşfedin ve kataloglayın. Buradaki amaç, genel bulutlarda, özel ortamlarda ve üçüncü taraf uygulamalarda kullanılan tüm yapay zeka modellerinin ayrıntılarını belirleyip kaydederek işletmelere yapay zeka kullanımlarına ilişkin eksiksiz ve kapsamlı bir genel bakış sunmaktır. Belgelenmemiş veya onaylanmamış yapay zeka modelleri de dahil olmak üzere modellerin amaçlarını, eğitim verilerini, mimarisini, girdilerini, çıktılarını ve etkileşimlerini kapsar. Bu bilgilerin merkezi bir kataloğunu oluşturmak, şeffaflığı, yönetimi ve yapay zekanın etkili kullanımını geliştirerek daha iyi kararları ve risk yönetimini destekler. Tüm AI uygulamalarını ortaya çıkarmak ve kuruluş içindeki operasyonel siloları ortadan kaldırmak için gereklidir.

  
  

• Kapsamlı Risk Değerlendirmesi - riskleri değerlendirin ve yapay zeka modellerini sınıflandırın. Buradaki amaç, yapay zeka sistemlerinin risklerini geliştirme öncesi ve geliştirme aşamalarında değerlendirmek ve risk azaltma adımlarını uygulamaktır. Model açıklamaları, kullanım amacı, sınırlamalar ve etik hususlar dahil olmak üzere yapay zeka modelleri için önceden tanımlanmış risk değerlendirmeleri sunan model kartlarından yararlanmayı içerir. Bu risk derecelendirmeleri, toksisite, kötü niyetlilik, önyargı, telif hakkı hususları, halüsinasyon riskleri ve hatta enerji tüketimi ve çıkarım çalışma süresi açısından model verimliliği gibi hususları kapsayan kapsamlı ayrıntılar sağlar. Bu derecelendirmelere dayanarak kuruluşlar, hangi modellerin dağıtım ve kullanım için onaylanacağına, hangi modellerin engelleneceğine ve hangi modellerin tüketilmeden önce ek korkuluklara ihtiyaç duyacağına karar verebilir.

  
  

• Şeffaf Veri Uygulamaları - verileri yapay zeka akışlarıyla eşleştirin ve izleyin. Veriler eğitim, ayarlama ve çıkarım için yapay zeka sistemlerine akar ve çıktı olarak veriler yapay zeka sistemlerinden dışarı akar. İşletmelerin yapay zeka modelleri ve yapay zeka sistemleri etrafındaki tüm bağlamı ortaya çıkarmasına olanak tanır. Bu, yapay zeka modellerini ve sistemlerini ilgili veri kaynakları ve sistemleri, veri işleme, SaaS uygulamaları, potansiyel riskler ve uyumluluk yükümlülükleriyle eşlemek anlamına gelir. Bu kapsamlı haritalama, gizlilik, uyumluluk, güvenlik ve veri ekiplerinin bağımlılıkları belirlemesine, potansiyel başarısızlık noktalarını belirlemesine ve yapay zeka yönetiminin reaktif yerine proaktif olmasını sağlamasına olanak tanır.

  
  

• Sağlam Güvenlik Kontrolleri - verileri yapay zeka kontrollerine uygulayın. Yapay zeka modellerine yerleştirilen ve bu modellerden oluşturulan verilerin güvenliği ve gizliliği için sıkı kontrollerin oluşturulmasına olanak tanır. Bu tür kontroller, sırasıyla güvenlik çerçeveleri ve gizlilik yasalarının zorunlu kıldığı veri güvenliği ve gizlilik kontrollerini içerir. Örneğin, tanımlanabilir değerleri veri kümelerinden çıkarmak için düzeltme veya anonimleştirme teknikleri uygulanabilir. Kurumsal veri politikaları ve kullanıcı yetkileriyle uyumlu olarak verilerin yapay zeka modellerine güvenli bir şekilde alınmasını sağlar. Hassas veriler LLM modellerine girerse bunun güvenliğini sağlamak son derece zor hale gelir. Benzer şekilde, kurumsal veriler vektör formlarına dönüştürülürse güvenliğinin sağlanması daha zor hale gelir. Veri oluşturma ve çıktı tarafında, yapay zeka etkileşimlerini korumak, harici saldırılara, kötü niyetli dahili kullanıma ve yanlış yapılandırmalara karşı dikkatli olunmasını gerektirir. Yapay zeka asistanları, botları ve aracılarıyla güvenli görüşmeler sağlamak için LLM güvenlik duvarları, zararlı istemleri, alımları ve yanıtları filtreleyecek şekilde dağıtılmalıdır. Bu güvenlik duvarları, LLM'ler için OWASP İlk 10'da ve NIST AI RMF çerçevelerinde vurgulanan, hızlı enjeksiyon saldırıları ve veri sızdırma saldırıları dahil olmak üzere çeşitli güvenlik açıklarına karşı savunma yapabilmelidir.

  
  

• Düzenleyici Çerçevelere Özenli Uyum - düzenlemelere uyun. Yapay zeka sistemlerini kullanan işletmelerin yapay zekaya özgü düzenleme ve standartların yanı sıra yapay zeka kullanımına ilişkin veri gizliliği yükümlülüklerine uyması gerekir. Bu zorlu uyumluluk sürecini kolaylaştırmak için işletmeler, yapay zekaya özel olarak tasarlanmış kapsamlı uyumluluk otomasyonundan yararlanabilir. Böyle bir sistem, diğerlerinin yanı sıra NIST AI RMF ve AB AI Yasası da dahil olmak üzere geniş kapsamlı bir küresel AI düzenlemeleri ve çerçeveleri kataloğu sunar. Kullanıcıların her proje için gerekli kontrolleri belirlemesine ve uygulamasına olanak tanıyarak, kendi çerçevesi içerisinde farklı yapay zeka projelerinin oluşturulmasını kolaylaştırır. Bu süreç, uyumluluğun sağlanmasına yönelik bütünsel bir yaklaşım sağlayan paydaşlardan girdi gerektiren hem otomatik kontrolleri hem de değerlendirmeleri içerir.

Yapay Zeka Yönetişimini Uygulamanın Avantajları

Yapay zeka yönetimini başarıyla uygulayan kuruluşlar başarıya ulaşacak

a) Onaylanmış ve onaylanmamış yapay zeka sistemlerine ilişkin tam şeffaflık

b) Yapay zeka risklerinin net görünürlüğü

c) Yapay zeka ve verilerin haritalanması

d) Güçlü otomatik AI + Veri kontrolleri

e) Küresel yapay zeka düzenlemelerine uygunluk.

Genel olarak yapay zekanın güvenli kullanımını sağlamamız gerekiyor. Güvenliğe öncelik vermek, kısa vadede ticari kârın biraz azalmasıyla sonuçlansa da, orta ve uzun vadeli faydalar oldukça büyüktür.