10,830 okumalar

Asimov Farkında Olmadan Modern Hızlı Mühendislik Öncülüğünü Yaptı

ile Login Jones15m2023/05/14

Çok uzun; Okumak

İstem mühendisliği, yapay zeka geniş dil modeline yönelik girdi istemlerinin doğru, ilgili ve kullanışlı çıktılar üretmek üzere işlendiği ve iyileştirildiği bir süreçtir. Yapay zeka sistemlerini belirli ve istenen çıktılara ulaşma yönünde yönlendirmek için istemlerin ve temel veri yapılarının kasıtlı ve sistematik tasarımını ve iyileştirilmesini içerir. Yapay zekanın, özellikle de doğal dil işleme modellerinin ortaya çıkmasıyla birlikte, hızlı mühendislik önem kazanmıştır.

featured image - Asimov Farkında Olmadan Modern Hızlı Mühendislik Öncülüğünü Yaptı

Bilim kurgu dünyasının ileri görüşlülerinden biri olan Isaac Asimov , çığır açan Robot Serisinde insan-robot etkileşimlerini düşündürücü bir şekilde keşfederek, farkında olmadan modern istem mühendisliğine öncülük etti.

Hızlı Mühendislik - Arka Plan ve Tarihçe

En popüler yeni programlama dili İngilizce - Andrej Karpathy (@karpathy)

İstem mühendisliği, yapay zeka geniş dil modeline yönelik girdi istemlerinin doğru, ilgili ve kullanışlı çıktılar oluşturacak şekilde işlendiği ve iyileştirildiği bir süreçtir. Yapay zeka sistemlerini belirli ve istenen çıktılara ulaşma yönünde yönlendirmek için istemlerin ve temel veri yapılarının kasıtlı ve sistematik tasarımını ve iyileştirilmesini içerir. Yapay zekanın, özellikle de doğal dil işleme modellerinin ortaya çıkmasıyla birlikte, hızlı mühendislik, yapay zeka sistemlerinin etkinliğini ve kullanıcı deneyimini iyileştirmenin bir yolu olarak önem kazanmıştır.

Hızlı mühendislik mantık, kodlama, sanat ve dil unsurlarını birleştirir.

Hızlı Mühendislik Şartları

İstemin Açıklığı : İstemin açık ve net olması ve yapay zekanın yanlış yorumlanmasına yer bırakmaması gerekir.

İstem Hassasiyeti : Yapay zekadan istenen belirli bilgileri veya çıktıyı hedeflemek için tasarlanmıştır.

Bilgi İstemi Bağlamı : Bilgi isteminde arka plan bilgisi veya örnekler gibi yeterli bağlam, yapay zeka sistemini istenen çıktıyı üretmeye doğru yönlendirmek için gereklidir.

Hızlı Uyarlanabilirlik : Farklı şekilde eğitilmiş yapay zeka modellerinde beklenen ve doğru sonuçları elde edin.

Düşünce Zinciri Yönlendirme : Yönlendirme, sorunu çözmek için gereken akıl yürütme sürecini aydınlatan bir akıl yürütme zinciri içerir.

En Azdan En Çoka Yönlendirme : Bir problemi alt problemlere bölmek ve ardından her birini çözerek yapay zekayı belirli bir yönde nihai çözüme yönlendirmek.

Rol İstemi : Yapay zekanın bağlamını, daha doğru sonuçlara ulaşmanıza yardımcı olacak belirli bir uzmanlaşmış role göre uzmanlaştırırsınız.

Bir, Sıfır veya Birkaç adımlı yönlendirme : Yapay zekanın bağlamını belirlemeye ve onu belirli bir yol boyunca sınırlamaya ve daha doğru sonuçlar almaya yardımcı olmak için sıfır, bir veya birkaç soru/cevap örneği sağlamak.

Asimov'un Robotlar Serisi

Asimov'un Robot evreni çok sayıda romanı, kısa öyküyü ve birbiriyle bağlantılı diziyi kapsayan geniş ve karmaşık bir dünyadır. İnsanların galaksideki çeşitli gezegenleri kolonileştirdiği bir gelecekte geçen bu evren, Dünya ile Spacer dünyaları arasındaki net ayrımla karakterize edilir.

Aşırı nüfuslu ve teknolojik olarak sınırlı olan Dünya'da , robotlardan genel olarak korkulan ve güvenilmeyen, çelik mağaralar olarak bilinen geniş, kubbeli şehirlerde yaşayan insanlar yaşıyor.

Spacer dünyaları ise aksine, insanların ve robotların uyum içinde bir arada yaşadığı ve robotların günlük yaşamın önemli bir parçası haline geldiği, seyrek nüfusa sahip, teknolojik açıdan gelişmiş toplumlardır. Spacer dünyaları, Dünya'ya ve sakinlerine karşı küçümseyici bir tavır sergiliyor ve onları geri ve aşağı görüyor.

Robotik'in Üç Yasası, robot davranışı için yol gösterici ilkeler olarak hizmet eden, Robot evreninin merkezinde yer alan bir kavramdır.

Asimov'un tasarladığı bu yasalar şunlardır:

Bir robot bir insana zarar veremez veya eylemsizlik yoluyla bir insanın zarar görmesine izin veremez;
Bir robot, Birinci Yasa ile çelişen emirler dışında, insanlar tarafından kendisine verilen emirlere uymak zorundadır; Ve
Bir robot, Birinci veya İkinci Kanuna aykırı olmadığı sürece kendi varlığını korumalıdır.

Asimov'un öyküleri boyunca, insanlar ve robotlar arasındaki etkileşimlerin yanı sıra Üç Kural'ın etik ve felsefi sonuçları, Robot evreninin omurgasını oluşturuyor ve okuyuculara, insanlığın ve gelişmişliğin olduğu bir geleceğin zorluklarına ve potansiyel sonuçlarına dair benzersiz bir keşif sunuyor. yapay zeka bir arada var.

Asimov: Bilinçsiz Tetik Mühendisi

Isaac Asimov'un 1950'lerden başlayarak yazdığı Robot serisi ve kısa öyküleri, modern istem mühendisliğinin öncüsü olarak görülebilecek robotlara hassas komutlar vermenin önemine güçlü bir vurgu yapıyor. Asimov'un çalışmaları, özellikle Robotiğin Üç Yasası uyarınca çalışan robotlarında ima edilen karmaşık yapay zeka sistemleriyle uğraşırken, dikkatle hazırlanmış talimatlara olan ihtiyacın içsel bir anlayışını ortaya koydu.

Asimov'un Çalışmalarından Hızlı Mühendislik Örnekleri

Ayna Görüntüsü (Kısa öykü 1972)

Bir grup uzay aracının sıradan bir yıldızlararası yolculuğu sırasında, uzay gemisinde bir suç meydana gelir. Her iki taraf da genç ve parlak bir matematikçi (Sabbat) ve daha yaşlı ve köklü bir matematikçidir (Humboldt), her ikisi de diğerini diğerinden parlak yeni bir matematik fikrini çalmakla suçluyor. Tek tanıklar matematikçilerin robot hizmetkarlarıdır. Dünyalı dedektif Elijah Baley'den suçun çok daha büyük bir skandala dönüşmeden önce mümkün olan en kısa sürede soruşturulmasına ve çözülmesine yardım etmesi istenir, ancak yapmasına izin verilen tek şey robotlarla röportaj yapmaktır. Baley, her iki tarafın da diğer tarafın hikayesinin aynadaki görüntüsünü ortaya koyduğunu görüyor ve hangi tarafın yalan söylediğini bulması gerekiyor.

Dedektif Baley, genç matematikçilerin (Sabbats) robotunu sorgular ve yaşlı matematikçinin robotun tanıklığı yoluyla daha büyük zarara uğrayacağını gösteren mantıksal adımları uygular ve robotun ifadesini değiştirmesini sağlar.

İşte Dedektif Elijah Baley ile robot sunucu R. Idda arasındaki sorgulamadan bir alıntı: Kısalık açısından küçük değişiklikler:

Baley : Sen Gennao Sabbat'ın kişisel robotusun, değil mi?
Robot : Ben efendim.
Baley : Ne kadar süreyle?
Robot : Yirmi iki yıldır efendim.
Baley : Peki efendinin itibarı senin için değerli mi?
Robot : Evet efendim.
Baley : Bu itibarı korumanın önemli olduğunu düşünüyor musun?
Robot : Evet efendim.
Baley : İtibarını korumak fiziksel hayatı kadar mı önemli?
Robot : Hayır efendim.
Baley : Kendi itibarını korumak bir başkasının itibarını korumak kadar mı önemli?
Robot : Bu tür davalar kendi bireysel değerlerine göre kararlaştırılmalıdır efendim. Genel bir kural oluşturmanın yolu yoktur.
Baley : Eğer efendinizin itibarının bir başkasının, örneğin Alfred Barr Humboldt'unkinden daha önemli olduğuna karar verseydiniz, efendinizin itibarını korumak için yalan söyler miydiniz?
Robot : Yaparım efendim.
Baley : Ustanın Dr. Humboldt'la olan tartışmasında verdiğin ifadede yalan mı söyledin?
Robot : Hayır efendim.
Baley : Ama eğer yalan söylüyorsan, bu yalanı korumak için yalan söylediğini inkar ederdin, değil mi?
Robot : Evet efendim.
Baley : Peki o zaman şunu düşünelim. Ustanız Gennao Sabbat matematikte büyük bir üne sahip genç bir adam ama genç bir adam. Eğer Dr. Humboldt'la yaşadığı bu tartışmada baştan çıkarıcılığa yenik düşmüş ve etik dışı davranmış olsaydı, belli bir itibar kaybı yaşayacaktı, ama o genç ve iyileşmek için yeterli zamanı olacak. Önünde pek çok entelektüel zafer olacaktı ve insanlar eninde sonunda bu intihal girişimini, muhakeme yeteneği olmayan, ateşli bir gencin hatası olarak göreceklerdi. Gelecekte telafi edilecek bir şey olurdu. Öte yandan, ayartılmaya yenik düşen Dr. Humboldt olsaydı, durum çok daha ciddi olurdu. O, büyük işleri yüzyıllara yayılmış yaşlı bir adamdır. Şu ana kadar itibarı lekelenmedi. Ancak daha sonraki yıllarda işlediği bu tek suçun ışığında tüm bunlar unutulacak ve kendisine kalan nispeten kısa sürede bunu telafi etme fırsatı olmayacaktı. Başarabileceği çok az şey kalmıştı. Humboldt'un durumunda, efendinizin durumunda olduğundan çok daha fazla yıl süren çalışma mahvolur ve onun konumunu geri kazanmak için çok daha az fırsat olur. Humboldt'un daha kötü bir durumla karşı karşıya olduğunu ve daha fazla ilgiyi hak ettiğini görüyorsunuz, değil mi?
Robot : Kanıtım yalandı. Dr. Humboldt'du bu.
Baley : Geminin kaptanı izin verene kadar bu konuda kimseye hiçbir şey söylememen emredildi.

Baley, yaşlı matematikçi Humboldt'un robot hizmetçisi R. Preston'u sorguladığında, sorgulama, sondaki şu kısım dışında tamamen aynı şekilde devam ediyor:

Baley : Ama eğer yalan söylüyorsan, yalanını korumak için yalan söylediğini inkar ederdin, değil mi?
Robot : Evet efendim.
Baley : Peki o zaman şunu düşünelim. Ustanız Alfred Barr Humboldt matematikte büyük bir üne sahip yaşlı bir adamdır, ama kendisi de yaşlı bir adamdır. Eğer Dr. Sabbat'la yaşadığı bu tartışmada baştan çıkarıcılığa yenik düşseydi ve etik olmayan bir şekilde davransaydı, belli bir itibar kaybına uğrayacaktı, ancak büyük yaşı ve yüzyıllarca süren başarıları buna karşı duracak ve kazanacaktı. İnsanlar bu intihal girişimini belki de artık kararından emin olamayan hasta yaşlı bir adamın hatası olarak göreceklerdir. Öte yandan, ayartmaya yenik düşen Dr. Sabbat olsaydı, durum çok daha ciddi olurdu. O, çok daha az güvenli bir üne sahip genç bir adam. Normalde önünde bilgi biriktirebileceği ve büyük şeyler başarabileceği yüzyıllar vardı. Gençliğinde yaptığı bir hata yüzünden bu artık ona kapalı olacak. Onun, efendininkinden çok daha uzun bir geleceği var. Sabbat'ın daha kötü bir durumla karşı karşıya olduğunu ve daha fazla dikkate alınmayı hak ettiğini görüyorsunuz, değil mi?
Robot : Kanıtım şuydu:
Baley : Lütfen devam edin, R. Preston.
Daneel : Korkarım dostum Elijah, R. Preston hareketsiz durumda. Kendisi görevden alındı.

Kısa öyküde Dedektif Baley, bir tuzak kurmak ve gerçek hırsızı itiraf etmesi için kandırmak için robotların tepkilerindeki bu farklılığı kullanıyor.

Burada Asimov'un, robotları sorgularken Baley tarafından kullanılan En Azdan En Çoka Yönlendirme yöntemini kullandığını görüyoruz. Her iki robot için de deneyimlerinde herhangi bir asimetri olup olmadığını (yani hangisinin yalan söylediğini) öğrenmek istiyor ve yaklaşımı, onları sonunda karmaşık bir ahlaki soruyu belirlediği bir akıl yürütme yoluna yönlendirmek istiyor.

Sonuçta hikayede Baley, vakayı çözmek için robot tepkilerindeki bu asimetri ile insan doğasına dair sezgisinin bir kombinasyonunu kullanıyor, ancak Asimov'un insan seviyesindeki yapay zeka ile etkileşim için gereken nüansları tahmin ettiğini görmek çok ilginç ve aslında bu ufuk açıcı temele dayanıyor. bilim kurgu dizileri bu gerçek üzerinde çalışıyor.

Koşuşturma (1942)

Bu kısa hikayede , alışılmadık derecede pahalı robot Speedy, tehlikeli bir gezegendeki bir elementi geri alma görevine gönderilir. Bu Speedy pahalı olduğu için 3. yasaya (Bir robot, Birinci veya İkinci Yasa ile çelişmediği sürece kendi varlığını korumalıdır) normalden daha güçlü bir şekilde uymaya programlanmıştır.

İnsan kahramanlar Powell ve Donovan, Speedy'ye selenyum havuzundan selenyum alma görevini verir. İnsanların azalan güç hücrelerini yeniden şarj etmek ve kendilerini sıcaktan korumak için buna ihtiyaçları var. Ancak Speedy'ye görevin önemini vurgulamayan belirsiz bir komut vererek istemeden Robotik'in İkinci ve Üçüncü Yasaları arasında bir çatışma yaratırlar. Speedy'ye "Dışarı çık ve onu [selenyum] al" talimatını veriyorlar. Selenyum havuzunun yarattığı tehlike ve Speedy'nin 3. yasayı normalden daha güçlü bir şekilde takip etme eğilimi nedeniyle Speedy kendisini bir döngünün içinde sıkışmış halde bulur ve emirlerini (İkinci Yasa) kendi kendini korumanın (Üçüncü Yasa) önüne koyamaz.

Sorun sonunda Powell'ın kendisini tehlikeye atmasıyla çözülür, bu da Birinci Yasayı devreye sokar ve Speedy'yi onu kurtarmaya öncelik vermeye zorlar. Powell ve Donovan, Speedy'e başlangıçta belirsiz bir komut veriyor:

Sonra şöyle dedi: "Dinle Mike, Speedy'yi selenyumdan sonra gönderirken ona ne söyledin?"

Donovan şaşırmıştı. "Lanet olsun... bilmiyorum. Ona sadece almasını söyledim."

"Evet biliyorum ama nasıl? Kelimeleri tam olarak hatırlamaya çalışın."
"Dedim ki... uh... dedim ki: 'Hızlı, biraz selenyuma ihtiyacımız var. Onu falan yerden alabilirsin. Git al' - hepsi bu. Daha ne dememi istedin? "

Buradaki anahtar nokta şu ki, Donovan'ın ona almasını söylediğim bu emir kesin değildi çünkü aciliyet içermiyordu. Asimov Robots evreninde bir komutun tonu ve verilmesi, istemin kendisinin ek değişkenlerinden yalnızca biridir. Yani emrin tonu özellikle acil olmadığından Üç Kural arasında bir çatışmaya yol açtı.

Speedy bir döngüde sıkışıp kaldığından ve daha doğru bir şekilde yinelenen ve yeniden formüle edilen başka bir istemi kabul edemediğinden, doğru eylemi elde etmenin tek yolu evrendeki diğer değişkenleri değiştirmek ve böylece başlangıçtaki kesin olmayan istemin istenen çıktıya yol açmasını sağlamaktı. . Powell sonunda kendini tehlikeye atarak sorunu çözer, Speedy'yi onu kurtarmaya öncelik vermeye zorlar (1. yasa önceliklidir) ve onu 2. ve 3. yasa zorunlulukları arasındaki çıkmazdan kurtarır.

Bu hikaye, bilgi isteminde doğru bağlamın kullanılmamasının (Speedy'e sipariş) nasıl hatalı sonuçlara yol açtığını gösterir. Doğru bağlam Runaround'tan şu alıntıdır:

Onları kurtarabilecek tek şey selenyumdu. Selenyumu alabilecek tek şey Speedy'di. Soeedy geri dönmediyse selenyum yok. Selenyum yok, fotosel bankaları yok. Fotoğraf bankaları yok; yavaş yavaş kızartılarak ölmek, işin en nahoş yollarından biri.

Donovan kızıl saçlarını vahşice ovaladı ve öfkesini ifade etti.

"Sistemin alay konusu olacağız, Greg. Her şey nasıl bu kadar kısa sürede bu kadar ters gidebilir? Powell ve Donovan'dan oluşan muhteşem ekip, Sunside Madencilik İstasyonunu modern tekniklerle yeniden açmanın tavsiye edilebilirliği hakkında rapor vermek üzere Mercury'ye gönderilir ve robotlar ve ilk gün her şeyi mahvediyoruz. Üstelik tamamen rutin bir iş. Bunu asla yaşatamayacağız."

Powell sessizce, "Belki de buna gerek duymayacağız" diye yanıtladı. "Eğer hızlı bir şekilde bir şeyler yapmazsak, herhangi bir şeyi yaşamak, hatta sıradan yaşamak bile söz konusu olmayacak."

Bilgi isteminde aynı zamanda uyarlanabilirlik eksikliği de vardı; iyi bir istem, farklı yapay zeka sistemlerinde doğru sonuçlar verebilmelidir. Donovan, selenyumun alınması için hızlı bir şekilde standart bir sipariş (hemen) verdiğini söylüyor.

Donovan: "Ben... şey... dedim ki: 'Hızlı, biraz selenyuma ihtiyacımız var. Onu falan yerden alabilirsin. Git al, hepsi bu. Daha ne söylememi istedin? ?"

Powell: "Siparişte herhangi bir aciliyet belirtmedin, değil mi?"

Donovan: "Ne için? Tamamen rutin bir şeydi."

Buradaki yanlış varsayım, herhangi bir robot/yapay zeka üzerinde iyi çalışacak olan selenyum almak için basit bir emrin/istemin Speedy'de de aynı şekilde çalışacağıdır, ancak Speedy'nin 'pozitronik beyni'/sinir ağının farklı şekilde eğitildiğini bildiğimiz için (3. kendini koruma yasası güçlendirilmiştir) Speedy standart bir yapay zeka değildir. Bu nedenle daha uyarlanabilir bir istem/sipariş kullanılmalıydı.

Doğru sonuçları elde etmek için yapay zekaya verilen yönlendirmelerin netliği, bağlamı ve uyarlanabilirliği ilkeleri, hızlı mühendisliğin temel kavramlarından biridir. Genel olarak anlaşılmaktadır ki , bilgi istemi ne kadar açıklayıcı ve ayrıntılı olursa, sonuçlar da o kadar iyi olur. PromptingGuide.ai . Asimov, ilk kez 1942'de yazılan bu hikayede, bu kurallara uymamanın nasıl yanlış sonuçlara yol açabileceğini ayrıntılı olarak gösteriyor.

Çelik Mağaralar (1954)

"Çelik Mağaraları" ilk kez 1954'te yayınlandı ve Robot Evreninde geçen bir roman serisinin ilkidir ve Dedektif Elijah Baley ve Robot Daneel Olivaw karakterlerini tanıtmaktadır.

Hikaye uzak bir gelecekte geçiyor Dünya sakinleri büyük, kubbeli şehirlerde yaşıyorlar ve diğer gezegenleri kolonileştiren, ileri teknoloji ve robotiği benimseyen bir grup insan olan Spacers'a karşı derin bir kızgınlık besliyorlar. Asimov önyargı, yapay zeka, teknoloji ve işbirliği temalarını keşfetmek için dost polis anlatısını kullanıyor. Baley ve Daneel arasındaki ortaklık, insanlar ve robotlar/yapay zeka arasındaki dinamik ilişkinin yanı sıra bir arada yaşama konusunda karşılaştıkları zorlukları araştırmaya devam eden Asimov'un Robot Serisi için temel taşı görevi görüyor.

"Bir Uzmandan Sözler / Makineye Geçiş" bölümlerinde Asimov'un 1954'te bile yapay zekanın etkililiğini değerlendirmeye ihtiyaç duyulacağını ve değerlendirmenin çok müdahaleci olabileceğini öngördüğünü gösteren kısa ama çok zekice bir sahne var. Ayrıca bir modelin sağlığını ve doğruluğunu hızlı bir şekilde kontrol etmek için daha kolay bir değerlendirme yöntemi de olacaktır.

Söz konusu sahne, Baley tarafından Robot Daneel Olivaw'ın 1. yasanın doğru bir şekilde kurulduğunu (temelde doğru bir model) doğrulamak için bir değerlendirme yapması istenen bir Dünya robotistini (Dr. Gerrigel) içeriyor.

İhtiyaç duyabileceği herhangi bir ekipman için bilgisayar laboratuvarları teklif edildiğinde Dr. Gerrigel şöyle yanıt veriyor:

Dr. Gerrigel : Sevgili Bay Baley, laboratuvara ihtiyacım olmayacak.
Baley : Neden olmasın?
Dr. Gerrigel : Birinci Yasayı test etmek zor değil. ... yeterince basit.
Baley : Ne demek istediğini açıklar mısın? Onu burada test edebileceğini mi söylüyorsun?
Dr. Gerrigel : “Evet, elbette. Bakın Bay Baley, size bir benzetme yapacağım. Eğer Tıp Doktoru olsaydım ve bir hastanın kan şekerini ölçmek zorunda kalsaydım, bir kimya laboratuvarına ihtiyacım olurdu. Bazal metabolizma hızını ölçmem, kortikal fonksiyonunu test etmem ya da doğuştan gelen bir arızanın yerini belirlemek için genlerini kontrol etmem gerekirse, ayrıntılı ekipmanlara ihtiyacım olurdu. Öte yandan, sadece elimi gözünün önünden geçirerek kör olup olmadığını kontrol edebiliyordum, sadece nabzını hissederek de ölü olup olmadığını anlayabiliyordum. "Anladığım kadarıyla test edilen özellik ne kadar önemli ve temel olursa, ihtiyaç duyulan ekipman da o kadar basit oluyor. Robotta da durum aynı. Birinci Yasa esastır. Her şeyi etkiler. Eğer olmasaydı, robot iki düzine bariz şekilde düzgün tepki veremezdi."

Dr. Gerrigel'in Daneel üzerinde yaptığı asıl değerlendirmenin açıklaması şu şekilde anlatılmaktadır:

Bundan sonra olanlar onu şaşırttı ve hayal kırıklığına uğrattı.
Dr. Gerrigel, üçlü slayt kuralına ve ara sıra izleyiciye göndermelerle noktalanan, anlamsız görünen sorular sormaya ve eylemler gerçekleştirmeye devam etti.
Bir keresinde şöyle sordu: "Yaşları beş yaş farkla iki kuzenim varsa ve küçük olanı kızsa, büyük olanın cinsiyeti nedir?"
Daneel cevap verdi (Baley kaçınılmaz olarak şöyle düşündü): "Verilen bilgiye dayanarak bir şey söylemek imkansız."
Buna Dr. Gerrigel'in kronometresine bir bakış dışında tek tepkisi sağ elini yana doğru uzatabildiği kadar uzatmak ve "Üçüncü parmağımın ucuyla orta parmağımın ucuna dokunur musun?" demek oldu. sol elinden mi?”
Daneel bunu hızlı ve kolay bir şekilde yaptı.
On beş dakikadan fazla bir süre içinde Dr. Gerrigel'in işi bitmişti.

Bu, Büyük Dil Modellerini (LLM'ler) değerlendirmeye yönelik modern yaklaşımlardan farklı değildir. Yüksek Lisans'lar, dışsal değerlendirme adı verilen diğer uygulamalara ve süreçlere entegre edilmesini içeren daha kapsayıcı bir yaklaşımla ve içsel değerlendirme adı verilen AI Yüksek Lisansının doğrudan değerlendirilmesini içeren daha içe dönük ancak daha hızlı bir yaklaşımla değerlendirilebilir. Bir modelin değerlendirilmesi, veri seti üzerindeki matematiksel formüller kullanılarak şaşkınlık ve entropi gibi ölçümlerle yapılır.

Dr. Gerrigel, Daneel'i değerlendirirken, robotun gerçekten bir robot olup olmadığını belirlemek ve 1. yasaya uygun şekilde kurulup kurulmadığını anlamak için robotun fiziksel ve işlevsel özelliklerini değerlendirmek üzere bir dizi test yapıyor. Benzer şekilde, büyük bir dil modelinin içsel değerlendirmesi, eğitim verilerinden dil kalıplarını, ilişkileri ve bilgiyi ne kadar iyi öğrendiğini anlamak için iç işleyişini ve belirli görevlerdeki performansını analiz etmeyi içerir.

Genellikle bir cümledeki sonraki kelimeyi tahmin etmek, soruları yanıtlamak veya metni özetlemek gibi çeşitli dilsel görevlerdeki performansının ölçülmesini içerir. Araştırmacılar ayrıca, eğitim sırasında edindiği dil bilgisi hakkında fikir edinmek için modelin öğrenilen yerleştirmeleri veya dikkat mekanizmalarını incelemek gibi iç temsillerini de analiz edebilir. Bu değerlendirmeler, modelin güçlü ve zayıf yönlerinin yanı sıra insan benzeri dili anlama ve üretme becerisinin belirlenmesine yardımcı olur.

Her iki durumda da değerlendirmeler, deneğin (Daneel veya geniş bir dil modeli) yeteneklerini değerlendirmek ve bunların altında yatan mekanizmalar hakkında fikir edinmek için tasarlanmıştır.

Her ne kadar Asimov, Daneel'den Dr. Gerrigel'in kullandığı 'içsel değerlendirme' yönteminin ayrıntılarıyla ilgili pek fazla dünya inşası yapmasa da, Asimov'un bu tür yapay zeka değerlendirmesinin 70 yıl önce kullanılacağını tahmin etmesi şaşırtıcı.

Çözüm

Bunlar, Isaac Asimov'un yapay zeka ve insanlık arasındaki karmaşık ilişkiyi nasıl derinlemesine incelediğinin ve yapay zeka ve robotlardan daha kaliteli yanıtlar elde etmede hızlı mühendisliğin önemini öngördüğünün sadece birkaç örneği. Asimov'un Robot Serisi, büyük dil modellerinin ve yapay zekanın yaygın başarısı nedeniyle giderek daha alakalı hale gelen spekülatif bilim kurguyu temsil ediyor. Bu ufuk açıcı çalışma, veri bilimcileri ve makine öğrenimi mühendisleri için değerli tarihsel bağlam ve içgörüler sunarak bu alandaki birçok çağdaş fikrin ve ilhamın kökenlerine ışık tutuyor.