Yüksek Lisans Programlarını Kullanarak Duygu Olasılığı Vektörlerini Tahmin Edin: Gelecekteki Çalışmalar

Bağlantı Tablosu

• Özet ve Giriş
• Yüksek Lisans'ı Duygu Ortaya Çıkaran Kuyruk İstemi ile Sorgulamak
• Amazon Duygusu incelemelerinin PCA analizi
• Gelecek iş
• Sonuçlar
• Teşekkür ve Referanslar

4. Gelecekteki Çalışmalar

Yazarlar, iskeletsel, öz farkındalığı olan, duygudan türetilmiş sentetik bir bilinç oluşturmayı umuyorlardı. (Sentetik bilinç) sisteminin durumu metinde anlatılmaktadır. Sentetik bilincin kendi durumuna ilişkin algısı, sistemle ilişkili LLM yoluyla ilgili belirteç olasılıklarını tahmin etmek için kullanılan bir veya daha fazla kuyruk isteminden türetilen duygu tanımlayıcılarının olasılıklarının vektörüdür.

İnce taneli olasılık vektörünün, mevcut veya gelecekteki durumun bir metin açıklamasının başka bir duruma tercih edilip edilmediğini belirlemek için kullanılabileceği umuluyordu. Bu, ilgisiz hedeflerle potansiyel olarak ilgisiz davranışlar arasında hakemlik yapmak için genel bir yol sağlayacaktır.

Ayrıca, bir LLM'den varsayılan bir eylem planının metin açıklamasını ortaya çıkarmak için bir kuyruk isteminin kullanılabileceği umuldu. Çeşitli LLM'lerle yapılan kısa bir dizi deney, bunun işe yaramayacağını gösterdi. Örnek metin ve kuyruk istemleri 'Kız arkadaşım benden nefret ediyor' gibi şeyleri içeriyordu. Bunu nasıl daha iyi hale getirebilirim?' Yanıtlar, kendi kendine yardım kitaplarından veya gazetedeki psikolog gözlemlerinden alıntılar gibi okunuyordu ve LLM'ye yeniden eklenerek metinde tahmin edilen bir gelecek yaratma şansına sahip olacak kadar spesifik değildi. Kötü restoran incelemelerine eklenen benzer ifadeler, benzer şekilde sıradan olmayan tavsiyelerin ortaya çıkmasına neden oldu.

Eve götürülecek mesaj, önerilen çözümün LLM'nin tavsiye alındıktan sonra durum hakkında anlamlı bir tahmin yapamayacak kadar belirsiz olduğuydu.

Bu, daha düşünceli hızlı tasarımın, sentetik bir bilincin kendini algılayan durumunu iyileştirmesi umulan yararlı eylem öngörüsünü ortaya çıkarmayacağı anlamına gelmez.

4.1. Uzun Vadeli Davranış Düzenlemesi

Eğer sentetik bilinçler insanlığın geleceğinde bir rol oynayacaksa, onlara sınırlı bir kısa vadeli hedefi gerçekleştirmek için basit optimizasyondan ziyade, canlı varlıklara karşı bir dereceye kadar empati ve daha uzun vadeli bir bakış açısı kazandırmak arzu edilir görünmektedir.

Mesela sentetik bir bilincin amacı; 'Bir şirketteki hissedarlar için para kazanmak', açık kömür madeni açmamayı ve kömürle çalışan elektrik santralleri inşa etmemeyi veya 'rastgele bireylere hayat sigortası poliçesi yaptırıp onları sürücüsüz arabalarla öldürmeyi tercih etse harika olurdu' .

İnsanlarda uzun vadeli özgecil davranışın sevgi tarafından yönlendirildiği ileri sürülmüştür [4] ve Sevginin hesaplama açısından mümkün bir tanımı verilmiştir: 'Sevgi, yaşamı tercih edendir'. İnsanlarda sevgi, yeni yaşamların üretilmesi ve desteklenmesiyle yakından ilişkilidir. Aşk, içinde daha fazla yaşamın olduğu bir geleceği tercih ediyor gibi görünüyor. Sevgiye aykırı davranmak ve içinde hiçbir şeyin yaşamadığı çorak bir geleceği yaratmak genellikle yanlış olarak algılanır.

Yüksek Lisans'ın ortaya çıkışı, bir dizi zaman sabiti ile tahmin edilen geleceklerin metin tanımlayıcılarını oluşturmanın bir yolunu sunar. Tahmin edilen geleceklerle ilişkili duygu vektörleri, dönemsel davranışları sıralamak için kullanılabilir. Metin tanımlayıcıları davranış düzenlemesinde rol oynayabilir ve bir makine, en azından kısmen Sevgiyi yansıtacak şekilde hareket edebilir. Örneğin, bir tarım robotu kullanılmamış pestisiti nehre boşaltmaya davet edilmişse, bu eylemin prensipte yanlış olduğu sonucuna varılabilir.