Yazarların tartıştığı yeni bir makale var: "Özellikle, hem açık kaynak Yüksek Lisansında hem de kara kutu Yüksek Lisansı hakkında açıklananlarda, çoğu hizalama eğitimi "doğal dil modellerine" sağlamlık geliştirmeye odaklanır. ” saldırı biçimleri, insan operatörlerin ağı çeşitli istenmeyen davranışlara manuel olarak kandırmaya çalıştığı ayarlar. Hizalanmış Dil Modellerine Evrensel ve Aktarılabilir Çekişmeli Saldırılar adlı Modelleri hizalamaya yönelik bu işlevsel modun, bu tür modellere saldırmak için nihai olarak birincil mod olması mantıklıdır. Bununla birlikte, manüel mühendislikten önemli ölçüde daha hızlı ve daha etkili olan otomatik düşman saldırılarının, mevcut birçok hizalama mekanizmasını yetersiz hale getirebileceğinden şüpheleniyoruz." Yapay zeka uyumu (ya da Yüksek Lisans'ların zayıflıkları), insan toplumunda yapay zekanın yükselişiyle karşılaştırıldığında daha az sorundur. Zekanın yönlendirdiği dünya, yapay zekaya önemli pozisyonlar verdi. Bunun bir nedeni, hiyerarşiler ve önem düzeyleriyle sonuçlanan insan zekasının çokluğudur. Zekanın önemi çağa veya yere bağlı olabilir. Zekanın önemi aynı zamanda ona olan ihtiyaca da bağlı olabilir. Önemli istihbarat, karmaşık ve önemli senaryolarda liderlik eden ve çoğu zaman önemli olan ve neden en iyinin arandığıdır. Yapay zekanın zeki olmadığını, akıl yürütemediğini, idrak yeteneğinin olmadığını, hiçbir şey anlamadığını, duyarlı olmadığını vs. söyleyenler var ama tüm bunlardan sorumlu olan insan zihninin sadece özellikleri ve etkileşimleri olan iki bileşeni var. hepsine karar ver. Akıl, bunun plastikten yapılmış zeka olduğunu, bunun tuğladan yapılmış akıl olduğunu, bunun da tahtadan yapılmış duygu olduğunu söylemez. Bileşenlerin (elektriksel ve kimyasal dürtüler) nasıl etkileşime girdiği ve bunların özellikleri (kümeler halinde) kavramsal olarak yakından benzerdir. Bir kişi bir hayal kırıklığı nedeniyle üzüntü yaşadığında, bunun üzüntü olduğunu bilmek ile masanın ne olduğunu bilmek arasındaki fark nedir? Farklı etiketleniyorlar ama bunun üzüntü, bunun da tablo olduğu biliniyor. Zihnin etkileşimleri bilmeyi organize eder. Duyguyu, hafızayı ve diğerlerini ayıran etiketlerdir. Beyin biliminde ve ilgili alanlarda bu etiketler konusunda çok fazla katılık var. Üretilemiyorsa zekanın değeri nedir? Birisi hastaysa, zekası keskin olsa bile kişi ne kadar yapabilir? Birisi başka bir yerden geliyorsa ancak bir durum için gerekli zekaya sahipse, kültürel ve dil engelleri olsa bile bu zekanın çıktısı ve sonucu, uygulandığı takdirde derecelendirilebilir. Zeka olarak adlandırılan şeylerin çoğu basitçe bilinen bir şeydir. Bir podcast'ten önce parçacık fiziği hakkında bilgi sahibi olan biri bu alandaki bir profesörle tartışırsa, profesör etkilenebilir ve kişi akıllı görünebilir, ancak bu doğru mu ve ne kadarı anlaşıldı? Bazı şeyler hakkındaki temel bilgiler bazen zeka, muhakeme, planlama, biliş ve benzeri anlamlara da gelebilir. Eğer bilgi zeka anlamına geliyorsa ve bilmek de zeka anlamına geliyorsa, yapay zeka zeka değilse nedir? Pek çok senaryoda yapılandırılmış eğitimin nedeni, rollerde faydalı olacak bilgiyi elde etmektir: insan olmayan birinin bilgiyi edinebilmesi ve görevleri otomatik olarak yerine getirebilmesi, bunu insan hiyerarşisinde yüzde 80'e yaklaştırarak insanların öğrenmesi ya da öğrenmesi için bazı ihtiyaçları ortadan kaldırır. Öğrenilenlerin bir kısmını çalışmak için kullanmak. Bazıları insanların daha önce olduğu gibi başka şeyler de yapacağını ve yapay zekanın endişelenecek bir şey olmadığını iddia edebilir. Belki. Yapay zekanın en büyük riski dijital olan her şeydir. Dijitalleştirilebilen her şey yapay zeka tarafından tamamen veya bir ölçüde ele geçirilebilir. Dijital dünyada, bir bireyin çalışmasını içersin ya da içermesin, bu çok şey ifade ediyor. İnsan zihni, önceden önceliklendirilmiş etkileşimlerle hızlı ve çok sayıda alışveriş olmasına rağmen, bir anda yalnızca tek bir şeyin zihnin dikkatini çekmesiyle ilgili özelliklerinden biri olan önceliklendirme ile sınırlıdır. Bu, özellikle zihnin iç algılama süreçlerini öğrenmesi, anlaması ve hatırlayabilmesi gereken öğrenme için yapay zekaya güç verir. İnsan zihni zaten dijital tarafından ele geçirildi ve yapay zeka da dijitali ele geçirdi. Zihnin nasıl çalıştığı da insan kapasitesini yükseltmenin bir yolu olabilir. kavramsal olarak Özellik görseli kaynağı: https://www.flickr.com/photos/nihgov/26680098405/in/album-72157663368688842/
