Yapay Zekanın İş Güvenliğine Yönelik Tehdidi Ne Kadar Gerçek? Yapay Zeka Profesörü Alejandro Piad Morffis ile Röportaj

"Programcıların otomatikleştirilmesinin avukatlardan daha kolay olduğu ortaya çıkarsa bu oldukça çıldırtıcı olurdu." -Profesör Alejandro Piad Morffis.

ChatGPT, Microsoft Bing, Google Bard, Stable Diffusion gibi Büyük Dil Üretken Yapay Zeka modellerinin benimsenmesindeki artış, bu modellerin avantajları inkar edilemezken, abartılı ve üzücü ama temelsiz olmayan bir korkuya yol açtı. Bu yapay zeka modellerinin dünya çapında milyonlarca işçinin iş güvenliğini tehlikeye atması olasılığı hakkında halk tarafından yapılan açıklamalar.

Daha önce de açıklandığı gibi, yapay zekanın insan işlerine yönelik tehdidi her ne kadar abartılı ve üzücü olsa da temelsiz değil.

Yapay zekanın tekrarlanan görevleri yerine getirme, büyük miktarda bilgiyi işleme ve insan benzeri karar almayı taklit etme yeteneği, onu yaratıcılığı, üretkenliği ve verimliliği artırmak için çok iyi bir araç haline getiriyor.

"Yapay zeka işimizi elimizden alacak mı?" sorusunu yanıtlamak için. adlı bir uzmanın yardımına başvurdum. Profesör Alejandro Piad Morffis , Küba Havana Üniversitesi'nde Yapay Zeka Profesörü. Profesör benim için bir akıl hocası, öğretmen, arkadaş ve en önemlisi ilham kaynağı.

Buna Nasıl Yaklaşmayı Umuyorum

Soruların önüne "Q" harfi, cevapların başına ise "A" harfi eklenecektir. Sorulara gelince, Profesör Morffis'in de Felsefeye ilgisi olduğundan teknik ve felsefi soruları ele almayı umuyorum.

Anlaşılması adına anlaşılması karmaşık olan belirli kavramlara bağlantılar vereceğimi de belirtmek önemlidir.

Hadi başlayalım!

Soru: Öncelikle bize kendinizden, mesleki niteliklerinizden ve benzeri konulardan biraz bahseder misiniz?

C: Adım Alejandro Piad, Küba Havana Üniversitesi Matematik ve Bilgisayar Bilimleri Okulu'nda Bilgisayar Bilimleri alanında ihtisas yaptım. 2016 yılında yine aynı üniversitede Bilgisayar Bilimleri alanında yüksek lisans yaptım ve çift doktora derecesi aldım. Alicante Üniversitesi'nde Bilgisayar Bilimleri alanında doktora derecesine sahiptir. 2021'de Havana Üniversitesi'nde Matematik alanında.

Doktora derecem doğal dilden bilgi keşfindeydi ve özellikle tıbbi metinlerden varlık ve ilişki çıkarmaya odaklanıyordu.

Yüksek lisanstan beri Havana Üniversitesi'nde ders veriyorum; Programlama, Derleyiciler ve Algoritma Tasarımı konularında ana eğitmenlik yapıyorum ve ayrıca Makine Öğrenimi ve diğer konularda da ara sıra eğitmenlik yapıyorum.

2022'den beri orada tam zamanlı profesörüm, aynı zamanda Küba'da türünün ilk örneği olan yeni Veri Bilimi kariyerinin kurucularından biriydim ve bu kariyer için Programlama ve Bilgi İşlem Sistemleri müfredatının tamamını yazdım. NLP'de araştırma yapmaya devam edin, şu anda bilgi keşfine nöro sembolik yaklaşımlara odaklanın ve yüksek lisans eğitimlerini sembolik sistemlerle karıştırın.

S: Ne kadar süredir yapay zeka sistemleriyle çalışıyorsunuz?

C: Lisans öğrencisiyken oyunlar için yapay zekayla oynadım ve bilgisayarlı görü ve meta-sezgisel bilimlerle ilgili birkaç öğrenci projesi yaptım. Mezun olduktan sonra Bilgisayar Grafiği alanında yüksek lisansa başladım ancak yan proje olarak NLP konusunda, özellikle Twitter'da duygu analizi üzerine biraz araştırma yaptım.

Yüksek lisansı bitirdikten sonra doktora yapmayı düşünmeye başladım. ve makine öğrenimiyle her şeyi hallettim.

Yani yapay zekayı ciddiye almaya başladığımdan bu yana yaklaşık 10 yıl geçti diyebiliriz. Bu konuyla ilgili en eski makalem 2012 civarındaydı.

S: Bu son derece etkileyici! Yapay zeka ile henüz yeni yeni ortaya çıkmadan çok önce çalıştınız. Yapay zekanın mevcut ana akım benimsenmesine ve bunun sonucunda ortaya çıkan işten çıkarma tehditlerine katkıda bulunan, yapay zekadaki en önemli teknik ilerlemenin ne olduğuna inanıyorsunuz?

C: Her zaman güzeldi ama akademinin dışında değildi. İkisinin kesişimi diyebilirim dikey gelişmeler: Önceki mimarilerin ölçeklenebilirlik sorunlarının çoğunu çözen Transformer gibi yapay sinir ağı mimarilerinin keşfi ve bu belirli mimarileri ölçekte süper verimli bir şekilde çalıştırabileceğiniz donanımın icadı.

S: Büyüleyici! Bir eğitimci ve yapay zeka araştırmacısı olarak profesyonel görüşünüze göre, hangi endüstriler yapay zekanın yerini alma riskiyle karşı karşıya?

C: Herhangi bir sektörün tamamen değiştirilip değiştirilmeyeceğini bilmiyorum ama çok büyük değişiklikler olacağından eminim. Uzun vadede elbette kimse bir şey söyleyemez. Ancak kısa ve orta vadede (5-10 yıl), dil modellerinde gördüklerimize göre, işi doğal dilin yüzeysel filtrelemesi ve işlenmesine dayanan herkesin yapması gereken bazı hesaplar olacaktır.

Bu, işi e-postaları okumak, özetlemek ve rapor oluşturmak olan herkes dahil olmak üzere her türlü yönetim rolünü içerir. Not alma ve görev planlamanın ötesine geçmeyen her türden sekreter. Şablonlu içerikle çalışan metin yazarları.

Temel olarak, gerçek insan yaratıcılığı seviyesinin altındaki herhangi bir içerik oluşturma görevinin otomatikleştirilmesi, bir insana ödeme yapmaktan daha ucuz olacaktır. stokastik papağan. Yani bunlar ortadan kalkacak. Yakın geleceğin ChatGPT'sini kullanan tek bir metin yazarı, hipotez olarak, aynı kalitede 3 ila 10 kat daha fazla içerik üretebilecek.

Model onlara hedefledikleri nihai kaliteyi vereceği için değil, model onlara kalitenin %90'ını vereceği için, o zaman gerçek insan yaratıcılığı bir kiraz gibi gelir ve son %10'u ekler. Eğitimin de önemli ölçüde değişmesi gerekiyor. Eğer istersen bunun hakkında daha fazla konuşabiliriz.

Soru: Bu gerçekten hoş bir açı. Siz bir eğitimcisiniz ve " başlıklı yazınızdan Üniversite eğitimini yeniden düşünmek ," eğitim kurumunun değişime ne kadar karşı olduğunu açıkça biliyorsunuz. Yapay zeka sonrası dünyada hayatta kalmak için örgün eğitime güvenilebileceğini düşünüyor musunuz?

C: Evet, akademi adapte olacak. Batı medeniyetinin en uzun ömürlü kurumudur. Tüm ana akım dinlerimizden önce ortaya çıktı ve tüm büyük uygarlık değişimlerinden sağ çıktı. Çağlar boyunca değiştiği gibi, önemli ölçüde değişecek.

S: Toplumun yapay zeka ve işten çıkarmanın etik sonuçlarını dikkate alması ne kadar önemli?

C: Her teknolojinin potansiyel sorunları vardır ve teknoloji ne kadar gelişmişse, bunların dikkate alınması da o kadar acil olur. Yapay zeka, tüm ekonomik ilişkilerimizi bozma potansiyeline sahip çok güçlü bir teknolojidir.

Bu, sanayi devrimi seviyesinde bir şey, dolayısıyla çok büyük sonuçları olacak ve dolayısıyla endişenin de aynı seviyede olması gerekiyor.

Önceki yıkıcı teknolojiden farklı olan şey, yeni teknolojinin çoğunlukla en az bilişsel beceri gerektiren işleri otomatikleştirmesidir; bu tarım, imalat, madencilik vb.'de gerçekleşti.

Ancak bu sefer çok sayıda beyaz yakalı işi değiştirmenin eşiğindeyiz, birçok mavi yakalı işi ise kesintisiz bırakıyoruz. Dolayısıyla, ofislerde çalışmaya alışkın olan ve bir yapay zekanın işlerini aynı derecede (ya da belki biraz daha iyi) ve çok daha ucuza yapabileceğini düşünen birçok insanımız olacak, dolayısıyla ya becerilerini önemli ölçüde geliştirmek zorunda kalacaklar ya da yapay zekayı değiştirmeleri gerekecek. daha az vasıflı işlere.

Başka etik hususlar da var; yapay zeka teknolojilerinin yanlış bilgilendirme, sahte haberler, sosyal karışıklık vb. amaçlarla kötüye kullanılması potansiyeli var. Çok sayıda insan benzeri sohbet robotunun Twitter'ı ele geçirmesine hazırlıklı olduğumuzu düşünmüyorum; şimdiden gerçekleşmeye başladı.

Önyargı sorunları da var; bu sistemler gittikçe daha yaygın hale geldikçe, zararlar daha çok azınlıklara odaklanabilir, bu nedenle herkes yapay zekanın faydalarından aynı derecede yararlanamayacak, bazı azınlıklar dezavantajlardan diğerlerine göre daha güçlü bir şekilde yararlanacak. azınlıklardan.

S: Yani diğer bir deyişle, dikkatli olmalıyız çünkü geçmişteki otomasyon türlerinden farklı olarak yapay zeka, bilişsel açıdan görev gerektiren işleri de aksatma potansiyeline sahip.

C: Evet, özellikle de bu işler. En azından yakın vadede beyaz yakalı işleri mavi yakalı işlerden daha fazla otomatikleştirecek. Bu yeni bir şey ve toplum bu tür iş kesintileriyle uğraşmaya alışkın değil.

Bunlar üniversiteye giden ve işlerinin güvenli olduğuna veya en azından taksi şoförlerinden, pizzacılardan, bahçıvanlardan, bahsettiğiniz gibi daha güvenli olduğuna az çok ikna olmuş insanlar.

S: Bu mantıklı, hadi eve biraz yaklaşalım. Yapay zeka kapasitesindeki bir artışın sonuçta yazılım mühendisleri/geliştiricilerinin genel istihdamında bir azalmaya yol açacağına inanıyor musunuz?

C: Çok uzun vadede, yazılım mühendisliği ve geliştirme de dahil olmak üzere tüm işler öngörülemeyen şekillerde gelişecek. Yapay zeka ve teknolojik gelişmeler bu meslekleri adeta yok olacak noktaya getirecek.

Ancak kısa ve orta vadede, çeşitli sektörlerde yazılıma olan talebin artması nedeniyle yazılım mühendislerinde bir azalma pek olası görünmüyor. Yetenekli profesyonellere yönelik artan ihtiyaç, yazılım geliştirme becerisine sahip mevcut eğitimli kişi sayısını çok aşıyor.

Yapay zeka devrimi, derleyiciler, entegre geliştirme ortamları, bulut bilişim, kapsayıcılar, kod tamamlama ve IntelliSense gibi bilgisayar bilimindeki önceki teknolojik atılımlara benzer bir yol izleyecek.

Bu yenilikler, programlamayı oldukça resmi bir geçmişi olmayanlar için daha erişilebilir hale getirdi ve geliştiriciler için fırsatları genişletti.

Önümüzdeki 20 yıl içinde yazılım geliştirme alanına giren kişilerin sayısında bir patlama bekleyebiliriz. Gelişen teknoloji trendleriyle iş rolleri bir miktar değişse de, nasıl programlanacağını ve kod yazılacağını öğrenmek isteyenler için muhtemelen sürekli bir büyüme olacaktır.

S: Bu inanılmaz bir şey, ancak GitHub'un Yardımcı Pilotu ve GPT model ailesi gibi Üretken Yapay Zeka modellerinin piyasaya sürülmesi, yazılım geliştiricilerin işlerini yapay zekaya kaptırma olasılığı hakkında (kelime kelimemi bağışlayın) söylentilere yol açtı. Bu konuda ne diyorsunuz?

Cevap: Rakamlara bakın. Tek gördüğüm yazılım geliştiricilere yönelik daha fazla iş ilanı. Trend hala tırmanıyor.

S: Eski bir OpenAI mühendisi olan Jeff Clune, yakın zamanda Yapay Zeka Güvenliği Tartışması konferansında bir tahminde bulundu; yapay zekanın 2030 yılına kadar "ekonomik açıdan değerli işlerin %50'sini" halledebilme ihtimalinin yüzde 30 olduğunu belirtti. Bu, genel geliştirici işgücü piyasası açısından ne anlama gelir?

C: Öncelikle, işlerin %50'sini otomatikleştirmenin %30 şansının neye benzediğini nasıl kafanıza takacağınıza dair hiçbir fikrim yok. %15 oranında işinizi kaybetme beklentisi mi var?

S: Sanırım rakamlar kafa karıştırıcı bir manzara yaratıyor. Ancak asıl önemli nokta; Yazılım geliştiricilerin iş güvenliği konusunda endişelenmek için pek çok nedeni var ve şu anda üzerinde çok fazla zaman harcadıkları görevlerin çoğu otomatikleştiriliyor. Bunun gerçekleşme hızı artacaktır.

C: Evet ama sorun şu ki, geliştiricilerin zamanlarının çoğunu harcadığı görevlerin birçoğunun değeri oldukça düşük ve bunlar otomatikleştirilmiş olsaydı çok daha iyi durumda olurduk: hata ayıklama, testler yazma, sinir bozucu kod optimizasyonları yapma. Bunların hepsini otomatikleştirdikçe, yazılım geliştirmenin hiçbir zaman kod yazmakla ilgili olmayan gerçekten önemli kısımları için daha fazla zamanımız olacak.

S: Bu kısımlar hakkında daha fazla konuşabilir misiniz?

C: Yüksek seviye ve mimari tasarım, kullanıcı deneyimi, insan-bilgisayar etkileşimi ve bunlar yazılımın kendisi ile ilgili. Yazılım mühendisliği aslında yazılım ile insanlar arasındaki, hem yazılımı yapan hem de yazılımı kullanan kişiler arasındaki ilişkiyle ilgilidir. Yani yazılım becerileri hikayenin sadece yarısıdır. Kullanıcılarınızı ve meslektaşlarınızı anlamak diğer yarısıdır.

S: Bu, muhasebecilerin asıl işinin, mali tablolar oluşturmak değil, mali bilgileri iletmek olmasına benziyor, büyüleyici! Yapay zeka yeteneklerinin 10-20 yıl içinde artacağını söylemek doğru olur. Yapay zekanın potansiyel olarak benimsenmesinin yol açacağı olası iş kaybı/iş kaybı sorununu ele almak için toplum ve tür olarak ne kadar hazırlıklıyız? Bu, insanoğlu olarak amaç duygumuzu nasıl etkiliyor?

C: Tabii ki, en azından mikroişlemci devrimi veya internet devrimi kadar büyük bir sanayi devriminin ortasında olduğumuzu söylemek çok zor, 1960'ta hiç kimse 1980'in nasıl olacağını hayal edemezdi.

Toplum, tanımı gereği asla değişime hazır değildir. Sistem budur, statükoyu korumaya çalışan bir şeydir. Ama insanlar en kolay uyum sağlayan sosyal tür, bu yüzden başaracağımızı düşünüyorum. Pek çok insan acı çekecek ve bu kesinlikle üzerinde çalışmamız gereken bir konu ama bana göre kıyamet gibi bir şey olmayacak.

Soru: Yapay zekanın distopik potansiyeli hakkında pek çok konuşma yapıldı. Neden kıyamet gibi bir şeyin olmayacağını söylüyorsunuz?

C: Kıyamet günü senaryosu için hala gerçekten ikna edici bir argüman görmedim. Pek çok argüman "bunun nasıl gelişeceğini bilmiyoruz, bu yüzden muhtemelen hepimizi öldürecek" gibi bir mantık yürütmeye dayanıyor gibi görünüyor ve bu klasik bir mantıksal yanılgıdır: Temel olarak bilgi eksikliğinden bir çıkarım yapıyorsunuz.

S: Bu doğru. Ancak AI hizalama sorunu makul görünüyor.

C: En azından kıyamet senaryolarını önleyecek kadar çözeceğimizi düşünüyorum. En ciddi hizalama sorunları, güçlü bir versiyona inanmanızı gerektirir. diklik tezi ki buna inanmıyorum.

S: Büyüleyici! Otomasyona geri dönecek olursak, insan emeğinin yerini almak yerine yapay zekayı artırmak için yapay zekadan nasıl yararlanabiliriz ve hangi sektörler bu tür bir iş birliğine uygun?

C: Bence bu çok doğal, sıradan bilişsel işleri (örneğin, belgeleri özetlemek veya ilgili referansları bulmak) giderek daha fazla otomatikleştirdikçe, biz insanlar işimizin en yaratıcı kısımlarında çalışmaya başlayacağız. Bazı işlerde başlangıçta bu çok az var ve orada bir zorluk görüyorum çünkü belki bunlar tamamen veya neredeyse tamamen otomatik hale getirilecek.

Ancak çoğu bilgi işinin yaratıcı bir yanı vardır; gerçekten yeni bir şey yaptığınız kısım.

Hangi alanların buna uygun olduğu konusunda daha fazla konuşamam ama en azından eğitim alanında uzun zamandır ihtiyaç duyulan bir devrime hazır olduğumuzu düşünüyorum.

Biz profesörlerin artık bilginin bekçisi olmamıza gerek yok. Zamanımızın çoğunu aynı makalelere tekrar tekrar not vermekle harcamak yerine artık her öğrenciye mümkün olan en iyi kişisel geri bildirimi vermeye odaklanabiliyoruz.

S: Yapay zekanın eğitim sisteminde devrim yaratmasının olası yolları nelerdir? Belki öğrencilere en iyi şekilde uyarlanmış daha fazla öğretim tekniği olabilir.

C: Birkaç kolay yol var ve bazıları o kadar da kolay değil. Birincisi sadece bilgiye erişimin arttırılması meselesidir. Artık öğrenmek istediğiniz hemen hemen her şeyi, en azından başlangıç olarak internette ilgili bilgileri bulabilirsiniz, ancak bu bilgiler genellikle farklı düzeyde ayrıntı, çelişkili şeyler, farklı dil stilleri vb. içeren birçok kaynağa bölünmüştür.

Nispeten kolay olan ilk uygulama, bazı konulardaki bu kaynak demetini alın ve bana özetlenen ana çıkarımlar hakkında üst düzey bir genel bakış verin, daha derinlere inmek için bağlantılar vb. önemli bir sorun).

Diğer bir yol ise eğitimcileri basit görevlerden kurtararak onlara öğrenme deneyimleri yaratmaya odaklanmaları için daha fazla zaman vermektir. Ancak şu ana kadar inandığım en önemli şey kişiselleştirilmiş öğrenme potansiyelidir.

Bir yapay zeka asistanınız olabilir ve ona "Roket yapmayı öğrenmek istiyorum" diyebilirsiniz ve o da sizin bildiğinizi zaten bildiklerine dayanarak özellikle sizin için çok detaylı bir plan oluşturabilir, size burada şunu söyler: önce bu videoyu izleyin, şimdi bu kısa kursa katılın, şimdi bu kitabın bu bölümünü okuyun... Ve çok özel bir şey öğrenmeniz için 3 ay boyunca size rehberlik edecek.

S: Bu gerçekten umut verici! İnsanların uyum sağlaması için sağlam bir örnek oluşturuyorsunuz. Önyargıdan bahsettiniz, büyük ölçekli yapay zekanın benimsenmesinin azınlığı etkileyeceğini söylemek doğru mudur? Eğer öyleyse bununla nasıl mücadele edilebilir?

C: Evet kesinlikle, makine öğrenimi tanımı gereği çoğunluk üzerinde eğitilir, bu nedenle kullanım durumları herhangi bir nedenle çoğunluğa uymayanlar her zaman en çok zarar görecektir.

Özellikle modelleri insan davranışını tahmin etmek veya insanlarla etkileşime geçmek için eğittiğinizde, verilerde en iyi temsil edilen alt popülasyonlar için daha iyi çalışma eğilimi gösterir.

Ne yapabilirsin? Bu sorunlara ilişkin farkındalığı artırarak başlayın ve modellerinizi önyargı açısından kapsamlı bir şekilde test ettiğinizden emin olun. Verileri nasıl topladığınız konusunda çok dikkatli olun, kolay yoldan gitmeyin ve web'de gezinmeyin ve yüksek kaliteli ve yüksek çeşitlilikte veri kaynakları bulmak için çaba gösterin.

Ancak ekibinizde her şeyden çok, farklı bakış açılarına sahip farklı insanlar yer alır. Göremediğiniz bir sorunu çözemezsiniz.

S: Bu beni düşündürüyor. Söz konusu yapay zeka araçlarına erişimin mali açıdan yetenekli olanlara devredilmesi ihtimali var mı?

C: Açık kaynak topluluğunun araçları herkesin kullanımına sunacağını umuyorum. Ücretsiz bir işletim sistemine, ücretsiz bir ofis paketine, ücretsiz bir oyun motoruna, ücretsiz bir kod düzenleyiciye vb. erişimin dünyanın yoksul bölgelerindeki yaratıcı çocuklar için neler yaptığını zaten gördük.

Ticari araçlar kadar iyi açık kaynaklı yapay zeka araçlarına sahip olacağımıza inanıyorum, tıpkı ticari araçlar kadar iyi açık kaynaklı geliştirme araçlarına da sahip olacağımıza.

S: Bu gerçekten mümkün görünüyor. Yapay zeka sonrası dünyada işgücüne hazırlanmaları için öğrencilerinize ne gibi tavsiyelerde bulunursunuz?

C: Zaten bilgisayar bilimi okuyorsanız temel tavsiye, yalnızca araçlara değil temel konulara odaklanmaktır. Araçlar değişecek, ancak temeller uzun süre geçerliliğini koruyacak. Başka bir konu üzerinde çalışıyorsanız yapay zekanın üretkenliğinizi nasıl artırabileceğini öğrenin ve sınırlamaları hakkında çok şey öğrenin. Kendi işinizi daha iyi hale getirmek için kullanın.

S: Bu mantıklı, temel bilgiler zamana karşı dayanıklı olacak. Zaman ayırdığınız için çok teşekkür ederim Profesör Morffis. Kapanış sözleriniz var mı?

C: Yapay zeka devrimi burada. Bu teknolojiyi herkesin hayatını iyileştirmek ve iyileştirmek için kullanmayı öğrenerek hepimiz bunun bir parçası olabiliriz.

Burada da yayınlandı