OpenAI'nin Sam Altman'ın Başarısız Yönetim Kurulu Darbesi ve Yapay Zekanın Kaderini Birkaç Kişinin Ellerine Bırakmanın Tehlikesi Üzerine

Dün anketimize 500'den fazla HackerNoon insanı oy vererek, (şu anda feshedilmiş) OpenAI Yönetim Kurulu'nun destansı bir başarısızlık, darbe girişimi olarak tanımlanabilecek öngörülemeyen inişli çıkışlı yolculukta ne olacağını sordular ve ezici çoğunlukla Sam Altman'ın eninde sonunda yapacağı seçeneği tercih ettiler. CEO olarak OpenAI'ye geri dönün.

Ve HackerNoon okurları haklı! OpenAI çalışanları tarafından 'Sam'i geri getir yoksa istifa ederiz' ve OpenAI yatırımcıları tarafından 'Sam'i getir yoksa çekiliriz' yönündeki son ve son müzakere, büyük ölçüde Microsoft CEO'su Satya Nadella ve Silikon Vadisi'nin ağır topları tarafından yönetiliyor (I) Bunları bu makalenin ilerleyen kısımlarında ele alacağım) sonunda “mutlu sona” ulaştı. Darbe başarısız oldu. Sam ve Greg artık muzaffer dönüşleriyle OpenAI'nin %95'i (Bloomberg'e göre 770 çalışandan 778'den fazlası mektubu imzaladı), yepyeni bir Yönetim Kurulu ve her zamankinden daha fazla şöhret ve güç tarafından memnuniyetle karşılanacak!

Dumanı henüz ortaya çıkmadı (ve bunun açıklığa kavuşturulup açıklanmayacağı da belli değil), önümüzdeki aylarda veya yıllarda daha fazla araştırma makalesinin, davanın ve hatta politika değişikliklerinin ortaya çıkacağından hâlâ yarı eminim. olup bitenlere ışık tutmak için. Ve bu henüz OpenAI'deki kargaşanın sonu değil.

Ama önce kısa bir özet

Bu dramaya %100 kapılmak için Cuma günkü, Sam Altman'ın kovulmasının ayrıntılarını duyuran ve spekülasyon yapan ve hafta sonu olup bitenlerin kronolojik zaman çizelgesini ortaya koyan Pazartesi günkü hikayemi okumalısınız. . Biz ayrıldığımızda, Sam ve Greg hâlâ kapıdan çıkıp Microsoft'a katılmak, başka bir kurumsal norm olmak için yola çıkıyorlardı (lol). Yeni bir geçici CEO açıklandı (Sam'e sadık olduğu ortaya çıkan, halihazırda geçici CEO olan Mira Murati'nin yerine): En çok Twitch'in eski CEO'su olarak tanınan Emmett Shear. Evet, Twitch. Oyun yayın platformu. AI ile ilgili hiçbir şey yok.

Microsoft CEO'su Satya Nadella, kamuoyuna yaptığı tüm açıklamalarda ve duyurularında çok olumlu ve iyimser olmasına rağmen, Kurumsal Yönetişim düzeyinde değişikliklerin mutlaka yapılması gerektiğini ve %49'luk bir paydaş olan Microsoft için artık sürprizlerin olmaması gerektiğini güçlü bir şekilde belirtti. OpenAI'nin en önemli kurumsal ortağıdır. Bunu şöyle okudum: Yönetim kurulunun kovulması gerekiyor ve Microsoft'un yeni yönetim kuruluyla bir daha bu duruma düşmesine imkan yok.

Ve sonra, 21 Kasım Salı gece yarısı/22 Kasım Çarşamba sabahın erken saatlerinde - Açık Yapay Zeka, Sam & Co'nun ve Silikon Vadisi iyimserlerinin çoğunun beklediği haberi duyurdu :

SAM 👏 GERİ DÖNDÜ 👏

Aynı duyuruda OpenAI'nin yeni yönetim kurulunun Bret Taylor (Başkan), Adam D'eangelo ve Larry Summer'dan oluşacağı belirtildi. Özellikle Sam Altman, Ilya Sutskever, Tasha McCauley ve Helen Toner'dan bahsedilmiyor.

Kâr Amacı Gütmeyen / Kâr Amacı Gütmeyen Uyumsuzluk: OpenAI'nin Varlığının Felaketi

Darbenin gerçekleşmesine neden izin verildiğine dair en makul teorinin şu olduğunu düşünüyorum: Kâr amacı güden LLC'yi (go rakamı) kontrol eden, kâr amacı gütmeyen bir kuruluş olan OpenAI'nin (artık var olmayan) Yönetim Kurulu'nun darbeye karşı herhangi bir teşviki olmaması gerekiyor. Chatgpt'nin yapımcısı olan, Microsoft'tan 13 milyar dolar toplayan ve yatırımcılarına para kazanmak için emanet görevi üstlenen OpenAI'nin ana amacı kârı maksimuma çıkarmak. Altman'ın kendisi de dahil olmak üzere Yönetim Kurulunun oy kullanma hakkına sahip tüm üyelerinin OpenAI'de hiçbir hissesi yoktur. Görevleri, şirket tüzüğünde belirtildiği gibi, "yapay genel zekanın (genellikle insanlardan daha akıllı olan yapay zeka sistemlerinin) tüm insanlığa fayda sağlamasını sağlamaktır." Başka bir deyişle, kâr amacı gütmeyen LLC'yi denetleyen kâr amacı gütmeyen Yönetim Kurulu'nun, yatırımcılara, Microsoft bilgi işlem yetkilerine (YGZ'yi yaymak için gereken araştırma türünü yapmak için kesinlikle gerekli olan) veya gerçeklere para geri kazandırmakla hiçbir ilgisi yoktur. OpenAI, ChatGPT'nin piyasaya sürülmesinden bu yana onlarca yıl içinde fiili zamanın ruhunu yansıtan teknoloji şirketi haline geldi. İlgilendiği ve yasal olarak denetlemesi gereken tek şey, Yapay Genel Zekanın veya AGI'nin güvenli bir şekilde kullanıma sunulmasıydı. Teorik olarak artık para kazanmamak, küçülmek ve küçük elit bir araştırma grubuna geri dönmek son derece mutluydu.

Bu teorinin en makul olduğunu düşündüm çünkü ( son hikayemde de belirtildiği gibi), OpenAI Kurucu Ortağı ve Baş Bilim Adamı Lya Sutskever'in , ilk etapta Sam'i deviren orijinal Yönetim Kurulu grubunun bir parçası olduğum gerçeği. (Daha sonra kararından pişman oldu ve bir U dönüşü yaparak kesinlikle herkesi şaşırttığını söyleyebiliriz.) O çok parlak bir zekaya sahip ve Operasyonun beyni olduğuna yaygın olarak inanılıyor. Aslında OpenAI'ye bizzat Elon Musk (Google Deepmind'dan) tarafından davet edildi ve Musk'a göre bu, Elon Musk ile Google CEO'su Larry Page'in uzun süredir devam eden dostluğunda bariz bir kırılmaya neden oldu. O zamanki kırılma (2015/2016'da) yapay zeka güvenliğiyle ilgiliydi. Ilya yapay zekanın güvenliğine önem veriyordu, Elon da öyle, Larry ise umursamıyordu. Böylece Ilya OpenAI takımı oldu.

Bunun Yapay Zeka Güvenliği konusunda temel bir anlaşmazlık/yanlış hizalama olduğunu düşünmemin bir başka nedeni de, Sam'i devirmeye oy veren 3 Yönetim Kurulu üyesinden biri olan Helen Toner'in yakın zamanda (New York Times tarafından bildirildiği gibi) bir araştırma makalesi yazmasıdır . OpenAI'nin doğrudan rakibi Anthropic'ten yanaydı ve OpenAI'nin AGI'yi kullanıma sunma yaklaşımını eleştirdi. Antropik, tam olarak bu yapay zeka güvenlik gerilimi nedeniyle yaratıldı. Kurucuları, OpenAI'nin eski araştırma başkan yardımcısı Dario Amodei ve OpenAI'nin güvenlik ve politikadan sorumlu başkan yardımcısı olan kız kardeşi Daniela Amodei'dir. Diğer birçok OpenAI araştırma mezunu da Anthropic'in kurucu ekibindeydi. Daha da tuhafı, Anthropic CEO'su Dario'nun eski Yönetim Kurulu tarafından OpenAI (ilk etapta ayrıldığı şirket olan lol) ile olası bir birleşme nedeniyle kaçırıldığı ve reddettiği bildirildi.

Ve son olarak, daha dün, Sam ve Greg'in muzaffer dönüş haberinin yayınlanmasından yalnızca birkaç saat önce, OpenAI'nin asıl kurucusu ve yatırımcısı Elon Musk, kendi sahibi olduğu platform X'te, OpenAI'nin eski çalışanlarının konuyla ilgili "endişeli" bir mektubunu paylaştı. Pek çok şeyin yanı sıra, Sam Altman ve arkadaşlarının güvenlik araştırmacılarını dinlememek gibi rahatsız edici davranış kalıpları da var. Mektubun tamamına buradan bakın. Başka bir deyişle, yıllar boyunca Sam re/AI güvenliği konusunda büyük anlaşmazlık yaşayan insanların çoğu ayrıldı. OpenAI'den geriye kalanların büyük bir kısmı Sam'e sadık olanlar.

OpenAI'nin Yeni Yönetim Kuruluyla Tanışın

Sam Altman'ın CEO olarak geri dönmesine yönelik müzakerede (eski) Yönetim Kurulu, bu ilk 3 kişinin Yönetim Kurulunda yer almasını kabul etti. Öyleyse onlarla tanışalım.

Bret Taylor

Bret Taylor, Silikon Vadisi'ndeki en iyi bağlantılara sahip ve saygın teknoloji uzmanlarından biridir. Kendisi en çok bulut tabanlı yazılım hizmetlerinde lider şirket olan Salesforce'un eski CEO'su olarak görev yapmasıyla tanınır. Ancak daha da önemlisi, Taylor, (eski) Twitter'ın Yönetim Kurulu Başkanı olarak çok önemli bir rol oynadı; burada, milyarderin takla atmasının ardından Elon Musk'un Twitter'ı satın almasına (bu işlemin bastırılmasına ) aracı oldu. 44 milyar dolarlık anlaşmanın (bkz . buraya , buraya ve buraya )

Larry Yaz

Lawrence "Larry" Summers Amerikalı bir ekonomist, Kalkınma Ekonomisi eski Başkan Yardımcısı ve Dünya Bankası Baş Ekonomisti ve eski ABD Hazine Bakanıdır. En çok Harvard Üniversitesi'nin 27. Rektörü olarak görev yapmasıyla tanınır. Summers, Harvard'daki görev süresi boyunca bilimde kadınlarla ilgili yorumlarıyla tartışmalara yol açtı; erkekler ve kadınlar arasındaki yeteneklerdeki içsel farklılıkların, kadınların bilim ve mühendislik alanlarında yeterince temsil edilmemesinin bir nedeni olabileceğini öne sürdü. Bu açıklamalar yaygın eleştirilere yol açtı ve sonunda Harvard başkanlığından istifa etmesinde önemli bir rol oynadı. Hadi rakam.

Adam D'Angelo

Adam D'Angelo, popüler bir soru-cevap sitesi olan Quora'nın CEO'su. Quora'dan önce Facebook'ta Teknolojiden Sorumlu Başkan olarak görev yapıyordu ve Mark Zuckerberg'in yanı sıra Facebook'un birçok kurucu ortağından biri de olabilirdi. En önemlisi, OpenAI Yönetim Kurulu'nun bu yeni kurulda görev yapmaya devam edecek tek daimi üyesi olması. Evet, ilk etapta Sam'i görevden alan kurul.

Hmmm mükemmel bir iş anlaşması yapıcı ( Elon'un Twitter satın almak için yasal olarak bağlayıcı sözleşmesine uymasını sağlayabilecek bir odadaki tek yetişkin ), tartışmalı olsa da etkili bir ekonomist (Larry'nin kadın zekası hakkındaki cinsiyetçi yorumları, devrilen yönetim kurulu için pek de iyiye işaret değildi) Üyeler, her ikisi de kadın!) ve nadiren röportaj veren gizemli bir CEO (Adam'ın (sözde) Sam'i neden devirdiğini bugüne kadar kimse bilmiyor)… Bunlar, şu anda tartışmasız en etkili olanın kaderini kontrol eden insanlar. çağımızın teknolojisi.

Son düşünceler (umarım bu destanda şimdilik son kez)

Yapay zeka bu on yılın ve gelecek on yılların en önemli teknolojisi olabilir. Ancak geçtiğimiz hafta sonu ortaya çıkan hikaye, kontrol edilme tehlikesi altındaki insanların ne kadar inanılmaz derecede kusurlu olduğunu bize gösteriyor. Bilgili teknoloji + kusurlu insanlar = oldukça felaket bir kombinasyon, imho. Artık kullanılmayan OpenAi yönetim kurulu Sam'i kovma kararında ne kadar kusurlu, mantıksız ve görünüşte çılgın görünse de, ilk başta kararı tetikleyen olay olan odada hala büyük, dev, devasa bir fil var. yer.

Sam'in geri döndükten sonra kapsamlı bir soruşturma yapmayı esasen kabul ettiği bildirildi. Ve o zamana kadar, bu yeni Yönetim Kurulunun, OpenAI'nin insanlığı süper akıllı robotlardan (başka kelimelerle ifade edilmiş) kurtarmaya yönelik yüce misyonunu aynı anda sürdürürken aynı zamanda çok para kazanma becerisi konusunda en iyi ihtimalle şüpheci kalacağım. Tıpkı kapitalizm, etkili fedakarlık ve bu konuda insanoğlu gibi bir paradoks gibi görünüyor.