Mi bismo igrali unutra na kišnim danima ili petkom prije praznika. Dva reda stolica u sredini učionice, raspoređene od pozadine do pozadine. Naš učitelj bi počeo svirati pjesmu na jednoj od tih masivnih kasetnih ploča iz 70-ih, a mi djeca bi šetali oko praznih stolica dok se glazba ne zaustavi, u tom trenutku svatko je morao zauzeti mjesto. Što mi je palo na pamet sada, čitajući Dario Amodeijev esej, Istraživanje se bavi kratkoročnim i dugoročnim rizicima s kojima se čovječanstvo suočava dok programiramo naš put prema umjetnoj općenitoj superinteligenciji. Adolescencija tehnologije Adolescencija tehnologije Što se tiče zdravog govora, bar za tehnološke oligarhe je postavljen prilično nisko u posljednje vrijeme, sa svim govorima o bijeloj nadmoći, antikristu, pedofiliji i korištenju vlastite djece kao bankama krvi. Najugroženiji problemi su egzistencijalni, jer čak i 5% šanse za izumiranje je veća stvar od 80% šanse za ozbiljnu nezaposlenost.Ali za mene, izumiranje čovječanstva je još uvijek nejasna prijetnja daleko u daljini. Ali ta ozbiljna nezaposlenost je stvarna i približava se poput olujnog oblaka na horizontu jer, bez obzira je li budućnost AI-a blagoslov ili prokletstvo, apsolutno ćemo doživjeti masovne nemire kako se širi kroz gospodarstvo. Učinci tek počinju biti poznati, a oni će se povećati s svakom novom verzijom LLM-a.Čak i ako udarimo na neku kvalitativnu platnu i AGI nije izvediv s našom trenutnom tehnološkom putovnicom, dobit koji se ostvaruje sada i tijekom sljedećih nekoliko godina bit će dovoljan da drastično dezorientira radnu snagu. I to je razlog zašto stalno razmišljam o igri glazbenih stolica. Naravno, poremećajni utjecaj nove tehnologije bio je čimbenik barem od Industrijske revolucije, ako ne i otkrića poljoprivrede. 1785. godine, izum moćnog štapića izbacio je tisuće kvalificiranih tkanjača iz posla. Generacije kasnije, to se smatralo pozitivnim razvojem.Ljudi su dobili jeftinu odjeću, i osjećali su se bolje o sebi. Ali AI je kvalitativno drugačija zvijer. ne automatizira određeni proces; automatizira čovječanstvo. Automatizira proces automatizacije procesa. Kako AI počinje proširivati individualnu produktivnost, a zatim postupno zamjenjuje ljudski napor, shvatit ćemo da stolice nestaju sve brže i brže. To nije savršena metafora jer povećana ljudska sposobnost koju AI osnažuje znači da će postojati veća sposobnost za stvaranje potpuno novih i neočekivanih koristi za čovječanstvo. Nažalost, AI će također raditi te poslove bolje od vas. I u velikoj mjeri, to će biti istinito čak i ako ne postignemo umjetnu opću superinteligenciju. stolice tiho nestaju svaki dan, a sa svakim novim ekonomskim kontrakcijama uzrokovanim ovim poremećajem, glazba će se kratko zaustaviti dok se radna snaga odvaja. S tehnologijom razvijenom upravo sada, veliki postotak terapeuta, copywritera, agenata za korisničke usluge, pravnih pomoćnika, životnih trenera, recepcionista, računovođa, urednika, putničkih agenata, dizajnera, ilustratora, vozača za isporuku, analitičara, savjetnika, savjetnika, investicijskih bankara i svih vrsta radnika na početnoj razini bit će teško pritisnuti da nađu posao. Produktivnost čovječanstva će se drastično povećati, moć će postati polarizirana, a velike količine ljudi će shvatiti da oni jednostavno nisu bitni za društvo. Ali to je samo u odnosu na igru koju smo igrali. Ali više na točki, ova nadolazeća masovna realizacija našeg vlastitog nedostatka povezanosti sa bitnim potrebama društva ne bi trebala doći kao iznenađenje. Ne shvaćajući to, tijekom posljednja dva stoljeća, velika većina ljudskog napora postala je nebitna.Više od 90% američkog stanovništva sudjelovalo je u poljoprivredi 1776. godine. Da, vaš posao kao menadžera proizvoda za rast u odjelu Airbnb-a u Kostariki pruža vrijednu uslugu. Pomažete iznajmljivačima i pružateljima usluga da se ujedine na tržištu kratkoročnog najma u Srednjoj Americi. Ali u kojoj mjeri je taj napor važan intrinzično? Učinite život malo boljim za ograničen broj pojedinaca koji odlaze na odmor u Santa Theresu, apsolutno. I to je neto pozitivno. Ako izgubite svoj posao i pronađete još jedan koji AI još nije podcijenio, morat ćete se zapitati koju stvarnu vrijednost nudite i koliko dugo ćete ga moći ponuditi prije nego što se ponovno nađete na ulici. Prema istraživanjima koje se oslanjam na umjetnu inteligenciju za mene, samo se 35% američke radne snage bavi poslom koji je izravno povezan s aktivnostima potrebnima za ljudsko preživljavanje.To uključuje nastavu, zdravlje, infrastrukturu, energiju, gradnju itd. To znači da preostalih 65% radi posao koji, u najboljem slučaju, poboljšava kvalitetu života i, u najgorem slučaju, služi kao način da ih zadrži zauzeto. Uzmimo ženu Margaret, koja optimizira online plasman oglasa za prodaju luksuznih stanova za plaću od 130.000 dolara godišnje. Pretpostavimo zbog argumentacije da je njezin rad zamijenjen uslugom AI-a koja košta 10.000 dolara godišnje. To nikako nije dio mašte da se to dogodi u bliskoj budućnosti, ako ne i sutra. Dakle, njezin poslodavac sada ima istu kvalitetu usluga uz uštedu od 120.000 dolara godišnje, a Margaret je bez posla. Ekonomisti će vam reći da će cijena luksuznih kondoma malo pasti, ali to se neće dogoditi. Te uštede idu izravno na tvrtku koja je zaposlila nju i njezine dioničare. Margaret će biti plaćena nezaposlenost za nekoliko mjeseci, a onda će morati naći posao na tržištu rada koje je sve neprijateljski prema njezinim vještinama. Njezina tvrtka je učinkovitija, a ipak je redundantna. S gledišta igre koju smo igrali, ona bi također mogla prestati postojati. Naravno, mogla bi obnoviti svoje vještine i postati druga vrsta radnika znanja, koja još nije zamijenjena AI-om. mogla bi postati poduzetnica i započeti vlastitu tvrtku pomoću alata s AI-om. To je roll kocke, naravno, budući da više od 80% svih start-upova ne uspiju, čak i prije AI. A kada postoji 60 milijuna Margarets tamo, svatko traži svrhu, oni ne mogu svi biti poduzetnici. Društvo ne treba dodatnih 60 milijuna dating aplikacija. Mi ne trebamo dodatnih 60 milijuna influencera. S moralnog stajališta, može se tvrditi da postoji vrijednost u radu za svoje dobro, ali to nije vaš poziv da učinite. I AI, s relativno umjerenim dodatnim unosom energije i napora, vrlo će uskoro zamijeniti čitave sektore ljudske radne snage, potencijalno poboljšavajući kvalitetu ljudskog života. Ipak, u algebri našeg trenutnog kulturnog razmišljanja, ta ljudska bića koja su zamijenjena prestat će imati vrijednost. Kada se igraju glazbene stolice, bilo je, naravno, vrlo važno ne biti jedan od prvih koji gube, ali kako sam odrastao, shvatio sam da vi također ne želite biti tako očajni da pobijedite da ste počeli igrati prljavo. Neće biti mjesta za nas u ovoj igri koju smo svirali, a izazov će biti kako pojedinačno tako i kao društvo da odlučimo što točno trebamo učiniti sljedeće. Referencija : The Adolescence of Technology by Dario Amodei: https://www.darioamodei.com/essay/the-adolescence-of-technology
