Mi bismo igrali unutra na kišnim danima ili petkom prije praznika. Dva reda stolova u sredini učionice, raspoređeni odozdo do pozadine. Naš učitelj bi počeo da svira pesmu na jednoj od tih masivnih kasetnih paluba iz 70-ih, a mi djeca bi šetali oko praznih stolica dok se muzika ne zaustavi, u tom trenutku svi su morali da zauzmu mesto. Uvek je bilo jedne stolice manje od broja dece, tako da je netko izbačen svaki krug. Ono što mi je palo na pamet sada, čitajući esej Dario Amodeja, , o kratkoročnim i dugoročnim rizicima s kojima se čovječanstvo suočava dok programiramo naš put ka veštačkoj opštoj superinteligenciji. Adolescencija tehnologije Adolescencija tehnologije Što se tiče zdravog govora, bar za tehnološke oligarhe je postavljen prilično nisko u poslednje vrijeme, sa svim govorima o beloj nadmoći, antikristu, pedofiliji i korištenju vlastite djece kao bankama krvi. Najhitnije brige su egzistencijalne, jer čak i 5% šanse za izumiranje je veća stvar od 80% šanse za ozbiljnu nezaposlenost.Ali za mene, izumiranje čovječanstva je još uvijek nejasna prijetnja daleko u daljini. Ali ta ozbiljna nezaposlenost je stvarna i približava se kao olujni oblak na horizontu.Jer, bez obzira da li je budućnost AI blagoslov ili prokletstvo, apsolutno ćemo doživjeti masovne nemire dok se širi kroz ekonomiju. Uticaji tek počinju da se znaju, i oni će se povećati sa svakom novom verzijom LLM objavljen. Čak i ako smo pogodili neku kvalitativnu planinu i AGI nije izvediv sa našom trenutnom tehnološkom putovnicom, dobit koji se ostvaruje sada i u narednih nekoliko godina će biti dovoljan da drastično dezorientira radnu snagu. I to je razlog zašto stalno razmišljam o igri muzičkih stolica. Naravno, poremećajni uticaj nove tehnologije bio je faktor od barem Industrijske revolucije, ako ne i otkrića poljoprivrede. 1785. godine, izum moćnog štapića izbacio je hiljade kvalificiranih tkača iz posla. Ali to se pokazalo kratkim hiccupom. Najnasilniji prosvjednici su pogubljeni ili poslani u kaznene kolonije, a napredak se nastavio. Generacije kasnije, to se smatralo pozitivnim razvojem. Ljudi su dobili jeftinu odeću, i oni su se osećali bolje o sebi. Ali AI je kvalitativno drugačija zvijer. ne automatizuje određeni proces; automatizuje čovječanstvo. Automatizuje proces automatizacije procesa. Kako AI počinje da širi individualnu produktivnost, a zatim postepeno zamjenjuje ljudski napor u potpunosti, shvatit ćemo da stolice nestaju brže i brže. To nije savršena metafora jer povećani ljudski kapacitet koji AI osnažuje znači da će postojati veća sposobnost da se stvore potpuno nove i neočekivane koristi za čovječanstvo. Nažalost, AI će također raditi te poslove bolje od vas. I u velikoj mjeri, to će biti istina čak i ako ne postignemo veštačku opštu superinteligenciju. Stolice tiho nestaju svaki dan, a sa svakim novim ekonomskim kontrakcijama uzrokovanim ovim poremećajem, muzika će se kratko zaustaviti dok se radna snaga odvaja. Uz tehnologiju razvijenu upravo sada, veliki postotak terapeuta, copywritera, agenata za korisničke usluge, pravnih pomoćnika, životnih trenera, recepcionista, računovođa, urednika, putničkih agenata, dizajnera, ilustratora, vozača za isporuku, analitičara, konzultanta, savjetnika, investicionih bankara i svih vrsta radnika na početnoj razini bit će teško pritisnuti da nađu posao. Produktivnost čovječanstva će se drastično povećati, moć će postati polarizovana, a velike količine ljudi će shvatiti da oni jednostavno nisu esencijalni za društvo. Ali to je samo u odnosu na igru koju smo igrali. Ali više do tačke, ovo nadolazeće masovno shvatanje našeg nedostatka povezanosti sa bitnim potrebama društva ne bi trebalo da dođe kao iznenađenje. Bez shvatanja toga, u toku protekla dva veka, velika većina ljudskog napora postala je nebitna. Više od 90% američkog stanovništva bilo je uključeno u poljoprivredu 1776. godine. Da, vaš posao kao menadžera proizvoda za rast u odjelu Airbnb-a u Kostariki pruža vrijednu uslugu. Pomažete iznajmljivačima i pružateljima usluga da se ujedine na tržištu kratkoročnog iznajmljivanja u Srednjoj Americi. Ali u kojoj mjeri je taj napor važan intrinsecno? Učinite život malo boljim za ograničen broj pojedinaca koji odlaze na odmor u Santa Terezu, apsolutno. I to je neto pozitivno. Ali ako bi taj posao mogao biti obavljen jednako dobro ili bolje kroz ono što se sastoji od složenog algoritma, da li je to ikada bilo nešto više od autobusa? Ako izgubite posao i nađete još jedan koji AI još nije podcijenio, morat ćete se zapitati kakvu stvarnu vrijednost nudite i koliko dugo ćete ga moći ponuditi prije nego što ponovo budete na ulici. Prema istraživanjima koje se oslanjam na AI da uradim za mene, samo 35% američke radne snage obavlja poslove koji su izravno povezani s aktivnostima potrebnima za ljudsko opstanak.To uključuje učenje, zdravlje, infrastrukturu, energiju, gradnju itd. To znači da preostalih 65% radi posao koji, u najboljem slučaju, poboljšava kvalitet života i, u najgorem slučaju, služi kao način da ih zadrži zauzeto. Uzmimo ženu, Margaret, koja optimizuje online plasman oglasa za prodaju luksuznih apartmana uz plaću od 130.000 dolara godišnje. Pretpostavimo zbog argumentacije da je njezin rad zamijenjen AI uslugom koja košta 10.000 dolara godišnje. U svakom slučaju to nije dio mašte da se to dogodi u bliskoj budućnosti, ako ne i sutra. Dakle, njezin poslodavac sada ima istu kvalitetu usluga uz uštedu od 120.000 dolara godišnje, a Margaret je bez posla. Ekonomisti će vam reći da će cijena luksuznih kondoma malo pasti, ali to se neće dogoditi. Te uštede idu direktno kompaniji koja je zaposlila nju i njezine dioničare. Margaret će biti plaćena nezaposlenost za nekoliko meseci, a onda će morati naći posao na tržištu rada koje je sve neprijateljski u odnosu na njezin set vještina. Njezina kompanija je efikasnija, a ipak je redundantna. S gledišta igre koju smo igrali, mogla bi takođe prestati postojati. Naravno, mogla bi obnoviti svoje vještine i postati drugačija vrsta radnika na znanju, koja još nije zamijenjena AI. mogla bi postati preduzetnica i započeti vlastitu kompaniju koristeći alate pomoću AI-a. To je roll kocke, naravno, jer više od 80% svih start-upova ne uspiju, čak i prije AI. A kada ima 60 miliona Margarets tamo, svaki traži svrhu, oni ne mogu svi biti preduzetnici. Društvo ne treba dodatnih 60 miliona dating aplikacija. Mi ne trebamo dodatnih 60 miliona influencera. Ne bismo trebali dozvoliti da postanu dodatnih 60 miliona ručnih radnika. S moralnog stajališta, može se tvrditi da postoji vrijednost u radu za svoje dobro, ali to nije vaš poziv da napravite. I AI, s relativno umjerenim dodatnim unosom energije i napora, vrlo brzo će zamijeniti čitave sektore ljudske radne snage, potencijalno poboljšavajući kvalitet ljudskog života. Ipak, u algebri našeg trenutnog kulturnog razmišljanja, ta ljudska bića koja su zamijenjena prestat će imati vrijednost, osim ako ne promijenimo našu perspektivu. Kada igrate muzičke stolice, bilo je, naravno, vrlo važno da ne budete jedan od prvih koji gube, ali kako sam odrastao, shvatio sam da i vi ne želite biti tako očajni da pobijedite da ste počeli igrati prljavo. Neće biti mjesta za nas u ovoj igri koju smo svirali, a izazov će biti kako pojedinačno tako i kao društvo da odluči šta tačno treba da uradimo sledeće. Reference za: The Adolescence of Technology by Dario Amodei: https://www.darioamodei.com/essay/the-adolescence-of-technology
