Mēs spēlējām iekštelpās lietus dienās vai piektdienās pirms brīvdienām. Divas krēslu rindas klases vidū, sakārtotas atpakaļ atpakaļ. Mūsu skolotājs sāka dziesmu spēlēt uz vienas no šīm masīvajām 70. gadu kasetēm, un mēs bērni pastaigājāmies pa tukšajiem krēsliem, līdz mūzika apstājās, kurā brīdī ikvienam bija jāaizņem sēdeklis. Vienmēr bija viens krēsls mazāk nekā bērnu skaits, tāpēc kāds tika izmests katrā kārtā. Kas nāk prātā tagad, lasot Dario Amodei eseju, Par tuvāko un ilgtermiņa riskiem, ar kuriem saskaras cilvēce, kad mēs plānojam savu ceļu uz mākslīgo vispārējo superinteliģenci. Tehnoloģijas pusaudža gados Tehnoloģijas pusaudža gados Attiecībā uz saprātīgu runu tehnoloģiju oligarhu slieksnis pēdējā laikā ir bijis diezgan zems, ar visu sarunu par balto pārākumu, antikristu, pedofiliju un savu bērnu izmantošanu kā staigājošu asins banku. Visnopietnākās bažas ir eksistenciālas, jo pat 5% izmiršanas iespēja ir lielāka nekā 80% nopietna bezdarba iespēja.Bet man cilvēces izmiršana joprojām ir neskaidrs drauds tālumā. Bet šis nopietnais bezdarbs ir reāls un tuvojas kā vētru mākonis uz horizonta. jo neatkarīgi no tā, vai AI nākotne ir svētība vai lāsts, mēs noteikti piedzīvosim masveida satricinājumus, jo tas izplatās caur ekonomiku. Ietekme ir tikai sāk kļūt zināms, un tie palielināsies ar katru jaunu versiju LLM izlaists. pat tad, ja mēs hit kādu kvalitatīvu plato un AGI nav iespējama ar mūsu pašreizējo tehnoloģisko ceļvedi, ieguvumi tiek veikti tieši tagad un nākamajos gados būs pietiekami, lai radikāli disorientēt darbaspēku. Un tas ir iemesls, kāpēc es turpinu domāt par mūzikas krēslu spēli. Protams, jauno tehnoloģiju traucējošā ietekme ir bijusi faktors vismaz kopš Rūpnieciskās revolūcijas, ja ne lauksaimniecības atklāšanas. 1785. gadā spēkstacijas izgudrojums izmeta tūkstošiem kvalificētu audēju no darba. Bet tas izrādījās īss hiccup. Visvairāk vardarbīgie protestētāji tika izpildīti vai nosūtīti uz kriminālkolonijām, un progress turpinājās. Pēc paaudzēm tas tika uzskatīts par pozitīvu attīstību. Cilvēki saņēma lētus apģērbus, un viņi jutās labāk par sevi. Bet AI ir kvalitatīvi atšķirīgs zvērs. tas neautomatizē konkrētu procesu; tas automatizē cilvēci. Tas automatizē procesu automatizāciju. Tā kā AI sāk paplašināt individuālo produktivitāti un pēc tam pakāpeniski aizstāj cilvēka pūles kopumā, mēs sapratīsim, ka krēsli pazūd ātrāk un ātrāk. Tā nav ideāla metafora, jo palielinātās cilvēka spējas, ko AI pilnvaro, nozīmē, ka būs lielāka spēja radīt pilnīgi jaunus un negaidītus ieguvumus cilvēcei. Diemžēl AI arī veiks šos darbus labāk nekā jūs. Un lielā mērā tas būs taisnība, pat ja mēs nesasniegsim mākslīgo vispārējo superinteliģenci. krēsli klusi pazūd katru dienu, un ar katru jaunu ekonomisko kontrakciju, ko izraisa šis traucējums, mūzika īslaicīgi apstāsies, kamēr darbaspēks atdala sevi. Ar tehnoloģiju, kas izstrādāta tieši tagad, liela daļa terapeitu, copywriters, klientu apkalpošanas aģenti, juridiskie palīgi, dzīves treneri, recepcionisti, grāmatveži, redaktori, ceļojumu aģenti, dizaineri, ilustratori, piegādes autovadītāji, analītiķi, konsultanti, konsultanti, investīciju banku darbinieki un visu veidu izejas līmeņa darbinieki būs grūti atrast darbu. Cilvēces produktivitāte būs ievērojami palielinājusies, vara būs kļuvusi polarizētāka, un liela daļa cilvēku sapratīs, ka viņi vienkārši nav būtiski sabiedrībai. Bet tas ir tikai saistībā ar spēli, kuru mēs esam spēlējuši, un mēs to esam spēlējuši ļoti ilgi. Bet vēl jo vairāk, šī nākamā masveida izpratne par mūsu pašu trūkumu saistībā ar sabiedrības būtiskajām vajadzībām nedrīkst būt pārsteigums. Neapzinoties to, pēdējo divu gadsimtu laikā lielākā daļa cilvēku pūļu ir kļuvusi par nenozīmīgiem. Vairāk nekā 90% amerikāņu iedzīvotāju 1776. gadā nodarbojās ar lauksaimniecību. Jā, jūsu darbs kā izaugsmes produktu vadītājs Airbnb Kostarikas nodaļā nodrošina vērtīgu pakalpojumu. Jūs palīdzat apvienot īstermiņa īres tirgū īstermiņa īrniekus un pakalpojumu sniedzējus Centrālamerikā. Bet cik lielā mērā šie centieni būtībā ir svarīgi? Jūs padarāt dzīvi mazliet labāku ierobežotam skaitam cilvēku, kas atvaļinās Santa Terēzā, absolūti. Un tas ir neto pozitīvs. Bet, ja šis darbs varētu tikt darīts tikpat labi vai labāk ar sarežģītu algoritmu, vai tas kādreiz bija kaut kas vairāk par autobusu? Ja jūs zaudējat savu darbu un atradīsiet citu, ko AI vēl nav apmaksājis, jums būs jājautā sev, kādu reālo vērtību jūs piedāvājat un cik ilgi jūs to varēsiet piedāvāt, pirms atkal būsiet uz ielas. Saskaņā ar pētījumu, ka es paļaujos uz AI darīt man, tikai 35% no amerikāņu darbaspēka iesaistās darbos, kas ir tieši saistīti ar darbībām, kas nepieciešamas cilvēka izdzīvošanai. Ņemsim sievieti, Margaret, kas optimizē tiešsaistes reklāmu izvietošanu luksusa dzīvokļu pārdošanai ar algu 130 000 ASV dolāru gadā. Pieņemsim argumentu labad, ka viņas darbs tiek aizstāts ar AI pakalpojumu, kas maksā 10 000 ASV dolāru gadā. Tas nekādā ziņā nav iztēles posms, lai redzētu, ka tas notiek tuvākajā nākotnē, ja ne rīt. Tāpēc viņas darba devējam tagad ir tāda pati pakalpojumu kvalitāte ar ietaupījumiem 120 000 ASV dolāru gadā, un Margaret ir bez darba. Ekonomisti jums pateiks, ka luksusa kondomu cena nedaudz samazināsies, bet tas nenotiks. Šie ietaupījumi iet tieši uz uzņēmumu, kas nodarbināja viņas un tās akcionārus. Margaret tiks izmaksāta bezdarbs dažus mēnešus, un tad viņai būs nepieciešams atrast darbu darba tirgū, kas ir arvien naidīgāks pret viņas prasmju kopumu. Viņas uzņēmums ir efektīvāks, un tomēr viņa ir lieka. No spēles perspektīvas mēs esam spēlējuši, viņa var arī pārtraukt pastāvēšanu. Protams, viņa varētu pārveidot savas prasmes un kļūt par cita veida zināšanu darbinieku, kas vēl nav aizstāts ar AI. Viņa varētu kļūt par uzņēmēju un sākt savu uzņēmumu, izmantojot AI palīdzētus rīkus. Protams, tas ir gabals, jo vairāk nekā 80% no visiem jaunuzņēmumiem neizdodas, pat pirms AI. Un, kad tur ir 60 miljoni Margarets, katrs meklē mērķi, viņi ne visi var būt uzņēmēji. Sabiedrībai nav vajadzīgi papildu 60 miljoni iepazīšanās lietotņu. Mums nav vajadzīgi papildu 60 miljoni ietekmētāju. No morāles viedokļa var apgalvot, ka darbā ir vērtība paša labā, bet tas nav jūsu aicinājums. Un AI, ar salīdzinoši mērenu papildu enerģijas un pūļu ieguldījumu, ļoti drīz aizstās veselas cilvēka darbaspēka nozares, potenciāli uzlabojot cilvēka dzīves kvalitāti. Un tomēr, mūsu pašreizējās kultūras domāšanas algebrā, tās cilvēciskās būtnes, kuras tiek aizstātas, vairs nebūs vērtīgas, ja vien mēs nemainīsim savu perspektīvu. Spēlējot mūzikas krēslus, protams, bija ļoti svarīgi nebūt vienam no pirmajiem, kas zaudē, bet, kā es pieaugu, es sapratu, ka jūs arī nevēlaties būt tik izmisīgi, lai uzvarētu, ka jūs sākat spēlēt netīri. Pirms pārāk ilga laika lielākā daļa no mums vienā vai otrā brīdī sapratīs, ka mūzika ir apstājusies.Mums nebūs vietas šajā spēlē, kuru mēs esam spēlējuši, un izaicinājums būs gan individuāli, gan kā sabiedrība, lai noteiktu, ko tieši mums vajadzētu darīt tālāk. Atsauce : The Adolescence of Technology by Dario Amodei: https://www.darioamodei.com/essay/the-adolescence-of-technology
