Az esős napokon vagy pénteken az ünnepek előtt játszottunk. Két sor szék az osztályterem közepén, vissza-vissza elrendezve. A tanárunk elkezdett egy dalt játszani az egyik hatalmas 70-es évek kazettás fedélzetén, és mi gyerekek sétáltunk az üres székek körül, amíg a zene megállt, amikor mindenkinek egy helyet kellett elfoglalnia. Mindig volt egy szék kevesebb, mint a gyerekek száma, így valakit minden körben kiűztek. Amit most eszembe jutott, Dario Amodei esszéjét olvasva, Rövid és hosszú távú kockázatokkal néz szembe az emberiség, ahogy programozzuk a mesterséges általános szuperintelligencia felé vezető utat. A technológia tinédzser éve A technológia tinédzser éve Ami az egészséges beszédet illeti, a technológiai oligarchák küszöbét az utóbbi időben meglehetősen alacsonyra állították, a fehér felsőbbrendűségről, az antikrisztusról, a pedofíliáról és a saját gyermekeinek járó vérbankként való felhasználásáról szóló beszédekkel. A legsürgetőbb aggodalmak egzisztenciálisak, mert még a kihalás 5% -os esélye is nagyobb, mint a súlyos munkanélküliség 80% -os esélye.De számomra az emberiség kihalása még mindig homályos fenyegetés a távolban. De ez a súlyos munkanélküliség valóságos és közeledik, mint egy viharos felhő a horizonton, mert függetlenül attól, hogy az AI jövője áldás vagy átok, minden bizonnyal hatalmas zavargásokat fogunk tapasztalni, ahogy a gazdaságban terjed. A hatások csak most kezdenek ismertté válni, és növekedni fognak az LLM minden új kiadásával. Még akkor is, ha minőségi magaslatot érünk el, és az AGI nem megvalósítható a jelenlegi technológiai ütemtervünkkel, a most és a következő néhány évben elért eredmények elegendőek lesznek a munkaerő drasztikusan dezorientálására. És ez az oka annak, hogy folyamatosan gondolok a zenei székek játékára. Természetesen az új technológia megzavaró hatása legalább az ipari forradalom óta tényező, ha nem a mezőgazdaság felfedezése. 1785-ben az elektromos cső találmánya több ezer szakképzett szőnyeget dobott ki a munkából. De ez rövid hiccupnak bizonyult. A legerőszakosabb tüntetőket kivégezték vagy büntető kolóniákba küldték, és a haladás folytatódott. Nemzedékekkel később pozitív fejleménynek tekintették.Az emberek olcsó ruhát kaptak, és jobban érezték magukat. De az AI minőségi szempontból más állat, nem automatizál egy bizonyos folyamatot, hanem automatizálja az emberiséget. automatizálja a folyamatokat. Ahogy az AI elkezdi bővíteni az egyéni termelékenységet, majd fokozatosan helyettesíti az emberi erőfeszítést, rájövünk, hogy a székek gyorsabban és gyorsabban eltűnnek. Ez nem tökéletes metafora, mert a megnövekedett emberi kapacitás, amelyet az AI felhatalmaz, azt jelenti, hogy nagyobb lesz a képesség, hogy teljesen új és váratlan előnyöket hozzon létre az emberiség számára. Sajnos az AI is jobban fogja elvégezni ezeket a munkákat, mint te. A székek minden nap csendben eltűnnek, és minden új gazdasági összehúzódással, amelyet ez a zavar okoz, a zene rövid időre leáll, miközben a munkaerő kiürül. A most kifejlesztett technológiával a terapeuták, copywriters, ügyfélszolgálati ügynökök, jogi asszisztensek, életedzők, recepcionisták, könyvelők, szerkesztők, utazási ügynökök, tervezők, illusztrátorok, szállítási sofőrök, elemzők, tanácsadók, befektetési bankárok és mindenféle belépő szintű munkavállaló nehezen talál munkát. Az emberiség termelékenysége drasztikusan növekedni fog, a hatalom polarizáltabbá válik, és az emberek nagy része rájön, hogy egyszerűen nem nélkülözhetetlenek a társadalom számára. De ez csak a játékhoz kapcsolódik, amit játszottunk, és nagyon sokáig játszottunk. De még ennél is fontosabb, hogy a társadalom alapvető szükségleteihez való kapcsolódásunk hiányának eljövendő tömeges felismerése nem jelenthet meglepetést. Anélkül, hogy észrevennénk, az elmúlt két évszázad során az emberi erőfeszítések túlnyomó többsége elhanyagolhatóvá vált.Az amerikai lakosság több mint 90% -a részt vett a mezőgazdaságban 1776-ban. Igen, az Airbnb Costa Rica-i divíziójának növekedési termékmenedzsereként végzett munkája értékes szolgáltatást nyújt. Ön segít a bérlők és szolgáltatók összefogásában a közép-amerikai rövid távú bérlési piacon. De milyen mértékben számít ez az erőfeszítés lényegében? Ön egy kicsit jobbá teszi az életet a Santa Theresa-ban nyaraló korlátozott számú személy számára. És ez egy nettó pozitívum. De ha ez a munka egy bonyolult algoritmus által is ugyanolyan jól vagy jobban elvégezhető, akkor ez valaha is több volt, mint egy busywork? Ha elveszíted a munkádat, és találsz egy másik munkát, amelyet az AI még nem számolt be, meg kell kérdezned magadtól, hogy milyen valódi értéket kínálsz, és mennyi ideig tudod felajánlani, mielőtt újra az utcán leszel. Az AI-ra támaszkodó kutatások szerint az amerikai munkaerőnek csak 35%-a végez olyan munkát, amely közvetlenül kapcsolódik az emberi túléléshez szükséges tevékenységekhez.Ez magában foglalja az oktatást, az egészségügyet, az infrastruktúrát, az energiát, az építkezést stb. Ez azt jelenti, hogy a fennmaradó 65% olyan munkát végez, amely a legjobb esetben javítja az életminőséget, és a legrosszabb esetben arra szolgál, hogy elfoglalt maradjon. Vegyünk egy nőt, Margaret-t, aki optimalizálja az online hirdetések elhelyezését a luxuslakások értékesítéséhez, évente 130 000 dolláros fizetéssel. Tegyük fel érvelés kedvéért, hogy munkáját egy AI-szolgáltatás váltja fel, amely évente 10 000 dollárba kerül. Ez egyáltalán nem a képzelet egy része, hogy ez a közeljövőben történjen, ha nem holnap. Tehát a munkáltatója most ugyanolyan minőségű szolgáltatást nyújt évente 120 000 dollár megtakarítással, és Margaret nincs munkája. A közgazdászok azt fogják mondani, hogy a luxuskondozók ára kissé csökkenni fog, de ez nem fog megtörténni. Ezek a megtakarítások közvetlenül a céghez mennek, amely alkalmazta őt és részvényeseit. Margaret néhány hónapig munkanélküliséget kap, majd munkát kell találnia egy olyan munkaerőpiacon, amely egyre ellenségesebb a készségeivel szemben. Cégük hatékonyabb, és mégis felesleges. A játék szempontjából, amit játszottunk, lehet, hogy megszűnik létezni. Természetesen megújíthatja készségeit, és másfajta tudásmunkássá válhat, amit még nem helyettesített az AI. Vállalkozókká válhat, és saját vállalkozást indíthat AI-támogatott eszközökkel. Természetesen ez a kocka, mivel az összes induló vállalkozás több mint 80% -a kudarcot vall, még az AI előtt is. És amikor 60 millió Margaret van, mindegyik célja van, nem lehetnek vállalkozók. A társadalomnak nincs szüksége további 60 millió társkereső alkalmazásra. Nem kell további 60 millió befolyásolót. Nem szabad engednünk, hogy további 60 millió kézi munkás legyen. Morális szempontból azt lehet érvelni, hogy a munka értéke önmagáért van.De ez nem a te felhívásod.A társadalom egyetlen igazi célja az emberi élet minőségének támogatása és védelme. És a mesterséges intelligencia, viszonylag mérsékelt további energia- és erőfeszítésbevételsel, nagyon hamarosan az emberi munkaerő teljes ágazatait helyettesíti, potenciálisan javítva az emberi életminőséget. És mégis, a jelenlegi kulturális gondolkodásmódunk algébrájában azok az emberi lények, akiket helyettesítenek, megszűnnek értékeik, hacsak nem változtatjuk meg perspektívánkat. Amikor zenei székeket játszott, természetesen nagyon fontos volt, hogy ne legyél az első, aki veszít, de ahogy idősebb lettem, rájöttem, hogy te sem akarsz annyira kétségbeesetten nyerni, hogy elkezdtél piszkosan játszani. Nem lesz helyünk ebben a játékban, amit játszottunk, és a kihívás mind az egyén, mind a társadalom számára az lesz, hogy pontosan meghatározzuk, mit kell tennünk a következőben. A hivatkozás: The Adolescence of Technology by Dario Amodei: https://www.darioamodei.com/essay/the-adolescence-of-technology