Ons sou binnenshuis speel op reëndae of Vrydag voor 'n vakansie. Twee rye stoele in die middel van die klaskamer, terug-na-terug gearrangeer. Ons onderwyser sou 'n lied begin speel op een van daardie massiewe 70's-era cassette dekke, en ons kinders sou rond die leë stoele loop totdat die musiek gestop het, op wat punt almal moes sit. Daar was altyd 'n stoel minder as die aantal kinders, so iemand is elke ronde uitgegooi. Wat nou in die gedagtes kom, lees die essay van Dario Amodei, , oor die kort- en langtermyn risiko's wat die mensdom in die gesig staar as ons ons pad na kunsmatige algemene superintelligensie programmer. Die Adolessensie van Tegnologie Die Adolessensie van Tegnologie Met betrekking tot gesonde diskursus, is die bar vir tegnologiese oligarchs onlangs redelik laag, met al die praat van wit oorheersing, die antichris, pedofilie, en die gebruik van 'n se eie kinders as loop bloedbanke. Die mees dringende bekommernisse is eksistensiële, want selfs 'n 5% kans op uitsterwing is 'n groter saak as 'n 80% kans op ernstige werkloosheid.Maar vir my is die uitsterwing van die mensdom nog steeds 'n vaag bedreiging weg in die afstand.Dit word in my gedagtes verwar met al die wetenskapfiksie films wat ek gesien het en boeke wat ek gelees het. Maar daardie ernstige werkloosheid is werklik en nader soos 'n stormwolk op die horison, want ongeag of die toekoms van AI 'n seën of 'n vloek is, gaan ons absoluut massiewe onrust ervaar as dit deur die ekonomie versprei. Die implikasies begin net om hulself bekend te maak, en hulle sal toenemend met elke nuwe weergawe van die LLM vrygestel. Selfs as ons 'n kwalitatiewe plateau en AGI is nie haalbaar met ons huidige tegnologie roadmap, die winste wat gemaak word nou en oor die volgende paar jaar sal genoeg wees om drasties die werksmag te desoriënteer. En dis hoekom ek voortdurend dink aan die spel van musiekstoele. Natuurlik was die ontwrigende impak van nuwe tegnologie 'n faktor sedert ten minste die Industriële Revolusie, indien nie die ontdekking van landbou nie. In 1785 het die uitvinding van die kragstorm duisende vaardige weefswerkers uit die werk gegooi. Maar dit blyk 'n kort hiccup te wees. Die mees gewelddadige betogers is geëxecuteer of na strafkolonies gestuur, en vordering het voortgegaan. Generasies later is dit beskou as 'n positiewe ontwikkeling. mense het goedkoop klere gekry, en hulle het beter gevoel oor hulself. Maar AI is 'n kwalitatief ander dier.Dit automatiseer nie 'n spesifieke proses nie; dit automatiseer die mensdom. Dit automatiseer die proses van outomatisering. Soos AI begin om individuele produktiwiteit uit te brei en dan geleidelik menslike inspanning heeltemal te vervang, sal ons besef dat die stoele vinniger en vinniger verdwyn. Dit is nie 'n perfekte metafora nie, want die verhoogde menslike vermoë wat AI versterk, beteken dat daar 'n groter vermoë sal wees om heeltemal nuwe en onverwagte voordele vir die mensdom te skep. Ongelukkig sal AI ook daardie werk beter doen as jy. En in 'n groot mate sal dit waar wees, selfs as ons nie kunsmatige algemene superintelligensie bereik nie. stoele verdwyn stil elke dag, en met elke nuwe ekonomiese sametrekking wat veroorsaak word deur hierdie afwyking, sal die musiek kortliks stop terwyl die arbeidskrag homself uitskakel. Met die tegnologie wat nou ontwikkel word, sal 'n groot persentasie terapeute, kopieë, kliëntediensagente, regsassiste, lewenscoaches, ontvangswerkers, boekhouders, redakteurs, reisagentskappe, ontwerpers, illustrators, afleweringsbestuurders, analiste, konsultante, adviseurs, beleggingsbankiers, en alle vorme van entry-level werkers moeilik wees om werk te vind. Die produktiwiteit van die mensdom sal drasties toeneem, mag meer gepolariseer word, en groot groepe mense sal besef dat hulle eenvoudig nie noodsaaklik is vir die samelewing nie. Maar dit is net in verband met die spel wat ons gespeel het. Maar meer tot die punt, hierdie komende massa besef van ons eie gebrek aan verbinding met die noodsaaklike behoeftes van die samelewing moet nie as 'n verrassing kom nie. Sonder om dit te besef, in die loop van die afgelope twee eeue, het die oorgrote meerderheid van die menslike poging onbelangrik geword. Meer as 90% van die Amerikaanse bevolking was betrokke by landbou in 1776. Ja, jou werk as Growth Product Manager van Airbnb se Costa Rica-afdeling bied 'n waardevolle diens. Jy help om huurders en verskaffers saam te bring in die Midde-Amerikaanse korttermynverhuurmark. Maar in watter mate beteken daardie poging intrinsiek? Jy maak die lewe 'n bietjie beter vir 'n beperkte aantal individue wat in Santa Theresa op vakansie is, absoluut. En dit is 'n net positiewe. Maar as daardie werk net so goed of beter gedoen kon word deur wat 'n ingewikkelde algoritme bedra, was dit ooit iets meer as buswerke? As jy jou werk verloor en nog 'n ander vind wat AI nog nie gesond gemaak het nie, sal jy jouself moet vra watter werklike waarde jy bied en hoe lank sal jy dit kan bied voordat jy weer op die straat is. Volgens die navorsing wat ek vertrou op AI om vir my te doen, doen slegs 35% van die Amerikaanse arbeidskrag werk wat direk verband hou met aktiwiteite wat nodig is vir menslike oorlewing.Dit sluit in onderwys, gesondheid, infrastruktuur, energie, konstruksie, ens. Kom ons neem 'n vrou, Margaret, wat aanlyn-advertensieplaasings vir luukse-appartementverkoop op 'n salaris van $ 130,000 per jaar optimiseer. Veronderstel vir die sake van argumente dat haar werk vervang word deur 'n AI-diens wat $ 10.000 per jaar kos. Dit is glad nie 'n breuk van die verbeelding om dit in die nabye toekoms te sien gebeur, indien nie môre nie. So haar werkgewer het nou dieselfde kwaliteit van diens by 'n besparing van $ 120.000 per jaar, en Margaret is uit 'n werk. Ekonomiste sal jou vertel dat die prys van luukse condos sal 'n bietjie af, maar dit sal nie gebeur nie. Hierdie besparings gaan direk na die maatskappy wat haar en sy aandeelhouers gewerk het. Margaret sal vir 'n paar maande werkloosheid betaal word, en dan sal sy werk moet vind in 'n werkmark wat toenemend vyandig is aan haar vaardighede. Sy maatskappy is meer doeltreffend, en tog is sy redundant. Uit die perspektief van die spel wat ons gespeel het, kan sy ook ophou bestaan. Natuurlik kan sy haar vaardighede hanteer en 'n ander soort kenniswerkers word, een wat nog nie deur AI vervang is nie. Sy kan 'n ondernemer word en haar eie maatskappy begin met behulp van AI-ondersteunde gereedskap. Dit is 'n rol van die stukkies, natuurlik, aangesien meer as 80% van alle start-ups misluk, selfs voor AI. En wanneer daar 60 miljoen Margarets daar buite is, elkeen op soek na 'n doel, kan hulle nie almal entrepreneurs wees nie. Samelewing het nie 'n ekstra 60 miljoen dating apps nodig nie. Uit 'n morele standpunt kan argumenteer word dat daar waarde in werk vir sy eie sake is.Maar dit is nie jou roeping om te doen nie.Die enigste ware doel van die samelewing is om die kwaliteit van die menslike lewe te ondersteun en te beskerm. En AI, met relatief matige bykomende invoer van energie en inspanning, sal baie gou hele sektore van die menslike arbeidskrag vervang, wat potensieel die kwaliteit van menslike lewe kan verbeter. En tog, in die algebra van ons huidige kulturele denkbeeld, sal die menslike wesens wat vervang word, ophou waarde hê, tensy ons ons perspektief verander. By die speel van musiekstoele was dit natuurlik baie belangrik om nie een van die eerste te wees om te verloor nie, maar toe ek ouer geword het, het ek besef dat jy ook nie so wanhopig wou wees om te wen dat jy vuil begin speel nie. Daar sal geen plek vir ons wees in hierdie spel wat ons gespeel het nie, en die uitdaging sal beide individueel en as 'n samelewing wees om te bepaal wat presies ons volgende moet doen. Verwysings : The Adolescence of Technology by Dario Amodei: https://www.darioamodei.com/essay/the-adolescence-of-technology
