Vi ville spille indendørs på regnfulde dage eller fredage før en ferie. To rækker af stole i midten af klasseværelset, arrangeret bag-til-bag. Vores lærer ville begynde at spille en sang på en af de massive 70'erne cassette dæk, og vi børn ville gå rundt om de tomme stole, indtil musikken stoppede, på hvilket tidspunkt alle skulle tage et sæde. Der var altid en stol mindre end antallet af børn, så nogen blev smidt ud hver runde. taberen ville tage en stol væk, så vores lærer ville starte sangen over. Hvad der kom til at tænke på nu, når du læser Dario Amodeis essay, Menneskeheden står over for risici på kort og lang sigt, når vi programmerer vores vej mod kunstig generel superintelligens. Teknologiens ungdom Teknologiens ungdom Med hensyn til sund diskurs er baren for tech oligarker blevet sat ret lavt for nylig, med alle snakken om hvid overherredømme, antikrist, pædofili og brug af ens egne børn som vandrende blodbanker. De mest presserende bekymringer er eksistentielle, fordi selv en 5% chance for udryddelse er en større sag end en 80% chance for alvorlig arbejdsløshed.Men for mig er menneskehedens udryddelse stadig en vag trussel langt væk. Men den alvorlige arbejdsløshed er reel og nærmer sig som en stormsky på horisonten.For uanset om AI's fremtid er en velsignelse eller en forbandelse, vil vi absolut opleve massiv forvirring, da den spreder sig gennem økonomien. Konsekvenserne er lige begyndt at gøre sig kendt, og de vil stige med hver ny version af LLM frigivet. Selv om vi ramte nogle kvalitative plateau og AGI er ikke gennemførligt med vores nuværende teknologiske køreplan, vil de gevinster, der gøres lige nu og i løbet af de næste par år være nok til drastisk at desorienterer arbejdsstyrken. Og det er derfor, jeg hele tiden tænker på spillet af musikalske stole. Selvfølgelig har den forstyrrende indvirkning af ny teknologi været en faktor siden i det mindste den industrielle revolution, hvis ikke opdagelsen af landbruget. I 1785 kastede opfindelsen af power loom tusindvis af dygtige vævere ud af arbejdet. Men det viste sig at være en kort hiccup. De mest voldelige demonstranter blev henrettet eller sendt til strafkolonier, og fremskridt fortsatte. Generationer senere blev det betragtet som en positiv udvikling. Folk fik billigt tøj, og de følte sig bedre om sig selv. Men AI er et kvalitativt anderledes dyr. Det automatiserer ikke en bestemt proces; det automatiserer menneskeheden. Det automatiserer processerne. Da AI begynder at udvide individuel produktivitet og derefter gradvist erstatte menneskelig indsats helt, vil vi komme til at indse, at stole forsvinder med en hurtigere og hurtigere hastighed. Det er ikke en perfekt metafor, fordi den øgede menneskelige kapacitet, som AI styrker, betyder, at der vil være en større evne til at skabe helt nye og uventede fordele for menneskeheden. Desværre vil AI også gøre disse job bedre end dig. Stole forsvinder stille hver dag, og med hver ny økonomisk sammentrækning forårsaget af denne forstyrrelse, vil musikken stoppe kortvarigt, mens arbejdskraften sorterer sig ud. Med den teknologi, der er udviklet lige nu, vil en stor procentdel af terapeuter, copywritere, kundeserviceagenter, juridiske assistenter, life coaches, receptionister, bogholdere, redaktører, rejsebureauer, designere, illustratører, leveringschauffører, analytikere, konsulenter, rådgivere, investeringsbanker og alle former for entry-level arbejdstagere være hårdt presset til at finde arbejde. Menneskehedens produktivitet vil være steget drastisk, magten vil være blevet mere polariseret, og store grupper af mennesker vil indse, at de simpelthen ikke er væsentlige for samfundet. Men det er kun i forhold til det spil, vi har spillet, og vi har spillet det i meget lang tid. Men mere til pointen, denne kommende masse realisering af vores egen manglende forbindelse til samfundets væsentlige behov bør ikke komme som en overraskelse. Uden at indse det, i løbet af de sidste to århundreder, det store flertal af menneskelig indsats er blevet uundværlig. Over 90% af den amerikanske befolkning var involveret i landbruget i 1776. Ja, dit job som produktchef for vækst i Airbnb’s Costa Rica-division giver en værdifuld service. Du hjælper med at bringe udlejere og udbydere sammen på det kortsigtede udlejningsmarked i Centralamerika. Men i hvilket omfang betyder den indsats noget i sig selv? Du gør livet en smule bedre for et begrænset antal personer, der rejser på ferie i Santa Theresa, absolut. Og det er et net positivt. Men hvis det arbejde kunne gøres lige så godt eller bedre af, hvad der svarer til en kompliceret algoritme, var det nogensinde noget mere end buswork? Hvis du mister dit job og finder en anden, som AI endnu ikke har indsamlet, skal du spørge dig selv, hvilken reel værdi du tilbyder, og hvor længe du vil være i stand til at tilbyde det, før du er på gaden igen. Ifølge den forskning, som jeg er afhængig af AI til at gøre for mig, kun 35% af den amerikanske arbejdsstyrke beskæftiger sig med job, der er direkte relateret til aktiviteter, der er nødvendige for menneskets overlevelse.Dette omfatter undervisning, sundhed, infrastruktur, energi, konstruktion osv. Det betyder, at de resterende 65% gør arbejde, der i bedste fald forbedrer livskvaliteten og i værste fald tjener som en måde at holde dem travlt. Lad os tage en kvinde, Margaret, der optimerer online annonceplaceringer til salg af luksuriøse lejligheder med en løn på $ 130.000 om året. Antag for argumentets skyld, at hendes arbejde er erstattet af en AI-tjeneste, der koster $ 10.000 om året. Det er på ingen måde et stykke fantasi at se dette ske i den nærmeste fremtid, hvis ikke i morgen. Så hendes arbejdsgiver har nu den samme kvalitet af service med en besparelse på $ 120.000 om året, og Margaret er ude af et job. Økonomer vil fortælle dig, at prisen på luksus condos vil falde lidt, men det vil ikke ske. Disse besparelser går direkte til virksomheden, der ansatte hende og dens aktionærer. Margaret vil blive betalt arbejdsløshed i et par måneder, og så vil hun nødt til at finde arbejde på et jobmarked, der er mere og mere fjendtlig til hendes færdigheder. Hendes virksomhed er mere effektiv, og alligevel er hun overflødig. Fra perspektivet af det spil, vi har spillet, kunne hun også ophøre med at eksistere. Selvfølgelig kunne hun forny sine færdigheder og blive en anden slags videnarbejder, en, der endnu ikke er blevet erstattet af AI. Hun kunne blive iværksætter og starte sit eget firma ved hjælp af AI-støttede værktøjer. Det er en rulle af terningerne, selvfølgelig, da over 80% af alle startups fejler, selv før AI. Og når der er 60 millioner Margarets derude, hver på udkig efter et formål, kan de ikke alle være iværksættere. Samfundet har ikke brug for en ekstra 60 millioner dating apps. Fra et moralsk synspunkt kan det hævdes, at der er værdi i arbejde for egen skyld. Men det er ikke dit kald at gøre. Og AI, med relativt moderat ekstra input af energi og indsats, vil meget snart erstatte hele sektorer af den menneskelige arbejdsstyrke, potentielt forbedrer kvaliteten af det menneskelige liv. Og alligevel, i algebraen af vores nuværende kulturelle tankegang, vil de menneskelige væsener, der erstattes, ophøre med at have værdi. Når du spiller musikstole, var det selvfølgelig meget vigtigt ikke at være en af de første til at tabe, men da jeg blev ældre, indså jeg, at du også ikke ønskede at være så desperat at vinde, at du begyndte at spille beskidt. Der vil ikke være plads for os i dette spil, vi har spillet, og udfordringen vil være både individuelt og som samfund at bestemme, hvad vi præcis skal gøre næste. af Reference: The Adolescence of Technology by Dario Amodei: https://www.darioamodei.com/essay/the-adolescence-of-technology
