Whether we like it or not, and despite tales of its powers being greatly exaggerated, the AI genie is out of the box. What does that mean, and what can we do about it? I en anden twist af abysmal Åbent CEO Du kan finde dette forvirrende eller sjovt, eller du kan undre dig over, hvor det forlader AI influencer typer. Hvad er politik Sam Altman har lige indrømmet, at vi er i en AI-boble, og AGI mister relevans På trods af det absurde, At forbinde punkterne for at gøre det meningsfuldt kræver alt sammen langvarig erfaring inden for AI, ingeniørvirksomhed, forretning og videre.Med andre ord, for folk som Georg Zoeller: en erfaren software- og forretningsingeniør med erfaring inden for grænseteknologi i spilindustrien og Facebook. AI og den tilknyttede narrativ Zoeller har brugt AI i sit arbejde, der går tilbage til 2010'erne, til det punkt, hvor AI nu er kernen i, hvad han gør. , en Singapore-baseret sundhedspleje startup, samt medstifter af Og den . Ny sundhed Center for lederskab Læs mere om AI Literacy & Transformation Institute I A I dag diskuterer vi regulatorisk fangst, ophavsret, grænserne for opmærksomhedsøkonomien, den nye AI-religion, bygherrenes conundrum, hvordan den AI-drevne transformation af software engineering er et glimt ind i fremtidens arbejde, AI-litteratur og hvordan man navigerer i den modige nye verden. Omfattende samtale med Zoeller https://www.youtube.com/watch?v=U2okYcZ-ATs&embedable=true OpenAI’s regulatory capture OpenAI’s regulatoriske fangst Pick up på hvor vi forlod i , Zoeller hævder, at OpenAI aldrig vil levere den ROI, der blev lovet til investorer, fordi deres konkurrence ankom på samme punkt, hvor de brugte 100X (eller mere) mindre. Den overvældende udgivelse af GPT5 synes at understøtte denne afhandling, hvilket fik Altman til at backpedal. Del 1 af samtalen "Når du investerer i de rigtige mennesker, får du regulatorisk fangst i USA.Du har USA's præsident vært for dine fondssamlere, du har USA's vicepræsident gå til Paris og til AI-topmødet og danse den ingen sikkerhed dans. "Når du investerer i de rigtige mennesker, får du regulatorisk fangst i USA.Du har USA's præsident vært for dine fondssamlere, du har USA's vicepræsident gå til Paris og til AI-topmødet og danse den ingen sikkerhed dans. Kyllingerne vil komme hjem for at riste, fordi det er støttet af den amerikanske regering. Det ejes af den amerikanske regering. Vi ved, at en masse penge strømmer ind i disse virksomheder nu.” Kyllingerne vil komme hjem for at riste, fordi det er støttet af den amerikanske regering. Det ejes af den amerikanske regering. Vi ved, at en masse penge strømmer ind i disse virksomheder nu.” Zoeller påpeger, at den amerikanske regerings omfavnelse med AI bros er så stram, at det endda omfatter og få en vurdering. fodring af de sociale medier historier om hver enkelt person, der krydser grænsen til Grok Det ville være en krænkelse af rettighederne i ethvert normalt land, men vi er ikke i en normal skala længere. Moving fast and breaking copyright Flytter hurtigt og krænker ophavsret Ureguleret brug af AI har brudt ophavsret, argumenterer Zoeller. Skaberne satte en masse tid og kræfter, bare for at få deres arbejde stjålet foran deres øjne - det samme indhold, forskellige ord. rapporter om AI-genererede kopier af originalt indhold oversvømmer markedspladser som Amazon “De mennesker, der lavede dem på billige for tre dollars af ChatGPT, bruger aldrig nogen penge [oprettelse]. De bruger pengene på reklame. Jo mere volumen der er, det eneste, der betyder noget, er: vil nogen faktisk se mit produkt? “De mennesker, der lavede dem på billige for tre dollars af ChatGPT, bruger aldrig nogen penge [oprettelse]. De bruger pengene på reklame. Jo mere volumen der er, det eneste, der betyder noget, er: vil nogen faktisk se mit produkt? Som nogen, der skabte en bog eller en app, vil du altid være i en ulempe over for de grifters, der tager, hvad du gjorde. Som nogen, der skabte en bog eller en app, vil du altid være i en ulempe over for de grifters, der tager, hvad du gjorde. Han mener, at ophavsret blev skabt for at tilskynde skaberne til at fortsætte med at skabe, ikke fordi verden kunne lide kunstnere, men fordi verden kunne lide udgivere. For internettet i det store og hele. Bøgerne Mange af disse modeller er uddannet på Web 2.0-koncepter som Stack Overflow. Steder som dette, hvor hver softwareingeniør ville gå for at tjekke svar på spørgsmål og dele viden frit var en Zoeller tænker det. Web 2.0 fænomen, der ikke længere fungerer i verden af AI Han mener også, at med incitamentssystemet bliver brudt, kan vi ikke længere forvente, at du bare behøver at lave den rigtige app, og folk vil komme. Opmærksomhed er det underliggende primitive for alt, mere værdifuldt end penge, fordi det repræsenterer mulighed. The limits of the attention economy Grænserne for opmærksomhedsøkonomien Facebook er ikke De gør det, fordi acceleration af indholdsskabelse betyder mere og mere indhold på forsyningssiden. Giv et Manhattan-projekt værdien af AI væk gratis Det offentlige marked på den digitale økonomi formidles af en håndfuld virksomheder. for SMV'er er ofte hundredvis af dollars pr. bruger. Dette er en tavs skat på hvert element, der sælges, fordi reklamer er bagt ind i omkostningerne for hvert produkt. AI er nu kommoditiserer videnøkonomi digitale produkter, ligesom den industrielle revolution kommoditiserede fysiske varer. Omkostningerne ved at erhverve brugeren "Vi har et lidt lyserødt syn på industrialiseringen, fordi vi alle har biler og fancy ting i vores hjem, der tidligere var begrænset til rige mennesker. men den digitale økonomi er allerede kommoditiseret. "Vi har et lidt lyserødt syn på industrialiseringen, fordi vi alle har biler og fancy ting i vores hjem, der tidligere var begrænset til rige mennesker. men den digitale økonomi er allerede kommoditiseret. Så virkeligheden er, at vi ikke engang kommer til at se en udvidelse på forsyningssiden, fordi vi er stærkt begrænset af opmærksomhed. ”Folk har bare ikke mere tid til at bruge på deres telefoner, tid til at spille flere spil eller se flere film,” sagde Zoeller. Så virkeligheden er, at vi ikke engang kommer til at se en udvidelse på forsyningssiden, fordi vi er stærkt begrænset af opmærksomhed. ”Folk har bare ikke mere tid til at bruge på deres telefoner, tid til at spille flere spil eller se flere film,” sagde Zoeller. The AI religion Den religiøse Regeringer, Zoeller påpeger, er forsigtige med ikke at regulere teknologien af frygt for at gå glip af den magiske vækst, som den kan levere.Men vi har nået en død ende, fordi den eneste udvej tilbage for vækst er automatisering, dvs. fjernelse, arbejdspladser. Det tvinger regulatorer til at veje nuværende negative virkninger til utallige fremtidige rigdomme: "Ingen har modet til at gå væk fra vækst i en meget vækstbegrænset verden, fordi vi er lige på det punkt, hvor kapitalismen er som at løbe ud af vækst." https://pod.co/orchestrate-all-the-things-podcast-connecting-the-dots-with-george-anadiotis/breaking-the-ai-bubble-big-tech-plus-ai-equals-economy-takeover?embedable=true De techno-optimistiske scenarier hævder, at styring af AI vil gøre det muligt for verden at tage på sine største problemer, såsom: , og skabe overflod for alle. Zoeller kalder dette ud på både tekniske og sociale grunde. Klimaændringer På den tekniske front, Zoeller påpeger, at LLMs er rammer en væg.Alt indhold i verden, hver bog, der nogensinde er blevet skrevet, er sandsynligvis allerede i uddannelsen corpora af grænse LLMs. . Der er ikke noget scenarie, hvor det bliver til overmenneskelig intelligens "Du vil have svaret på klimaforandringerne? det er allerede der. vi kender svaret. vi kan bare ikke lide det. vi kan ikke lide, at vi er nødt til at reducere kulstofemissionerne. "Du vil have svaret på klimaforandringerne? det er allerede der. vi kender svaret. vi kan bare ikke lide det. vi kan ikke lide, at vi er nødt til at reducere kulstofemissionerne. Teknologien er blevet lidt af en religion. Det er som latin, højpræsten for vækst. Ingen ønsker at bekæmpe det, men det er nonsens. Hvor forlader det os? Teknologien er blevet lidt af en religion. Det er som latin, højpræsten for vækst. Ingen ønsker at bekæmpe det, men det er nonsens. Hvor forlader det os? The builder’s conundrum Bygherrenes forvirring Efter at have arbejdet med AI samt at have mange års erfaring i spilindustrien, bruger Zoeller dette som et eksempel på det conundrum, som folk står over for. Zoeller mener, at gamingindustrien er en skål, ikke fordi teknologien kan erstatte al kreativitet, men fordi det tager et stort antal job i den industri og sletter dem ud. 3D modellering er ikke længere vil være en ting for de fleste mennesker, fordi teknologien vil være i stand til at gøre det. Meget snart. Videoer, der er tæt på uadskillelige fra virkeligheden Det er kun et spørgsmål om tid, indtil gode fortællere får deres hænder på det og integrerer det i deres proces. Zoeller mener, at et AI-native gaming studio er muligt i dag. "Vi er i en mærkelig situation, hvor det er for tidligt, måned for måned, at dykke ind i teknologien og virkelig bygge med det. Men du bør dykke ind i teknologien for at blive bekendt med det og få den følelse af, hvornår det vil plateau, når vil være det rigtige tidspunkt at bygge. "Vi er i en mærkelig situation, hvor det er for tidligt, måned for måned, at dykke ind i teknologien og virkelig bygge med det. Men du bør dykke ind i teknologien for at blive bekendt med det og få den følelse af, hvornår det vil plateau, når vil være det rigtige tidspunkt at bygge. Vi ved, at om seks måneder eller et år, vil der være det magiske punkt, hvor det begynder virkelig at gøre mening. Vi ved, at om seks måneder eller et år, vil der være det magiske punkt, hvor det begynder virkelig at gøre mening. Samtidig, når teknologien interagerer med den virkelige verden, er hypen helt ude af grund, især omkring agenter - det fungerer bare ikke, "sagde Zoeller. Samtidig, når teknologien interagerer med den virkelige verden, er hypen helt ude af grund, især omkring agenter - det fungerer bare ikke, "sagde Zoeller. AI is transforming software engineering AI er ved at omdanne software engineering Zoeller delte også sin erfaring med at arbejde i et kritisk område som sundhedspleje. Den upålidelighed af LLM-baseret AI gør det uegnet til sådanne applikationer. Og alligevel må folk arbejde med det. Det er i starten skræmmende, og det vil få dig til at føle dig næsten demotiveret, som Zoeller siger det. For eksempel Human coders er relegeret til code reviewers, og . Software engineering bliver noget andet At gennemgå kode skrevet af en maskine, der svinger mellem at lave dumme fejl og skrive strålende kode er kedeligt. Zoeller anerkender, at for nogle scenarier er AI-kodning så hurtig, at håndkodning ikke længere giver mening. Det introducerer nondeterminisme i abstraktionslagene i software engineering. AI kodning bringer et radikalt anderledes aspekt til software engineering, og ikke nødvendigvis en god Software engineering har udviklet sig fra arbejde i lavt niveau monteringssprog til gradvist højere niveauer af abstraktion. Der er mange lag af abstraktion nu, hvilket betyder en masse kompleksitet også. af Et sæt input producerer et andet sæt outputs på en pålidelig måde.Det er en forudsætning for test, som er en stor, meget vigtig del af software engineering disciplin. “Du kan bor hele vejen ned til mikroprocessoren for at finde hvad bug er i softwaren og gøre det arbejde. Men det øjeblik du tilføjer GenAI til det, er det spil over – fordi GenAI er ikke-deterministisk. Du kan have en input, og det kan have uendelige outputs. og du kan teste hundrede gange og hundrede og første gang, det er forkert. “Du kan bor hele vejen ned til mikroprocessoren for at finde hvad bug er i softwaren og gøre det arbejde. Men det øjeblik du tilføjer GenAI til det, er det spil over – fordi GenAI er ikke-deterministisk. Du kan have en input, og det kan have uendelige outputs. og du kan teste hundrede gange og hundrede og første gang, det er forkert. Det lyder måske ikke forfærdeligt. Men når du har ti tusinde patienter, er en 99% succesrate ikke god nok. Dette er massivt undervurderet. Det er noget, du skal undervise i, fordi testning ikke længere virker. Du skal skifte til observation for at holde din software kørende sikkert,” påpeger Zoeller. Det lyder måske ikke forfærdeligt. Men når du har ti tusinde patienter, er en 99% succesrate ikke god nok. Dette er massivt undervurderet. Det er noget, du skal undervise i, fordi testning ikke længere virker. Du skal skifte til observation for at holde din software kørende sikkert,” påpeger Zoeller. Tilmeld dig Orchestrate all the things nyhedsbrev Historier om, hvordan teknologi, data, AI og medier strømmer ind i hinanden og former vores liv. Analyse, essayer, interviews og nyheder. mellemlang til lang form, 1-3 gange om måneden. Tilmeld dig her 👉 https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ Tilmeld dig Orchestrate all the things nyhedsbrev Historier om, hvordan teknologi, data, AI og medier strømmer ind i hinanden og former vores liv. Analyse, essayer, interviews og nyheder. mellemlang til lang form, 1-3 gange om måneden. Tilmeld dig her 🙂 https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ AI Literacy Hvad er litteratur Under alle omstændigheder, selv for folk, der føler, at det er værd at skubbe tilbage, er Zoellers budskab klart: du skal stadig lære teknologien. Så spørgsmålet er, hvad er den bedste måde at gøre det på? AI-litteratur er et krav i EU's AI Act fra 2025.Dette betyder, at enhver organisation, der bruger AI på en eller anden måde, skal sikre AI-litteratur for sine mennesker. Hvad er litteratur Zoeller er også involveret i AI Literacy-programmer, og han mener, at de fleste uddannelsesinstitutioner ikke er egnede til formålet. Teknologienes grænseart er uforenelig med deres interne bureaukrati. Plus, Zoeller bemærker, er det akademiske peer review-system på dette tidspunkt dybt problematisk - sidestillet af Arxiv og kapret af PR og AI-slop. For at være opdateret og nyttig kræver AI-uddannelse pædagoger, der bruger og eksperimenterer med teknologien og også holde styr på den nyeste forskning. Et typisk eksempel er den såkaldte prompt engineering. , som allerede er et problem. Men det bliver værre, fordi det meste af det også er forældet og forkert af nu. Størstedelen af det tilgængelige undervisningsmateriale er fokuseret udelukkende på ChatGPT Hvad du skal lære folk, understreger Zoeller, er de grundlæggende principper, der hjælper med at forbinde, hvordan denne teknologi fungerer med deres egen erfaring. ting som de første principper for AI, hvordan transformatorer virker, hvilke typer brugstilfælde låner sig til AI, og hvad er fælderne. Zoeller er fokuseret på Årsagen, siger han, er, fordi folk er nødt til at gå igennem en skuffelse ved at indse, hvad AI kan betyde for deres organisation. AI-litteratur til ledere og line managers Big Tech plus AI equals economy takeover Big Tech plus AI svarer til økonomisk overtagelse Uanset om du er enig med Zoellers holdninger eller ej, er der én ting, som de fleste af os vil være enige om: Det hele bevæger sig med overmenneskelig hastighed, og ingen er virkelig i stand til at holde op med det længere. : ikke den slags, som folk plejer at tænke på i forbindelse med AGI “Singularitet er det punkt, hvor fremskridt går så lige op, at man ikke længere kan se bag på, hvad der sker næste dag eller hvad der er bag kurven. Vi er allerede her. Ikke fordi teknologien er så hurtig endnu – der er desværre stadig plads til at gå – men fordi kapaciteten i vores institutioner, vores styringsorganisationer er langt overgået. “Singularitet er det punkt, hvor fremskridt går så lige op, at man ikke længere kan se bag på, hvad der sker næste dag eller hvad der er bag kurven. Vi er allerede her. Ikke fordi teknologien er så hurtig endnu – der er desværre stadig plads til at gå – men fordi kapaciteten i vores institutioner, vores styringsorganisationer er langt overgået. Jeg tror, at det er bevidst, fordi jeg arbejdede i Big Tech. Hvad var nogle gange en ulempe for os, vores seks måneders præstationscyklusser for eksempel, er nu et plus. Disse virksomheder har indset, at de bogstaveligt talt er ude af stand til at køre projekter, der er længere end seks måneder på grund af incitamentssystemet. Jeg tror, at det er bevidst, fordi jeg arbejdede i Big Tech. Hvad var nogle gange en ulempe for os, vores seks måneders præstationscyklusser for eksempel, er nu et plus. Disse virksomheder har indset, at de bogstaveligt talt er ude af stand til at køre projekter, der er længere end seks måneder på grund af incitamentssystemet. Hvis du planlægger et projekt, der tager længere end seks måneder i det digitale rum lige nu, siger du – jeg kan forudsige, hvor AI vil være om et år, og at det ikke vil gøre alle mine investeringer forældede.” Hvis du planlægger et projekt, der tager længere end seks måneder i det digitale rum lige nu, siger du – jeg kan forudsige, hvor AI vil være om et år, og at det ikke vil gøre alle mine investeringer forældede.” Zoeller mener, at ingen er i stand til en sådan forudsigelse, fordi Big Tech-selskaber bevidst accelererer teknologi for at holde resten af økonomien sårbar over for dem. AI is not your average disruptive innovation AI er ikke din gennemsnitlige forstyrrende innovation Et typisk argument mod AI-skepticisme er, at dette er det sædvanlige I tide vil støvet sætte sig, vi vil finde ud af det hele, og nye job vil blive skabt, som vi ikke engang kan forestille os på dette tidspunkt. Cyklus af teknologisk forstyrrelse Hvad der er anderledes denne gang er hastighed, siger han. I modsætning til infrastruktur for tidligere teknologier som elektricitet eller biler, som tog lang tid at implementere fysisk, er infrastrukturen for AI digital og det er allerede der - API'er, apps, open source, GPU'er, skyen. af Folk, argumenterer han, er ikke meget gode til at vedtage nye teknologier - de skal skubbes. Det er ofte ikke smukt, men tid gør al forskellen i at mindske virkningen på samfundet. Men det er ikke det eneste, der er anderledes om AI, tilføjer han.For at illustrere dette punkt, vender Zoeller sig igen til software. han refererer til software som "en maskine, der automatiserer en bestemt opgave". "Når man ser på transformatorens egenskaber, er det, hvad det i det væsentlige kommer til at være - hvis der er tilstrækkelige data til rådighed om udbyttet af et erhverv, og der er mønstre i erhvervet, og tilstrækkelig volumen, kan det automatiseres. "Når man ser på transformatorens egenskaber, er det, hvad det i det væsentlige kommer til at være - hvis der er tilstrækkelige data til rådighed om udbyttet af et erhverv, og der er mønstre i erhvervet, og tilstrækkelig volumen, kan det automatiseres. Så når folk siger, at vi altid har fundet ud af nye job, er det okay. men vi har aldrig stået over for en teknologi, der kan automatisere ethvert job, der har mønstre. Så når folk siger, at vi altid har fundet ud af nye job, er det okay. men vi har aldrig stået over for en teknologi, der kan automatisere ethvert job, der har mønstre. The brave new AI world Den modige nye AI verden Software engineering er blandt de første erhverv, der forstyrres, Ironisk nok er softwareingeniører nu ved at modtage den automatisering, de har hjulpet med at skabe.Extrapolerer dette, mener Zoeller, at vi sandsynligvis ser en fremtid, hvor folk først hjælper med at træne deres erstatninger, og derefter relegeres til kvalitetssikring roller. fordi der er rigelige data, der kan bruges til træning, og output er testbar Faktisk udtrykker han det tydeligt – vi kører en anden industriel revolution, men denne har nye egenskaber, der gør den ekstremt farlig for samfundet. Ikke fordi rogue AI kan tage over, men fordi det kan føre til et fuldstændigt system sammenbrud – eller rettere, vi kan tilføje, fremskynde den vej, vi allerede er på. "Jeg tror ikke, at vi kan sige, at vi kommer til at være i orden. Vi bliver nødt til at arbejde for at være i orden, og vi vil have brug for lederskab, for at være i orden," Zoeller konkluderede. "Jeg tror ikke, at vi kan sige, at vi kommer til at være i orden. Vi bliver nødt til at arbejde for at være i orden, og vi vil have brug for lederskab, for at være i orden," Zoeller konkluderede. Tilmeld dig Orchestrate all the things nyhedsbrev Historier om, hvordan teknologi, data, AI og medier strømmer ind i hinanden og former vores liv. Analyse, essayer, interviews og nyheder. mellemlang til lang form, 1-3 gange om måneden. Tilmeld dig her 👉 https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ Tilmeld dig Orchestrate all the things nyhedsbrev Historier om, hvordan teknologi, data, AI og medier strømmer ind i hinanden og former vores liv. Analyse, essayer, interviews og nyheder. mellemlang til lang form, 1-3 gange om måneden. Tilmeld dig her 🙂 https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/ https://linkeddataorchestration.com/orchestrate-all-the-things/newsletter/
