For nylig deltog jeg i en rundborddebat om AI-temaer ved University of Oxford, tilsluttet af akademikere og AI- og compliance-fagfolk. En af deltagerne begyndte at tale om den skræmmende "AI-singularitet". got me thinking a lot about the intersection between the two domains. I started playing with the idea of finding correlations between AI and physics. Den unikke Teknologiske sorte huller: den AI-singularitet I fysikken er en singularitet en region, hvor krumningen af rumtid bliver uendelig. Konceptet er berømt for at være bundet til sorte huller, hvor materie er komprimeret til uendelig tæthed og nul volumen, og tid og rum bøjer faktisk uendeligt. – tilgiv for forenklingen, fysikere (se I modsætning til sorte huller, hvorfra intet kan undslippe, når det kommer ind i deres grænse, uddriver hvide huller stof og kan ikke komme ind. white hole Hvide huller Hvide huller Anvendelsen af teknologien som et punkt, hvor teknologiske muligheder bliver uendelige og ukontrollerbare er bestemt ikke nyt. : det hypotetiske øjeblik i fremtiden, hvor AI overgår menneskelige kognitive evner og bliver selvstændig i selvforbedring og skalering. Dette yderligere styrker ideen om, at mennesker måske en dag ikke længere kan forstå, og derfor kontrollere, AI-systemer. Disse bekymringer er sandsynligvis blæst ud af proportion, opblæst af kinematografisk fantasi, og synes at være begrænset af virkeligheden af vores begrænsede ressourcer. I nutiden . Singularitet Den unikke Umuligt at opnå Horisonten af AI-modeller Som nævnt, intet krydser grænsen for et sort hul kan så undslippe. ikke engang lys, som er fanget for evigt. . It is not a visible edge, but rather a mathematical region – one that we need to thank for det. Begivenhedshorisont af Karl Schwarzschild Der er et noget lignende koncept i AI-systemer – det vil sige en begivenhedshorisont, ud over hvilken en AI-modells pålidelighed begynder at smuldre væk.Denne grænse bestemmes af fordelingen af dataene, som et AI-system blev trænet på. Generalisering i sig selv er en AI-modells evne til at " Indtastninger, der aldrig var set før, når generaliseringen er dårlig, ” ”. OOD (out-of-distribution) generaliseringsproblem Håndtering af input, der ikke blev stødt på under træningen Det kan udføre perfekt på de data, det blev trænet på, men fejler elendigt, når det står over for nye data. Dette spørgsmål er knyttet til begrebet , hvor en model lærer både relevante og irrelevante funktioner på én gang for at lave gode forudsigelser. Når data ændres, kan indflydelsen af irrelevante funktioner betydeligt nedsætte nøjagtigheden af gode forudsigelser. For eksempel kan en naturlig sprogbehandling (NLP) model trænet på sæt med meget specifikke udtryk kæmpe med nøjagtig behandling og fortolkning af sætninger, der ikke indeholder disse specifikke udtryk. feature contamination Begivenhedshorisonten i AI-modeller er mere sandsynligt et ukartet område end en region med uendelig krumning.Men det er interessant, hvordan i både AI og fysik verdener, når du krydser det, ventilerer du dig selv ind i det ukendte - og det utænkelige kunne bare ske. Kvantemekanik: Sandsynlighedsbegrundelse AI er ikke kun et spørgsmål om Einsteins relativitetsteori, men også en I hjertet af kvantemekanikken ligger den mest underlige, vanvittige idé: usikkerhed er universets grundlæggende træk. Underlig, ikke sandt? Faktisk kan du tænke på denne bølgefunktion som et "kort over sandsynligheder", der viser, hvor den partikel kan være, eller hvor hurtigt den kan bevæge sig ( dens momentum). quantum Superposition Clearly, AI doesn’t obey quantum mechanics laws (or at least not yet). But much like quantum physics, AI operates under a probabilistic rather than a deterministic logic. The most obvious example is ChatGPT. When you give it a prompt, ChatGPT will go through a massive cloud (or wavefunction) of potential meanings, to predict the sequence of words that is most likely to articulate a Modellen vil i det væsentlige konkludere, hvilket ord der er mest sandsynligt at være det rigtige efter det foregående. Konsekvent reaktion In other words, much like quantum physics, AI is about statistical realities, not set-in-stone absolutes. Videnens udvidende univers Som mange forskere på hans tid var Einstein ikke overbevist om, at universet udvidede sig. hans ligninger viste, at universet enten skulle udvide eller krympe, men han var tilbageholdende med ideen om, at universet faktisk kunne være i bevægelse overhovedet. , et mål for en vis "anti-gravitation" effekt (Λ), der kompenserer for universets udvidelse som beskrevet af hans egne forudsigelser. I bagudseende burde han have tillid til sin egen matematik. Takket være Edwin Hubble, som i 1929 fandt ud af, at galakserne bevæger sig væk fra os, ved vi nu, at universitetet faktisk udvider. Einstein senere indså, at han havde været forkert, kalder sin kosmologiske konstant " Einstein havde ret meget. Hubble viste, at han havde ret, selv når han var forkert. Kosmologisk konstant Mit livs største fejltagelse På et grundlæggende niveau kan man argumentere for, at AI udvider viden ved at give oplysninger til brugerne. Uanset om det er ChatGPT eller en binær model, vil den, der indtaster en forespørgsel, modtage et svar, der kan udvide personlig viden, drive forretningsbeslutninger osv. Derudover skalerer AI ikke kun mængden af data, vi indsamler og behandler, men også udnytter det til at øge sin egen operationelle viden. using anonymized data from its users’ conversations. Periodisk raffineret eller finjusteret But there’s more to it. Cosmic expansion is the cornerstone of our understanding of the world because it’s inherently, profoundly tied to our idea of order. The Big Bang, from which the cosmic expansion originates, gave order to time and space (see next section). It marked the watershed moment between an unknown before and everything that followed. Whatever the before was (because we don’t know) was unimaginably hot, the after has been progressively cooling down ever since. With no external influence, a body that is hot, like a cup of coffee, slowly becomes lukewarm, then cold. Orden er imidlertid ikke kun et spørgsmål om retning (fortid til nutid); det er også en proces af organisation. Kosmisk ekspansion beskriver, hvordan universet omdanner kaos og uregelmæssigheder til struktur og form (afslutningsvis er kosmos et græsk ord, der betyder "ordre"). På samme måde hjælper AI os med at omdanne støj og tvetydighed til mening og viden. Og hvad der er mest forbløffende er, at begge processer er spontane og selvorganiserende - den ene drevet af fysik, den anden af algoritmer. I modsætning til kosmisk inflation kan AI's ekspansionsproces dog stadig stoppes, hvis mennesker er villige til at gøre det. Bias baggrundsstråling Einsteins korrekte forudsigelse om universets udvidelse blev optaget i 1927. , en belgisk fysiker og præst, der teoriserede det, vi i dag kalder Big Bang-teorien (nope, ikke den overvurderede sitcom...). af George Lemaître For omkring 13,8 milliarder år siden udvidede en ekstremt varm og tæt tilstand, sandsynligvis en singularitet, sig hurtigt med en enorm atmosfære. Denne begivenhed var katalysatoren for dannelsen af alt stof, herunder dannelsen af galakser og antændelsen af stjerner. Det var så voldsomt, at selv i dag, lidt mindre end 14 milliarder år senere, kan vi stadig detektere dets efterglød, i form af et svagt signal, der gennemsyrer universet og forsigtigt hummer gennem dets stof. . Bang er Bang er Kosmisk mikrobølge baggrundsstråling So, a relic radiation, from an initial catastrophic event survives today, though at a minimal scale and going unnoticed without sophisticated mechanisms. Something quite similar takes place in AI models relative to training data, and in particular to the concept of data representativeness. If data is representative of all groups (gender, race, age, ethnicity, sexual orientation, and so on), the model is likely to stay fair. On the other hand, if the data is not representative (incomplete or biased), the model will highly likely produce outputs that are unintentionally discriminatory toward certain groups. In fact, data representativeness is one of the key dimensions against which an AI model is tested by AI ethicists and compliance experts. Ideally, you would identify bias Hvis du ikke gør det, bliver du nødt til at afhjælpe bias efter implementering, for at sikre, at der ikke sker nogen forskelsbehandling (eller i det mindste minimeres). skitsere de bedste praksis standarder for at teste fairness og robusthed af din AI model (sikkert værd at læse, hvis du er nerd nok!). before ISO/IEC 24027 Retningslinjer Uanset hvad, pointen med det hele er: når man ikke tager sig af det, fortsætter fordommen og spreder sig, ligesom den kosmiske baggrundsstråling har overlevet gennem milliarder af år. Og når det gør, kan den samfundsmæssige indvirkning være ikke-triviel: en brilliant kvindelig kandidat kan udelukkes af en forudsigende model til fordel for mindre kvalificerede mandlige kandidater, fordi uddannelsesdataene bærer kønsfordomme. The good news is that again, unlike the Big Bang’s radiation, we can definitely do something about it. That’s what we AI governance and compliance guys are here for. We cannot stop the fra at spille gennem galakser (hvis noget, lad os holde det kommer!). Men AI model bias? Musik af Big Bang Musik af Big Bang The Stellar Decay of AI Models Jeg vil ikke leve længe nok til at se en stjerne kollapse i en neutronstjerne, men hej, aldrig sige aldrig. hvem ville have sagt, at vi ville være i stand til at "fotografere" sorte huller og detektere gravitationsbølger, og alligevel, her er vi. Hvis neutronstjerner kun var halvdelen af det spektakel, som astrofysikere beskriver, ville de være værd en envejs billet til universet for bare at beundre dem. Disse stjerner fødes, når tyngdekraften bliver så stærk, at den knuser en supernovas kerne. Den enorme kraft, som den er underlagt, fører til en kompakt, tæt kerne, hvor protoner og elektroner kombineres til neutroner. af repræsentationer. Kerne Seet fra langt væk, ville vi se en stjerne med uforståelig skønhed, ret lille i størrelse (10-12km diameter) men uforståeligt mægtig i tæthed (halv en sushi-stang kunne veje en milliard tons) og tyngdekraft (omkring 200 milliarder gange stærkere end Jordens). En stjerne med en bedragerisk overflade, glat og blød for øjet, men i stand til at knuse dig i stykker, så snart du rører den. En AI-model, der genererer de mest realistiske billeder, men i stand til at groft misligholde en træstamme fra sin kanope eller en finger fra sin hånd. En stjerne, der tilbyder en fascinerende dans af ultra-hurtige spins, sammenflettet med et frenetisk lys af stråler og røntgenstråler. En AI Kæmper for overlevelse Hvad der synes at være den mest fantastiske skabelse af universet, eller det mest effektive AI-modelsystem, kæmper faktisk for eksistens.Neutronstjernen gør sit bedste for at modstå den forbløffende tyngdekraft, der gerne vil knuse det, og for at det er det, det udvider sin magt. , som kæmper med tyngdekraften, skubber udad og modstår sammenbrud. På samme måde kæmper en AI-model i et andet hjørne af universet mod den ustoppelige tiltrækning af støjende og biasede data, som gerne vil destabilisere det og skubbe det til at producere irrelevante eller endda skadelige outputs. or , som mindsker risikoen for, at modellen overfinder eller kollapser til ekstreme værdier. Neutron degenerationstryk Regulering af Sparken Neutron degenerationstryk Men gør ingen fejl: det er en delikat balance. Den minimale forstyrrende begivenhed kan forårsage tyngdekraft og fordomme til at vinde over. Når trykket af degenerering af neutroner overgiver sig til tyngdekraften (måske fordi den stjerne har indarbejdet materiale trukket fra andre stjerner, hvilket øger tyngdekraften), er sammenbruddet uundgåeligt. Ligesom en grådig konge, pålægger tyngdekraften sin overherredømme og bliver uophørlig. Samtidig kan den anvendte modellens sikkerhedsforanstaltninger ikke modstå trækket af endeløse data, måske fordi den har absorberet for meget eller for varieret information, og dens stabilitet begynder at knække. På dette tidspunkt dominerer optimeringsprocessen, der driver systemet mod . Overfitting og tabet af meningsfuld generalisering Spacetime kurver mere og mere. Forudsiget af dannelsen af en begivenhedshorisont kollapser neutronstjernen i et sort hul. Flugthastigheden har nu overskredet lysets hastighed, hvilket betyder, at lyset ikke længere kan undslippe. I en dramatisk drejning af begivenhederne forvandles den smukke, æteriske hvide engel til et sort hul. Og ligesom supernovaer frøer nye stjerner og fodrer kosmos, kan resterne af vores AI-model - de finjusterede vægte og lektioner lært fra modelens tidligere fiasko - være udgangspunktet for at opbygge den næste generations arkitektur. I begge tilfælde ser vi en transformationscyklus, hvor selv den minimale ubalance kan få stabiliteten til at falde fra det ene øjeblik til det næste. Forvirret og overalt: AI og Qubits Når jeg tænker på, hvad de mest skræmmende og presserende problemer menneskeheden står over for på lang sigt er, går mit sind lige til tre nødsituationer: klimapåvirkninger, demografiske kriser og kvantecomputing. Det blev tildelt den . John Martinis Nobel Prize in Physics this year Men sandheden er, når vi er i stand til effektivt at bygge store kvantecomputere, vil vi ikke bare læse en tilfældig og uklar artikel om det. ) af I teorien kan det tillade et land at gøre det lettere at stjæle et andet lands hemmeligheder, måske relateret til forsvaret. Du kan forestille dig de kaskadeeffekter af sådan teknologi, hvis ikke ordentligt reguleret og kontrolleret. Forud for dette. Blandt andet break high-level encryption developed by NIST Quantum computing tager sit navn fra principperne for kvantemekanik. Først og fremmest introducerede kvantemekanik det ovennævnte koncept af kvante (en partikel kan være hvor som helst, indtil den observeres og måles). Denne logik anvendes til kvantecomputers qubits (= kvantebits). Denne egenskab er og vil udvide en computers evner ud over vores fantasi (dvs. udføre flere beregninger samtidigt). , egenskaben af to partikler til at påvirke hinanden på afstand. Det samme sker i kvantecomputing: qubits kan på samme måde blive forbundet og påvirke hinanden uanset hvor langt væk. superposition kombination af tilstande mellem 1 og 0 samtidig entanglement So, where does AI fit in all this? Whilst distinct concepts, AI and quantum computing are strongly interlinked. One the one hand, AI can help kvantecomputing, for eksempel ved at designe bedre og fejlfrie kvantekredsløb eller finjustere kvantemaskiner for stabilitet og ydeevne.[23] På den anden side kan kvantecomputere i fremtiden hjælpe med at behandle massive datasæt til AI, eksponentielt hurtigere end vores computere. Optimering og kalibrering Some parallels are more precise, others perhaps a little forced. I hope you didn’t take the above too seriously — see it for what it is: nothing more than an intellectual . Underholdning
