Nemrégiben részt vettem az Oxford Egyetemen az AI témákról szóló kerekasztal-tárgyaláson, amelyhez akadémikusok és AI és megfelelőségi szakemberek csatlakoztak.Az egyik résztvevő elkezdett beszélni a rémisztő „AI szingularitásról”. Sokat gondolkodtam a két terület közötti kereszteződésen. elkezdtem játszani azzal az elképzeléssel, hogy megtaláljam az AI és a fizika közötti összefüggéseket. Az egyediség Technológiai fekete lyukak: az AI egyedisége A fizikában a szingularitás egy olyan régió, ahol a téridő görbülete végtelen. A koncepció híresen kötődik a fekete lyukakhoz, ahol az anyagot végtelen sűrűségre és nulla térfogatra tömörítik, és az idő és a tér valójában végtelenül hajlik. – pardon the simplification, physicists (see A fekete lyukakkal ellentétben, amelyekből semmi sem tud megszökni, miután belép a határukba, a fehér lyukak elűzik az anyagot, és nem tudnak belépni. Fehér lyuk Fehér lyukak Fehér lyukak Az alkalmazás a A technológia, mint olyan pont, ahol a technológiai képességek végtelenek és ellenőrizhetetlenek, biztosan nem új. Ez tovább erősíti azt az elképzelést, hogy az emberek egy nap már nem tudják megérteni, és ezért nem tudják irányítani az AI-rendszereket.Ezek az aggodalmak valószínűleg aránytalanok, felfújják a mozi fantáziáját, és úgy tűnik, hogy korlátozzák korlátozott erőforrásaink valóságát.Tény, hogy az AI egyediséggé váljon, óriási erőforrásmennyiségre lenne szükségünk - valami, ami, bár elméletileg lehetséges, inkább úgy tűnik, hogy korlátozott. A jelenben . egyediség Az egyediség Talán nem valószínű, hogy Az AI modellek horizontja Mint említettük, semmi, ami átlépte a fekete lyuk határait, nem tud elmenekülni, még a fény sem, amely örökre csapdába esett. Ez nem egy látható szélesség, hanem inkább egy matematikai régió – amit meg kell köszönnünk. for. event horizon Károly Schwarzschild There is a somewhat similar concept in AI systems – that is, an event horizon beyond which an AI model’s reliability begins crumbling away. This boundary is determined by the distribution of the data an AI system was trained on. When the model interacts with data differing from the training set, it encounters what experts call an . Generalization itself is an AI model’s ability to “ ”. bemenetek, amelyeket még soha nem láttak. amikor az általánosítás gyenge, “ ”. “out-of-distribution” (OOD) generalization problem Olyan eszközökkel, amelyeket nem találtak meg a képzés során tökéletesen teljesíthet az adatokon, amelyekre képzett, de szomorúan meghibásodik, ha új adatokkal szembesül Ez a kérdés kapcsolódik a koncepcióhoz , where a model learns both relevant and irrelevant features at once to make good predictions. When data changes, the influence of irrelevant features can significantly degrade the precision of good predictions. For instance, a natural language processing (NLP) model trained on sets with highly specific phrasings can struggle with accurately processing and interpreting sentences not containing those specific phrasings. feature contamination The event horizon of AI models is more likely an uncharted territory rather than a region of infinite curvature. But it’s interesting how in both the AI and physics worlds, once you cross it, you venture yourself into the unknown – and the unthinkable could just happen. A kvantummechanika: valószínűségi érvelés AI isn’t just a matter of Einstein’s Theory of Relativity, but also a A kvantummechanika középpontjában a legfurcsább, őrült ötlet áll: a bizonytalanság a világegyetem alapvető jellemzője. Furcsa, igaz? Valójában ezt a hullámfunkciót úgy gondolhatnánk, mint egy „valószínűségi térképet”, amely megmutatja, hol lehet ez a részecske, vagy milyen gyorsan mozoghat (impulzusa). kvantum Szuperpozíció Nyilvánvaló, hogy az AI nem engedelmeskedik a kvantummechanika törvényeinek (vagy legalábbis még nem). De a kvantumfizikahoz hasonlóan az AI valószínűségi logikával működik, nem pedig determinisztikus logikával. A legnyilvánvalóbb példa a ChatGPT. Amikor egy utasítást adsz, a ChatGPT egy hatalmas felhőn (vagy hullámfunkcióon) keresztül megy keresztül a potenciális jelentésekből, hogy megjósolja a szavak sorrendjét, amely a legvalószínűbb, hogy egy A modell alapvetően arra a következtetésre jut, hogy melyik szó a legvalószínűbb az előző után. Koherens válasz Más szóval, mint a kvantumfizika, az AI a statisztikai valóságokról szól, nem a kőben lévő abszolútokról. The Expanding Universe of Knowledge Like many scientists of his time, Einstein was not convinced that the universe was expanding. His equations did show that the universe should either expand or contract, but he was reluctant to the idea that the universe could, in fact, be in motion at all. To preserve a static universe, he introduced the , egy bizonyos „anti-gravitációs” hatás (Λ) mértéke, amely ellensúlyozza a világegyetem terjeszkedését, ahogyan azt saját előrejelzései írják le. Visszatekintve, bizalommal kellett volna bíznia a saját matematikájában. Köszönhetően Edwin Hubble-nak, aki 1929-ben felfedezte, hogy a galaxisok elmozdulnak tőlünk, most már tudjuk, hogy az egyetem valóban terjeszkedik. ”. Einstein was right a lot. Hubble demonstrated he was right even when he was wrong. cosmological constant Életem legnagyobb tévedése There’s a certain resonance between the dynamics of the universe expansion as described by the Hubble constant and the impact of AI. On a basic level, one could argue that AI expands knowledge by providing information to users. Whether it’s ChatGPT or a binary model, whoever inputs a query will receive a response that can widen personal knowledge, drive business decisions, and so on. In addition, not only is AI scaling the amount of data we collect and process, but also leveraging it to increase its own operational knowledge. See, for instance, how ChatGPT is felhasználói beszélgetésekből származó anonimizált adatok felhasználása. periodically refined or fine-tuned But there’s more to it. Cosmic expansion is the cornerstone of our understanding of the world because it’s inherently, profoundly tied to our idea of order. The Big Bang, from which the cosmic expansion originates, gave order to time and space (see next section). It marked the watershed moment between an unknown before and everything that followed. Whatever the before was (because we don’t know) was unimaginably hot, the after has been progressively cooling down ever since. With no external influence, a body that is hot, like a cup of coffee, slowly becomes lukewarm, then cold. Order, however, is not just a matter of direction (past to present); it’s also a process of organization. Cosmic expansion describes how the universe turns chaos and irregularities into structure and form (after all, cosmos is a Greek word meaning ‘order’). In a similar way, AI helps us turning noise and ambiguity into meaning and knowledge. And what is most astounding is that both processes are spontaneous and self-organizing – one driven by physics, the other by algorithms. Unlike cosmic inflation, however, AI’s process of expansion can still be stopped if humans are willing to do so. Question is, though: will they ever be? Model Bias Background Radiation Einstein’s correct prediction about the universe’s expansion was picked up in 1927 by , egy belga fizikus és pap, aki elméletezte azt, amit ma Big Bang-elméletnek nevezünk (nope, nem a túlbecsült sitcom...). György Lemaître Around 13.8 billion years ago, an extremely hot and dense state, probably a singularity, rapidly expanded with an immense Az anyag, az energia, a tér és az idő kifelé vetül, majd lassan elkezd hűlni.Ez az esemény volt a katalizátor az összes anyag kialakulásához, beleértve a galaxisok kialakulását és a csillagok gyújtását. Olyan erőszakos volt, hogy még ma is, egy kicsit kevesebb, mint 14 milliárd évvel később, még mindig észlelhetjük annak utólagos ragyogását, egy gyenge jel formájában, amely áthatja az univerzumot, és finoman szúrja a szövetét. . bang A bang Kozmikus mikrohullámú háttérsugárzás So, a relic radiation, from an initial catastrophic event survives today, though at a minimal scale and going unnoticed without sophisticated mechanisms. Something quite similar takes place in AI models relative to training data, and in particular to the concept of data representativeness. If data is representative of all groups (gender, race, age, ethnicity, sexual orientation, and so on), the model is likely to stay fair. On the other hand, if the data is not representative (incomplete or biased), the model will highly likely produce outputs that are unintentionally discriminatory toward certain groups. Valójában az adatok reprezentativitása az egyik kulcsfontosságú dimenzió, amellyel szemben az AI-modellt az AI-etikusok és a megfelelőségi szakértők tesztelik. the data trains your AI model. If you don’t, you will need to mitigate bias post-deployment, to ensure no discrimination takes place (or at least is minimised). And by the way, the vázolja fel az AI modelljének tisztességességének és robusztusságának tesztelésére szolgáló legjobb gyakorlatokat (bizonyára érdemes elolvasni, ha elég nerd vagy!). Előtte ISO/IEC 24027:2021 iránymutatások Anyways, the point of it all being: when not taken care of, bias persists and propagates itself, just like the cosmic background radiation has survived through billions of years. And when it does, the societal impact can be non-trivial: a brilliant female candidate might be ruled out by a predictive model in favour of less qualified male candidates, because the training data carried gender bias. The good news is that again, unlike the Big Bang’s radiation, we can definitely do something about it. That’s what we AI governance and compliance guys are here for. We cannot stop the from playing through galaxies (if anything, let’s keep it coming!). But AI model bias? That’s manageable. Practically a cakewalk. music of the Big Bang A Big Bang zenéje The Stellar Decay of AI Models I will not live long enough to watch a star collapse into a neutron star, but hey, never say never. Who’d have said that we’d be able to “photograph” black holes and detect gravitational waves, and yet, here we are. In fact, the gravitational waves we intercepted in 2017 appear to have been generated by the collision of two neutron stars. Ha a neutroncsillagok csak fele lenne a látványnak, amit az asztrofizikusok leírnak, érdemes lenne egy egyirányú jegyet venni a világegyetemre, hogy csak csodálják őket. Ezek a csillagok akkor születtek meg, amikor a gravitáció annyira erős lesz, hogy összezúzza a szupernóva magját. A hatalmas erő, amelynek az alávetette magát, egy kompakt, sűrű maghoz vezet, ahol a protonok és az elektronok neutronokká egyesülnek. A képviseletekről . nukleáris Seen from afar, we’d see a star of incomprehensible beauty, pretty small in size (10-12km diameter) but incomprehensibly mighty in density (half a sushi stick could weigh a billion tons) and gravity (around 200 billion times stronger than Earth’s). A star with a deceiving surface, smooth and gentle to the eye, yet able to crush you to pieces as soon as you touch it. An AI model generating the most realistic pictures, yet able to grossly misalign a tree’s trunk from its canopy or a finger from its hand. A star offering a mesmerizing dance of ultra-fast spins, intertwined with a frenzy of light beams and X-rays. An AI chatbot writing an essay in your stead, within the exact word count you told it, and with a wealth of accurate references in support of the arguments made. A star of radiant beauty, burning through power and desire to leave you in awe. An AI model of immaculate precision, burning through computational energy to minimize error. Harc a túlélésért What appears to be the most stunning creation of the universe, or the best-performing AI model system, is actually fighting for existence. The neutron star is doing its best to resist the astounding gravitational force that would like to crush it, and for that it deploys the , which is arm-wrestling with gravity, pushing outward and resisting collapse. Similarly, in another corner of the universe, an AI model is struggling against the relentless pull of noisy and biased data, which would like to destabilize it and push it to produce irrelevant or even harmful outputs. For this, model designers deploy techniques such as vagy , which mitigate the risks of the model to overfit or collapse into extreme values. neutron degenerációs nyomás szabályozás Spárta neutron degenerációs nyomás De ne tévesszen meg: ez egy kényes egyensúly. A minimális zavaró esemény a gravitáció és az előítélet legyőzéséhez vezethet. Miután a neutron degenerációs nyomás a gravitációra esik (talán azért, mert ez a csillag más csillagokból származó anyagot tartalmazott, növelve a gravitáció tőkeáttételét), az összeomlás elkerülhetetlen. Mint egy kapzsi király, a gravitáció uralkodik, és megállíthatatlanná válik. Ugyanakkor az alkalmazott modell biztonsági intézkedései nem tudnak ellenállni a végtelen adatok vonzásának, talán azért, mert túl sok vagy túlságosan változatos információt szívott fel, és stabilitása megszakad. . túlfelszerelés és az értelmes általánosítás elvesztése A téridő egyre inkább görbül. Az eseményhorizont kialakulásának előrejelzése miatt a neutroncsillag összeomlik egy fekete lyukba. A szökési sebesség most már meghaladja a fény sebességét, ami azt jelenti, hogy a fény már nem tud megszökni. Az események drámai fordulatában ez a gyönyörű, éteri fehér angyal fekete lyukká alakul át. És csakúgy, mint a szupernóva vet új csillagokat és táplálja a kozmoszt, az AI modellünk maradványai – ezek a finoman beállított súlyok és a modell korábbi kudarcából tanult leckék – lehetnek a következő generációs építészet építésének kiindulópontjai. Mindkét esetben egy átalakulási ciklust tapasztalunk, ahol még a minimális egyensúlyhiány is a stabilitás egyik pillanatról a másikra csökkenéséhez vezethet. Összekapcsolva és mindenhol: AI és Qubits Amikor arra gondolok, hogy az emberiség hosszú távon mi a legszörnyűbb és legsürgetőbb probléma, az elmém három vészhelyzetre megy: az éghajlati hatásokra, a demográfiai válságokra és a kvantumszámításra. , was awarded the . John Martinis Nobel Prize in Physics this year But the truth is, once we’re able to effectively build large-scale quantum computers, we won’t simply read a random and obscure article about it. Our lives will be severely impacted by this technology. Suffice to say that, in principle, a large-scale quantum computer could be powerful enough to ( ) az Elméletileg lehetővé tenné, hogy egy ország könnyebben ellopja egy másik ország titkos titkait, talán a védelemhez kapcsolódóan. El tudod képzelni az ilyen technológia kaszkadáló hatásait, ha nem megfelelően szabályozzák és szabályozzák. Szerencsére ez a dystopikus forgatókönyv még mindig elméleti jelenleg, és a kvantum-biztonságos titkosítási szabványok Ezt előzetesen ki kell zárni. Közöttük break high-level encryption Fejlesztő NIST Quantum computing takes his name from the principles of quantum mechanics. First and foremost, quantum mechanics introduced the above-mentioned concept of (a particle can be anywhere until it is observed and measured). This logic is applied to quantum computers’ qubits (= quantum bits). Unlike traditional bits, which can be either 0 or 1, qubits exist in a Ez a tulajdonság kiterjeszti a számítógép képességeit a képzeletünk felett (azaz egyszerre több számítást végez). , the property of two particles to influence each other at a distance. The same happens in quantum computing: qubits can similarly become linked and affect each other no matter how distant. This will again scale the capabilities of computers, particularly in terms of correlating data and performing incredibly complex operations. superposition Az 1 és 0 közötti állapotok egyidejű kombinációja entanglement Tehát hol illeszkedik az AI mindehhez?Míg a különböző fogalmak, az AI és a kvantumszámítás erősen összekapcsolódnak. a kvantumszámítás, például a jobb és hibamentes kvantum áramkörök tervezésével, vagy a stabilitás és a teljesítmény érdekében finomítva a kvantumgépeket.[23] Másrészt a jövőben a kvantumszámítógépek segíthetnek az AI számára hatalmas adatkészletek feldolgozásában, exponenciálisan gyorsabban, mint a számítógépek. optimise and calibrate Néhány párhuzam pontosabb, mások talán egy kicsit kényszerítettek. remélem, hogy nem vetted túl komolyan a fentieket – nézd meg, hogy mi az: semmi több, mint egy intellektuális . divertissement
