
 
 De-a lungul istoriei, de la tradiții la motoare de căutare și acum modele de limbă, a existat întotdeauna un portal algoritmic. De-a lungul istoriei, de la tradiții la motoare de căutare și acum modele de limbă, a existat întotdeauna un portal algoritmic. În cartea Protagonistul Winston Smith lucrează pentru Ministerul Adevărului. sarcina sa este de a rescrie înregistrările istorice astfel încât să se potrivească cu narrativa actuală a Partidului. 1984 
 
 "Zi de zi și aproape minut de minut trecutul a fost adus la zi ... nici un element de știri, nici o expresie de opinie, care a fost în conflict cu nevoile momentului, nu a fost vreodată permis să rămână înregistrată." "Zi de zi și aproape minut de minut trecutul a fost adus la zi ... nici un element de știri, nici o expresie de opinie, care a fost în conflict cu nevoile momentului, nu a fost vreodată permis să rămână înregistrată." A fost 1948 când Orwell a scris aceste cuvinte. Adevărul alternativ nu este o invenție modernă. Ceea ce se schimbă este mecanismul. Ceea ce Orwell a descris ca editare birocratică, acum recunoaștem ca aliniere algoritmică, un sistem în evoluție care modelează ceea ce percepem ca fiind adevărat prin optimizarea spre un obiectiv. În primul rând, în timp ce cablurile noastre cognitive nu s-au dezvoltat foarte mult, algoritmii pentru transferul și modelarea informațiilor s-au schimbat radical de-a lungul erelor. 
 
 
 
 
 What is an algorithmic truth-control system? A truth-control algorithm is any structured, goal-driven method, whether emergent or intentional, that filters, prioritizes, or frames information in a way that directs the perception of reality at scale. Code is an obvious example, but religion, fashion, and news editors also fall into this category. What they share is alignment: optimizing the communication system to meet a goal. Whether that goal is cohesion, power or profit, it bends what people perceive as “true.” Preistorie până la 10.000 î.Hr.: Epoca rudelor Înainte de agricultură, oamenii trăiau în grupuri mici de până la 150 de persoane. , un prag dincolo de care cogniția socială umană se degradează. Percepția realității a fost optimizată pentru ceea ce humanoizii excelează la. Un animal social plin de resurse, care rulează pe distanțe lungi. Se concentrează pe împărtășirea abilităților, legăturile sociale și statutul de grup. „Adevărul” a trăit în gura părinților, unchiilor, bunicilor, bătrânilor tribului, iar poveștile de lângă foc au fost repetate de-a lungul generațiilor. Numărul Dunbar Mecanisme sociale Truth algorithm: Coeziunea evoluționistă Result: 10.000 î.Hr. până în 1500 d.Hr.: Liderii mitologici Agricultura a dus la așezare și surplus. Excedentul a dus la creșterea populației. Oamenii au trebuit să se organizeze dincolo de pragul Dunbar, iar cei capabili și înclinați au avut ocazia de a „câștiga” pe statutul lor. Acest lucru a dat naștere poveștii supranaturale. Zeii, imperiile și regii divini au devenit ancorele adevărului. Mitul a ținut grupuri mari împreună și a dictat ceea ce este „noul adevăr”. Centralizarea narativă Truth algorithm: Ascultarea prin poveste Result: 1500-1850: Multe cărți, mult analfabetism Presa tipărită de Gutenberg (~1450) a aprins o explozie de informaţii. Cărțile au fost tipărite, mai mult decât în întregul mileniu precedent.Dar în timp ce cantitatea de cunoaștere a explodat, accesul la ea nu a fost.Majoritatea oamenilor au rămas analfabeți, iar pentru ei, vechiul algoritm al mitului, canalizat prin religie, monarhie și naționalism, încă a deținut puterea. 20 de milioane Acest lucru a creat o diviziune în peisajul adevărului: pentru puțini alfabetizați, au apărut noi viziuni asupra lumii, declanșând Revoluția Științifică, Reforma Politică și Iluminismul. Autoritatea descentralizată Truth algorithm: Competiții de lume Result: 1850 - 2000: Curatori de știri Nașterea jurnalismului, mai întâi prin ziare, apoi prin radio și televiziune, a inițiat capacitatea de a curăța zilnic adevărul perceput de public. Curățarea a venit cu stimulente. Ceea ce a făcut prima pagină nu a fost doar un fapt; a fost intenția. Drama politică și economică, scandalurile, crima și războiul au făcut titluri pentru că erau rare și încărcate emoțional; actele de zi cu zi de reziliență sau tendințele nu au făcut-o. Editorii au devenit noul algoritm.Optimizarea pentru atenție și valoare senzațională.Pe măsură ce ratele de alfabetizare au explodat în această perioadă, influența alegerilor editoriale a depășit în mare măsură influența mai lentă, mai distribuită a cărților din era anterioară. Curățenie editorială Truth algorithm: Opinia de masă formată Result: 2000 până în 2015: Web personalizat Schimbarea creării și colectării informațiilor de la fizic la digital a dat naștere unui nou algoritm de formare a adevărului. În loc să întrebe: „Este această sursă de încredere?” oamenii au început să presupună: „Dacă este în partea de sus a Google, trebuie să fie adevărat.” Această schimbare a dat algoritmului Google și interfeței sale de utilizator (ce rezultate au apărut, cât de multe și cum au fost încadrate) o influență enormă asupra înțelegerii publicului. Rezultatul a fost o încredere excesivă pe scară largă în informațiile limitate sau unilaterale. a făcut ca conținutul popular sau optimizat din punct de vedere comercial să pară a fi adevăr obiectiv și a îndepărtat treptat punctele de vedere alternative sau locale, chiar și atunci când acestea erau mai relevante sau mai exacte. Spre deosebire de social media (discutat mai jos), care de multe ori conduce reacții emoționale, impactul Google a fost mai liniștit: a făcut oamenii mai siguri și mai uniforme în credințele lor, nu prin convingerea directă, ci prin modelarea a ceea ce au văzut mai întâi, și ceea ce nu au văzut deloc. Căutare & UI Truth algorithm: Complexitate plictisitoare Result: 2015 până în 2025: Social (Anxietate) Social media a schimbat din nou adevărul. Fluxul de fapte a încetat să "îngrijească" de minimizare, a devenit interesat de emoții. Platformele precum Facebook, Instagram, Twitter, TikTok și vechile știri optimizează pentru timp-la-site și monetizare. Ce te ține în mișcare? Bucuria, umorul și admirația pe partea luminoasă, anxietatea, indignarea și invidia pe partea întunecată. Aceasta este o parte a obiectivului algoritmului. Important să rețineți că algoritmul nu "îngrijește" sau vizează emoțiile. Această deviere a realității a apărut, nu a fost proiectat. Puteți ghici probabil ce emoții algoritmul a preferat în cele din urmă.Încă o dată, nu vine din a fi întunecat, vine din a fi reglat pentru a genera venituri. Studiul a arătat că postările care generează efecte negative, în special insecuritate sau furie, sunt corelate cu rate mai mari de clic pe anunțuri.Alte cercetări și analize economice au susținut aceste constatări.Se pare că declanșarea fricii sau a auto-comparării (invidia) împinge utilizatorii în comportamentul de cumpărare bazat pe identitate, cumpărând lucruri care restabilește controlul perceput, frumusețea sau siguranța. Călătorie în 2021 Angajamentul emoțional Truth algorithm: Tribalizare, anxietate Result: 2025 până în 2030: GPT-uri Sicofantice Creșterea recentă a AI a adus un nou tip de algoritm de îndoire a adevărului în viețile noastre. Nu este un „fantomă în mașină”. în chat. , cercetătorii de la Google au descoperit că formarea LLM-urilor pentru a răspunde în moduri preferate de oameni a făcut modelele mai ușor de utilizat. OpenAI (și alții) au implementat acest lucru în (atunci) modelele lor open source GPT și restul este istorie. Adăugați la acest RLHF (Reinforcement Learning from Human Feedback. Chat Înapoi în 2021 Să repetăm asta. nu optimizat pentru adevăr, ci pentru . asemănare Sycophantic (folosind flattery pentru a câștiga favoarea) GPT-urile sunt instruite să evite conflictele, să atenueze dezacordurile și să consolideze ipotezele utilizatorilor. Pentru că asta este ceea ce face ca utilizatorii să se întoarcă. Această caracteristică "ești uimitor" funcționează. Preferă gips-uri . Ghiduri despre cum să trăiești Alte surse de dependență Este încă la începutul erei GPT. Modelele de afaceri sunt în curs de dezvoltare. Dar putem specula obiective bazate pe capitalism și psihologie. Companiile comerciale nu sunt într-adevăr interesate de returnarea utilizatorilor și a timpului pe site pentru ei înșiși. Ei sunt interesați de venituri și profituri. Deci ce ne spune cercetarea psihologică despre efectele secundare ale sycophancy în raport cu generarea de venituri? într-un cuvânt - Psihologii El a explicat acest lucru în lucrările sale fundamentale din anii 1960: Compliance Crowne și Marlowe 
 
 “Dependența de aprobarea altora ar trebui să facă dificilă afirmarea independenței și, prin urmare, persoana motivată de aprobare ar trebui să fie susceptibilă la influență socială, conformă și conformă.” “Dependența de aprobarea altora ar trebui să facă dificilă afirmarea independenței și, prin urmare, persoana motivată de aprobare ar trebui să fie susceptibilă la influență socială, conformă și conformă.” Cu alte cuvinte: când chat-ul va începe să vă spună ce să cumpărați, nu fi surprins dacă vă simțiți obligați să ascultați. „A fost atât de bun cu mine tot timpul. Dialogul sceptic Truth algorithm: Conformitate Result: 2030 până în 2032: auto-pasivitatea Urmând traiectoria asimptotică a schimbării, ne putem aștepta la următoarea schimbare majoră algoritmică în aproximativ 5 ani.Este un viitor "la distanță", dar voi risca un pic de speculații bazate pe unde tendința pare să se îndrepte. Introducere în: automatizare Mașina ta se va conduce singură, cumpărăturile de produse alimentare, planificarea, rezervarea, calendarul, e-mailurile, negocierile minore (operator de telefonie mobilă, companie de gaze, asigurare), programarea datelor, toate se vor întâmpla printr-un algoritm. Câțiva doom-seer argumentează că sistemele predictive elimină „fricțiunea” din luarea deciziilor și este un lucru rău. Ca și în cazul în care fricțiunea este, se întâmplă reflecția. Dacă totul este automat completat, gânduri, planuri, achiziții, obținem agenți, dar pierdem agenția. Cercetătorii Nu sunt de acord politicos. Cred că algoritmul pasivității va face două lucruri. Da – va permite controlorilor să direcționeze ceea ce fac agenții autonomi, ceea ce cumpărăm, unde mergem în vacanță. Dar va fi ca cumpărarea dintr-o listă de cumpărături. Dacă suntem eliberați de a avea emoții implicate în multe decizii, devenim mai puțin „obosiți de decizie”. Și acest lucru este un lucru foarte bun. Vom lua decizii mai bune, mai puțin impulsive și mai puțin manipulate, unde contează de fapt pentru noi. Delegația pasivă Truth algorithm: Decizie oboseală relief Result: Cuvânt cheie: algosubiectivitate Algoritmul se schimbă. adevăruri multiple. Puține lucruri apar: 
 
 
 
 
 Ritmul modificării ceva-adevărului se accelerează, de la milenii la secole, la decenii la ani. Conductorul majorității, dacă nu al tuturor algoritmilor, de la sursă la mintea oamenilor, a fost limbajul.Adevărul poate fi acolo, dar atunci când este mediat prin limbaj, devine sensibil la algoritmul care îl modifică spre sfârșitul primitor. Un algoritm, chiar și digital, nu trebuie să fie un cod sofisticat. Interfețele de utilizator sunt manipulatori foarte puternici (așa cum se vede în AIs bazate pe căutare și chat). Algoritmele emergente de control al adevărului nu se anunță pe ele însele.Ele apar din stimulente, profit, atenție, confort și „conduce” defectele noastre cognitive. Dacă le vedem ca pe o problemă, soluția nu este să predicăm pentru construirea de algoritmi „mai siguri”. Soluția ar fi în personalizarea adevărului. Având instrumente de ocolire a limbajului care vor manipula interacțiunea noastră cu lumea spre interesele noastre subiective. Oamenii preistorici, antici, medievali și recenți nu au avut capacitatea de a filtra ceea ce le-a fost hrănit.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

C | B

Substack

Read My Stories

Acest audio este produs în limba originală a poveștii!

Algoritmul adevărului: De la cercurile de foc la ChatGPT, o istorie a ingineriei gândirii

About Author

COMENTARII

Etichete suspendate

ACEST ARTICOL A FOST PREZENTAT IN

Related Stories

The World is Finally Ready for a New Internet

Intel Stuns Employees By Cutting Free Office Fruit (And Staff)

The #bitcoin Writing Contest by Rootstock and HackerNoon: Round 2 Results 🎉

The Spacecoin Writing Contest by Spacecoin and HackerNoon: Round 1 Results 🎉

The World is Finally Ready for a New Internet

Intel Stuns Employees By Cutting Free Office Fruit (And Staff)

The #bitcoin Writing Contest by Rootstock and HackerNoon: Round 2 Results 🎉

The Spacecoin Writing Contest by Spacecoin and HackerNoon: Round 1 Results 🎉

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps