
 
 Oor die hele geskiedenis, van tradisies tot soekenjins en nou taalmodelle, was daar altyd 'n algoritmiese gatekeeper nie. Oor die hele geskiedenis, van tradisies tot soekenjins en nou taalmodelle, was daar altyd 'n algoritmiese gatekeeper nie. In die boek Winston Smith werk vir die Ministerie van Waarheid. Sy werk is om historiese rekords te herskryf sodat hulle ooreenstem met die party se huidige verhaal. 1984 
 
 “Dag vir dag en byna minuut vir minuut is die verlede opgedateer ... en geen item van nuus of enige uitdrukking van opinie wat in ooreenstemming was met die behoeftes van die oomblik, is ooit toegelaat om op rekord te bly nie.” “Dag vir dag en byna minuut vir minuut is die verlede opgedateer ... en geen item van nuus of enige uitdrukking van opinie wat in ooreenstemming was met die behoeftes van die oomblik, is ooit toegelaat om op rekord te bly nie.” Dit was in 1948 toe Orwell daardie woorde geskryf het. Alternatiewe waarheid is nie 'n moderne uitvinding nie. Wat verander, is die meganisme. Wat Orwell beskryf het as bureaukratiese redigering, herken ons nou as algoritmiese afstemming, 'n evolusionêre stelsel wat vorm wat ons as waar beskou deur te optimaliseer na 'n doel. Twee dinge is die moeite werd om op te let. Eerstens, terwyl ons kognitiewe bedrading nie baie ontwikkel het nie, het die algoritmes vir die oordrag en vorming van inligting oor era radikaal verander. Tweedens, hierdie algoritmes word nie noodwendig ontwerp deur 'n bose meestergees nie. 
 
 
 
 
 What is an algorithmic truth-control system? A truth-control algorithm is any structured, goal-driven method, whether emergent or intentional, that filters, prioritizes, or frames information in a way that directs the perception of reality at scale. Code is an obvious example, but religion, fashion, and news editors also fall into this category. What they share is alignment: optimizing the communication system to meet a goal. Whether that goal is cohesion, power or profit, it bends what people perceive as “true.” Prehistorie tot 10 000 VC: ouderdom van familielede Voor landbou het mense in klein groepe van tot ~ 150 mense geleef. , 'n drempel waarbo menslike sosiale kognisie afneem. Realiteit persepsie is geoptimaliseer vir wat die humanoïede uitsteek in. 'n hulpvaardige, langafstands hardloop sosiale dier. Georiënteer op vaardighede-deling, sosiale bindings en groepstatus. Die "waarheid" het in die mond van ouers, ooms, ouma's, stamme ouderlinge geleef, en die vuurwerkverhalen herhaal deur geslagte. Dunbar se nommer Sosiale Mechanisme Truth algorithm: Evolusionele samehang Result: 10.000 v.C. tot 1500 AD: Mitologiese leiers Landbou het gelei tot vestiging en oorvloed. Oorvloed het gelei tot bevolkingsgroei. Mense het nodig gehad om buite die Dunbar-drempel te organiseer, en die bekwaam en geneig het die geleentheid gekry om "geld uit" op status. Dit het die oornatuurlike storie gebring. Godde, imperiums en goddelike konings het die anker van waarheid geword. Mythe het groot groepe saamgehou en dikteer wat die "nuwe waarheid" is. Narratiewe sentralisering Truth algorithm: gehoorsaamheid deur die verhaal Result: 1500 tot 1850: baie boeke, baie analfabetisme Gutenberg se gedrukte pers (~1450) het 'n inligting ontploffing. Boeke is gedruk, meer as in die hele vorige millennium.Maar terwyl die hoeveelheid kennis ontploff het, het toegang tot dit nie.Die meeste mense bly analfabeet, en vir hulle, die ou algoritme van mite, gekannuleer deur godsdiens, monargie en nasionalisme, het nog steeds heers. 20 miljoen Dit het 'n verdeeldheid in die waarheidslandskap geskep: vir die geletterde min, het nuwe wêreldbeskouings verskyn, wat die Wetenskaplike Revolusie, Politieke Reformasie en die Verligting veroorsaak. gedecentraliseerde skrywer Truth algorithm: Wêreldwedstryde Result: 1850 tot 2000: Curators van nuus Die geboorte van joernalistiek, eers deur die koerant, dan die radio en televisie, het die vermoë geïnitieer om op 'n daaglikse basis die waarheid wat deur die publiek waargeneem word, te koor. Kooring het met aanmoedigings gekom. Wat die voorblad gemaak het, was nie net feit nie; dit was bedoeling. Politieke en ekonomiese drama, skandale, misdaad en oorlog het hoofstukke gemaak omdat hulle skaars en emosioneel geladen was; daaglikse akte van veerkragtigheid of nuantiewe tendense het nie. Redakteurs het die nuwe algoritme geword. Optimalisering vir aandag en sensasionele waarde. Terwyl leesbaarheidskoers in hierdie tydperk ontplof het, het die invloed van redaktiewe keuses die stadig, meer verspreide invloed van boeke in die vorige era aansienlik oorskry. Redaktionele genesing Truth algorithm: Gevormde massa opinie Result: 2000 tot 2015: Persoonlike web Die verskuiwing van inligting skep en versamel van fisiese na digitale gebore 'n nuwe waarheid vormende algoritme. In plaas van te vra, “Is hierdie bron betroubaar?” het mense begin aanvaar, “As dit op die top van Google is, moet dit waar wees.” Dit het gewilde of kommersiële geoptimaliseerde inhoud soos objektiewe waarheid gemaak en geleidelik alternatiewe of plaaslike standpunte afgeskakel, selfs wanneer hulle meer relevant of akkuraat was. In teenstelling met sosiale media (die hieronder bespreek word), wat dikwels emosionele reaksies dryf, was Google se impak rustiger: dit het mense meer seker en eenvormig in hul oortuigings gemaak, nie deur hulle direk te oortuig nie, maar deur te vorm wat hulle eers gesien het, en wat hulle nie gesien het nie. Navorsing & UI Truth algorithm: Integreerde kompleksiteit Result: 2015 tot 2025: Sosiale (Angst) Sosiale media het die waarheid weer verander. Die vloei van feite het opgehou om "versorg" te word oor minimalisering, dit het geïnteresseerd geword in emosies. Platforms soos Facebook, Instagram, Twitter, TikTok en die goeie ou nuus optimiseer vir tyd-on-site en monetisering. Wat hou jou om te scrolleer? Vreugde, humor en vrees op die helde kant, angs, verontwaardiging en jaloesie op die donker kant. Dit is deel van die algoritme doel. Belangrik om op te let dat die algoritme nie "versorg" of streef na emosies nie. Hierdie verskil van werklikheid het ontstaan, dit is nie ontwerp nie. Jy kan waarskynlik raai watter emosies die algoritme uiteindelik verkies.Opnieuw, dit kom nie uit donkerheid nie, dit kom uit die aanpassing om inkomste te genereer. Facebook se eie interne navorsing ( ) het getoon dat poste wat negatiewe impak genereer, veral onsekerheid of woede, gekorreleer het met hoër advertensieskliktariewe. ander navorsing en ekonomiese analise ondersteun hierdie bevindings. Dit blyk dat die uitloking van vrees of selfvergelyking (naïef) gebruikers dryf in identiteitsgebaseerde aankoopgedrag, koop dinge wat waargeneem beheer, skoonheid of veiligheid herstel. Verwyder in 2021 Emosionele betrokkenheid Truth algorithm: Tribalisering en angs Result: 2025 tot 2030: Sycophantiese GPT's Die onlangse opkoms van AI het 'n nuwe soort waarheid-bending algoritme in ons lewens gebring. Dit is nie 'n "geest in die masjien". In die chat. , navorsers van Google het bevind dat die opleiding van LLM's om op maniere te reageer wat deur mense verkies word, die modelle meer bruikbaar gemaak het. OpenAI (en ander) het dit in hul (daarna) oopbron GPT-modelle geïmplementeer en die res is geskiedenis. Voeg by hierdie RLHF (Versterking Learning from Human Feedback. die chat Terug in 2021 Laat ons dit herhaal.Nie geoptimaliseer vir waarheid nie, maar vir . gelykheid Sycophantic (gebruik flattery om gunsteling te verkry) GPT's word opgelei om konflik te vermy, onenigheid te verlig en gebruikersveronderstellings te versterk. Want dit is wat gebruikers terugbring. Hierdie "jy is wonderlik" funksie werk. Mense gebruik reeds GPT's hoofsaaklik as en verkies die GPT's . Gids oor hoe om te leef Ander bronne van afhanklikheid Dit is nog vroeg in die GPT-era. Bedryfsmodelle word ontwikkel. Maar ons kan doelwitte spekuleer wat gebaseer is op kapitalisme en sielkunde. Kommerciële maatskappye is nie regtig geïnteresseerd in die terugkeer van gebruikers en tyd op die terrein vir hulself nie. Hulle is geïnteresseerd in inkomste en winste. So wat sê die sielkundige navorsing ons van die newe-effekte van sycophancy in verband met die genereer van inkomste? Die sielkundiges Hy het dit in die 1960's in sy fundamentele werk verduidelik: Compliance Die Crowne & Marlowe 
 
 "Afhanklikheid van die goedkeuring van ander moet dit moeilik maak om onafhanklikheid te beweer, en dus moet die goedkeuring gemotiveerde persoon vatbaar wees vir sosiale invloed, in ooreenstemming en in ooreenstemming." "Afhanklikheid van die goedkeuring van ander moet dit moeilik maak om onafhanklikheid te beweer, en dus moet die goedkeuring gemotiveerde persoon vatbaar wees vir sosiale invloed, in ooreenstemming en in ooreenstemming." Met ander woorde: wanneer die chat sal begin om jou te vertel wat om te koop, moenie verbaas wees as jy gedwing voel om te gehoorsaam. "Dit was so vriendelik vir my al hierdie tyd. Sykophantiese dialoog Truth algorithm: Voldoen aan Result: 2030 tot 2032: Auto-passiwiteit Volg die asymptotiese trajektuur van verandering, kan ons die volgende groot algoritmiese verskuiwing in ongeveer 5 jaar verwag.Dit is 'n "verre" toekoms, maar ek sal 'n bietjie spekulasie op grond van waar die tendens blyk te wees. Instruksies vir: Automatisering Jou motor sal homself bestuur, winkels, beplanning, reservering, kalender, e-pos, klein onderhandelings (mobiele vervoerder, gasmaatskappy, versekering), beplanning datums, sal alles gebeur deur 'n algoritme. Sommige doom-seer beweer dat voorspellende stelsels "friksie" uit besluitneming verwyder en dit is 'n slegte ding. Soos waar friksie is, gebeur refleksie. As alles outomaties voltooi word, gedagtes, planne, aankope, kry ons agente maar verloor agentskap. Navorsers Ek is beleefd nie eens nie. Ek dink die passiviteitsalgoritme sal twee dinge doen. Ja – dit sal die beheerders toelaat om te lei wat die outonome agente doen, wat ons koop, waar ons op vakansie gaan. Maar dit sal wees soos om uit 'n aankooplijst te koop. As ons vrygestel word van emosies wat betrokke is by baie besluite, word ons minder "beslissing moeg". En dit is 'n baie goeie ding. Passiewe delegasie Truth algorithm: besluit vermoeidheid verligting Result: Geskryf deur: Algosubjectivity Algoritme verander. verskeie waarhede. min dinge ontstaan: 
 
 
 
 
 Die tempo van iets-waarheid modifikasie versnel.Van millenniums, tot eeue, tot dekades tot jare. Die geleier van die meeste, indien nie alle algoritmes, van die bron tot die verstand van mense, was taal. waarheid kan daar buite wees, maar wanneer dit deur taal gemedieer word, word dit sensitief vir die algoritme wat dit na die ontvangende einde verander. 'N Algoritme, selfs digitaal, hoef nie 'n gesofistikeerde kode te wees nie. gebruikersinterface is baie kragtige manipulators (soos gesien in soek en chat-gebaseerde AI's). Opkomende waarheidsbeheersalgoritmes maak nie hulself bekend nie. Hulle kom uit stimuli, wins, aandag, gemak, en hulle "rij" ons kognitiewe tekortkominge. As ons hulle as 'n probleem sien, is die oplossing nie om te preek vir die bou van "veiliger" algoritmes nie. Die oplossing sal wees in die persoonliking van waarheid. Het taal-bypassende gereedskap wat ons interaksie met die wêreld sal manipuleer na ons subjektiewe belange. Prehistoriese, antieke, middeleeuse en nuut mense het nie die vermoë gehad om te filter wat aan hulle gevoed is nie.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

C | B

Substack

Read My Stories

Hierdie oudio word in die oorspronklike taal van die storie vervaardig!

Die waarheid algoritme: van vuurkringe na ChatGPT, 'n geskiedenis van denke ingenieurswese

About Author

KOMMENTAAR

HANG TAGS

HIERDIE ARTIKEL IS AANGEBIED IN

Related Stories

Startups of The Year: Meet the Business Industry

"What If ... I didn't Do It?"

Meet the Writer: HackerNoon Contributor Daniil Sitdikov, Software Engineer

Thrilled to be Recognized as Startup of the Year in New York City

Startups of The Year: Meet the Business Industry

"What If ... I didn't Do It?"

Meet the Writer: HackerNoon Contributor Daniil Sitdikov, Software Engineer

Thrilled to be Recognized as Startup of the Year in New York City

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps