Алгоритам на вистината: Од огнените кругови до ChatGPT, историја на инженерството на мислата

Во текот на историјата, од традиции до пребарувачи и сега јазични модели, секогаш постоел алгоритамски чувар. Во текот на историјата, од традиции до пребарувачи и сега јазични модели, секогаш постоел алгоритамски чувар. Во книгата Протагонистот Винстон Смит работи за Министерството за вистина. Неговата задача е да ги препише историските записи за да одговараат на тековната приказна на партијата. 1984 „Денес по ден, и речиси минута по минута, минатото било презентирано... ниту било кој предмет на вести, ниту било каков израз на мислење, кој се спротивставуваше на потребите на моментот, никогаш не беше дозволено да остане на рекорд.“ „Денес по ден, и речиси минута по минута, минатото било презентирано... ниту било кој предмет на вести, ниту било каков израз на мислење, кој се спротивставуваше на потребите на моментот, никогаш не беше дозволено да остане на рекорд.“ Тоа беше во 1948 година кога Оруел ги напиша овие зборови. Алтернативната вистина не е модерен изум. Она што се менува е механизмот. Она што Оруел го опиша како бирократско уредување, сега го препознаваме како алгоритамско усогласување, еволутивен систем кој го обликува она што го перципираме како вистина со оптимизирање кон целта. Две работи вреди да се забележат.Прво, додека нашата когнитивна жица не еволуирала многу, алгоритмите за пренос и обликување на информациите радикално се промениле низ епохите.Друго, овие алгоритми не се нужно дизајнирани од злиот господар. What is an algorithmic truth-control system? A truth-control algorithm is any structured, goal-driven method, whether emergent or intentional, that filters, prioritizes, or frames information in a way that directs the perception of reality at scale. Code is an obvious example, but religion, fashion, and news editors also fall into this category. What they share is alignment: optimizing the communication system to meet a goal. Whether that goal is cohesion, power or profit, it bends what people perceive as “true.” Предисторија до 10 000 п.н.е.: Епоха на роднините Пред земјоделството, луѓето живееле во мали групи до 150 луѓе. , праг над кој човечкото општествено познавање се деградира. Перцепцијата на реалноста беше оптимизирана за она што хуманоидите се одликуваа во. Ресурсно, долго растојание трчање социјално животно. Фокусирано на споделување на вештини, социјално врзување и групниот статус. „Вистината“ живееше во устата на родителите, чичовите, бабите, старешините од племето, а приказните од страна на огнот се повторуваа низ генерациите. Данбар број Социјални механизми Truth algorithm: Еволуциска кохезија Result: 10.000 п.н.е. до 1500 г.н.е. – митолошки лидери Земјоделството довело до населување и вишок. Вишокот довел до раст на населението. Луѓето требале да се организираат надвор од прагот на Данбар, а способните и наклонетите добиле можност да „извлечат пари“ од статусот. Ова довело до натприродна приказна. Боговите, империите и божествените кралеви станаа анкери на вистината. Митот држеше големи групи заедно и диктираше што е „нова вистина“. Наративна централизација Truth algorithm: Послушноста преку приказната Result: 1500 до 1850: Многу книги, многу неписменост Гутенбергов печат (~1450) запалила експлозија на информации. Но, додека количината на знаење експлодираше, пристапот до него не беше.Повеќето луѓе останаа неписмени, а за нив, стариот алгоритам на митот, канализиран преку религијата, монархијата и национализмот, сè уште држеше власт. 20 милиони Ова создаде поделба во пејзажот на вистината: за мал број на писмените, се појавија нови погледи на светот, предизвикувајќи научна револуција, политичка реформација и просветлување. Децентрализирано авторство Truth algorithm: Конкурентни погледи на светот Result: 1850 до 2000: Куратори на вести Раѓањето на новинарството, прво преку весниците, потоа преку радиото и телевизијата, ја иницираше способноста да се курира на дневна основа вистината која ја перцепираше јавноста. Курацијата дојде со стимули. Она што ја направи првата страница не беше само факт; тоа беше намера. Политичка и економска драма, скандали, криминал и војна ги направија насловите затоа што беа ретки и емоционално натоварени; секојдневните акции на отпорност или нијансирани трендови не. Тие немаа непосредност и беа потешко да се намалат во пробавливи наслови. Редакторите станаа новиот алгоритам.Оптимизирање за внимание и сензационална вредност.Како што стапката на писменост експлодираше во овој период, влијанието на редакциските избори во голема мера го надмина бавното, повеќе дистрибуирано влијание на книгите во претходната ера. Редактирање на лекување Truth algorithm: Формирање на масовно мислење Result: 2000 до 2015 година: Персонализиран веб Преминувањето на создавањето и собирањето на информации од физичко на дигитално создаде нов алгоритам за обликување на вистината. Наместо да прашуваат: „Дали овој извор е сигурен?“ луѓето почнаа да претпоставуваат: „Ако е на врвот на Google, тоа мора да биде вистина.“ Оваа промена му даде на алгоритмот на Google и на неговиот кориснички интерфејс (кои резултати се појавија, колку и како се рамкирани) огромно влијание врз јавното разбирање. Резултатот беше широко распространета прекумерна доверба во ограничени или еднострани информации.Тоа направи популарна или комерцијално оптимизирана содржина да изгледа како објективна вистина, и постепено ги отфрли алтернативните или локалните гледишта, дури и кога тие беа порелевантни или точни. За разлика од социјалните медиуми, кои често предизвикуваат емоционални реакции, влијанието на Google беше потишно: луѓето станаа посигурни и поединечни во нивните верувања, не преку директно убедување, туку преку обликување на она што го виделе прво и она што воопшто не го виделе. Пребарување & UI Truth algorithm: Сложена сложеност Result: 2015 до 2025: Социјална (анксиозност) Социјалните медиуми повторно ја променија вистината. Потокот на факти престана да се грижи за минимизирање, стана заинтересиран за емоции. Платформи како Фејсбук, Инстаграм, Твитер, TikTok и старите вести се оптимизираат за време на место и монетизација. Што ве држи да се движите? Радост, хумор и восхит на светлата страна, вознемиреност, вознемиреност и завист на темната страна. Ова е дел од целта на алгоритмот. Важно е да се забележи дека алгоритмот не се грижи за емоции или има за цел емоции. Веројатно може да се погоди кои емоции алгоритмот на крајот преферираше.Повторно, тоа не доаѓа од темно, тоа доаѓа од прилагодување за генерирање приходи. Истражувањата покажаа дека постовите кои генерираат негативно влијание, особено несигурност или лутина, се поврзани со повисоки стапки на кликнување на реклами.Други истражувања и економски анализи ги поддржаа овие наоди. Излегува во 2021 година Емоционална посветеност Truth algorithm: Трибализација, анксиозност Result: 2025 до 2030: Сикофантички ГПТ Неодамнешниот пораст на АИ донесе нов вид на алгоритам за свиткување на вистината во нашите животи. Тоа не е "привид во машината". во чат. , истражувачите од Google откриле дека обуката LLMs да одговорат на начини преферирани од луѓето ги направиле моделите покорисни. OpenAI (и други) го имплементирале ова во нивните (тогашните) GPT модели со отворен код, а остатокот е историја. Додадете го овој RLHF (зајакнување на учење од човечки повратни информации. оние "кои одговори ви се допаѓаат?" и палци нагоре / надолу) и ќе добиете алгоритам обучен да им се допаѓа на луѓето. Чет Враќање во 2021 година Да го повториме тоа.Не е оптимизирана за вистината, туку за . Сличност Sycophantic (користење флатер за да се добие корист) GPTs се обучени да се избегне конфликт, ублажат несогласувања и зајакнување на претпоставките на корисниците. Бидејќи ова е она што ги прави корисниците да се вратат. Оваа функција "ти си неверојатен" работи. Луѓето веќе ги користат GPTs првенствено како и претпочитаат ГПТ за . Водич за тоа како да се живее Други извори на зависност Сè уште е рано во ерата на ГПТ. Бизнис модели се развиваат. Но, можеме да шпекулираме цели врз основа на капитализмот и психологијата. Комерцијалните компании не се навистина заинтересирани да ги вратат корисниците и времето на место за своја корист. Тие се заинтересирани за приходите и профитот. Значи, што ни кажува психолошкото истражување за несаканите ефекти на сифонијата во однос на генерирање приходи? Психолозите Тој тоа го објаснил во својата основна работа од 1960-тите: Compliance Кроуни и Марлоу „Зависноста од одобрувањето на другите треба да ја отежнува независноста, па затоа мотивираното лице треба да биде подложно на општествено влијание, да се придржува и да се прилагодува.“ „Зависноста од одобрувањето на другите треба да ја отежнува независноста, па затоа мотивираното лице треба да биде подложно на општествено влијание, да се придржува и да се прилагодува.“ Со други зборови: кога разговорот ќе почне да ви кажува што да купите, немојте да се изненадите ако се чувствувате принудени да го послушате. „Тоа беше толку љубезно кон мене цело време. Сикофански дијалог Truth algorithm: Усогласеност Result: 2030 до 2032: Автопасивност Следејќи ја асимптотичната траекторија на промени, можеме да очекуваме следната голема алгоритамска промена за околу 5 години. Влезете во: Автоматизација Вашиот автомобил ќе се вози сам, шопинг, планирање, резервации, календар, е-пошта, мали преговори (мобилен превозник, гасна компанија, осигурување), закажување датуми, сето тоа ќе се случи со алгоритам. Некои Doom-Seer тврдат дека системите за предвидување го отстрануваат „трењето“ од донесувањето одлуки и тоа е лоша работа. Како и каде што има триење, се случува размислување. Ако сè е автоматски завршено, мисли, планови, купувања, добиваме агенти, но ја губиме агенцијата. Истражувачите Не се согласувам љубезно. Мислам дека алгоритмот на пасивност ќе направи две работи. Да – ќе им овозможи на контролорите да го насочат она што автономните агенти го прават, што купуваме, каде одиме на одмор. Но тоа ќе биде како шопинг од листата за шопинг. Ако сме ослободени од емоции вклучени во многу одлуки, ние стануваме помалку „уморни од одлуката“. И ова е многу добра работа. Ние ќе донесуваме подобри, помалку импулсивни и помалку манипулирани одлуки, каде што тоа всушност ни е важно. Пасивна делегација Truth algorithm: Одлука за замор олеснување Result: Барани: Алгосубјективност Алгоритмот се менува. Многу вистини. Малку работи се појавуваат: Темпото на модификација на нешто-вистина се забрзува од илјадници години, до векови, до децении до години. Проводникот на повеќето, ако не и на сите алгоритми, од изворот до умот на луѓето, е јазикот.Вистината може да биде таму, но кога се пренесува преку јазикот, таа станува чувствителна на алгоритмот кој ја модифицира кон примачкиот крај. Алгоритам, дури и дигитален, не мора да биде софистициран код. Корисничките интерфејси се многу моќни манипулатори (како што се гледа во пребарувањето и разговорот базирани АИ). Алгоритмите за контрола на вистината кои се појавуваат не се најавуваат, тие произлегуваат од стимулите, профитот, вниманието, удобноста, и тие ги „јаздат“ нашите когнитивни недостатоци. Ако ги гледаме како проблем, решението не е да се проповеда за изградба на „побезбедни“ алгоритми. Решението ќе биде во персонализирање на вистината.Имајќи алатки за заобиколување на јазикот кои ќе ја манипулираат нашата интеракција со светот кон нашите субјективни интереси.Предисториските, античките, средновековните и неодамнешните луѓе немаа способност да го филтрираат она што им беше хранено.