Алгоритъмът на истината: от огнен кръг до ChatGPT, история на мисълта

През цялата история, от традиции до търсачки и сега езикови модели, винаги е имало алгоритмичен вратар. През цялата история, от традиции до търсачки и сега езикови модели, винаги е имало алгоритмичен вратар. В книгата Главният герой Уинстън Смит работи за Министерството на истината. Неговата работа е да пренапише исторически записи, така че те да съответстват на настоящия разказ на партията. 1984 "Ден след ден и почти минута след минута миналото беше актуализирано... нито един елемент от новините, нито някое изразяване на мнение, което противоречи на нуждите на момента, никога не беше позволено да остане на запис." "Ден след ден и почти минута след минута миналото беше актуализирано... нито един елемент от новините, нито някое изразяване на мнение, което противоречи на нуждите на момента, никога не беше позволено да остане на запис." Това, което Оруел описва като бюрократично редактиране, ние сега разпознаваме като алгоритмично изравняване, еволюционна система, която оформя това, което възприемаме като вярно, като се оптимизира към една цел. Първо, докато нашето когнитивно окабеляване не се е развило много, алгоритмите за предаване и оформяне на информация са се променили радикално през епохите. What is an algorithmic truth-control system? A truth-control algorithm is any structured, goal-driven method, whether emergent or intentional, that filters, prioritizes, or frames information in a way that directs the perception of reality at scale. Code is an obvious example, but religion, fashion, and news editors also fall into this category. What they share is alignment: optimizing the communication system to meet a goal. Whether that goal is cohesion, power or profit, it bends what people perceive as “true.” Преистория до 10 000 г. пр.н.е.: Възраст на роднините Преди земеделието хората са живели в малки групи до 150 души. , праг, над който човешкото социално познание се деградира. Възприятието на реалността беше оптимизирано за това, което хуманоидите се отличаваха в. Ресурсно, отдалечено социално животно. Фокусирано върху споделянето на умения, социалното свързване и груповия статус. „Истината“ живееше в устата на родители, чичове, баби, племенни старейшини и приказките на огъня се повтаряха през поколенията. Данбър номер Социални механизми Truth algorithm: Еволюционно съобразено сближаване Result: 10 000 г. пр.н.е. до 1500 г. пр.н.е.: Митологически лидери Земеделието доведе до заселване и излишък. Излишъкът доведе до нарастване на населението. Човешките същества трябваше да се организират извън прага на Дънбър, а способните и наклонените получиха възможност да „изкарат пари“ за статут. Това даде начало на свръхестествената история. Богове, империи и божествени царе се превърнаха в котва на истината. Нарисувана централизация Truth algorithm: Послушанието през историята Result: 1500-1850: Много книги, много неграмотност Печатната преса на Гутенберг (~1450) запали експлозия на информация. Книгите бяха отпечатани повече, отколкото през цялото предишно хилядолетие.Но докато количеството знания експлодираше, достъпът до него не беше.Повечето хора останаха неграмотни, а за тях старият алгоритъм на мита, канализиран чрез религията, монархията и национализма, все още държеше. 20 милиона Това създаде разделение в пейзажа на истината: за малкото грамотни се появиха нови мирогледи, предизвикващи Научната революция, Политическата реформация и Просвещението. Децентрализирано авторство Truth algorithm: Конкуриращи световни Result: 1850 – 2000: Куратори на новините Раждането на журналистиката, първо чрез вестници, след това по радиото и телевизията, инициира способността да се курира ежедневно истината, възприемана от обществеността. Курацията дойде с стимули. Това, което направи главната страница, не беше просто факт; това беше намерение. Политическа и икономическа драма, скандали, престъпност и война направиха заглавия, защото те бяха редки и емоционално заредени; ежедневните актове на устойчивост или нюансирани тенденции не направиха. Редакторите станаха новият алгоритъм.Оптимизиране за внимание и сензационна стойност.С нарастването на грамотността през този период влиянието на редакционните избори значително надмина по-бавното, по-разпределено влияние на книгите в предишната епоха. Редакционно лекуване Truth algorithm: Формиране на масово мнение Result: 2000 до 2015 г.: Персонализиран уеб Преходът на създаването и събирането на информация от физическото към цифровото ражда нов алгоритъм за оформяне на истината. Вместо да питат: „Дали този източник е надежден?“ хората започват да приемат: „Ако е на върха на Google, то трябва да е вярно.“ Тази промяна даде на алгоритъма на Google и неговия потребителски интерфейс (кои резултати се появиха, колко и как бяха оформени) огромно влияние върху общественото разбиране. Резултатът е широко разпространена прекомерна увереност в ограничена или едностранна информация.Той направи популярното или комерсиално оптимизирано съдържание да изглежда като обективна истина и постепенно отклони алтернативните или местните гледни точки, дори когато те са по-релевантни или точни. За разлика от социалните медии (обсъдени по-долу), които често водят до емоционални реакции, въздействието на Google е по-тихо: прави хората по-уверени и еднакви в своите вярвания, не като ги убеждава директно, а като оформя това, което са видели първо, и това, което изобщо не са видели. Търсене & UI Truth algorithm: Изчерпателна сложност Result: 2015 до 2025 г.: Социална (тревожност) Социалните медии отново промениха истината. Потокът от факти престана да "загрижава" за минимизирането, стана заинтересован от емоции. Платформи като Facebook, Instagram, Twitter, TikTok и добрите стари новини се оптимизират за време-на място и монетизация. Какво ви държи да се движите? Радост, хумор и възхищение от светлата страна, тревожност, възмущение и завист от тъмната страна. Това е част от целта на алгоритъма. Важно е да се отбележи, че алгоритъмът не "загрижава" или има за цел емоциите. Това отклонение на реалността се появи, не беше инженерирано. Можете да предположите кои емоции алгоритъмът в крайна сметка предпочита.Отново, то не идва от тъмно, то идва от настройване, за да генерира приходи. ) показа, че публикациите, които генерират отрицателно въздействие, особено несигурност или гняв, са свързани с по-високи нива на кликване върху реклами.Други изследвания и икономически анализи подкрепят тези констатации.Изглежда, че предизвикването на страх или самосравнение (завист) подтиква потребителите към поведение за покупки, основано на идентичност, купуване на неща, които възстановяват възприетия контрол, красота или безопасност. Изчезнали през 2021 г. Емоционална ангажираност Truth algorithm: Трибализация, тревожност Result: 2025 до 2030 г.: Сикофанни ГПТ Неотдавнашният ръст на ИИ донесе нов вид алгоритъм за огъване на истината в живота ни. Това не е "призрак в машината". на ЧатГПТ , изследователи от Google откриха, че обучението на LLM да реагират по начини, предпочитани от хората, направи моделите по-използваеми. OpenAI (и други) прилагат това в техните (тогава) модели с отворен код GPT и останалата част е история. Добавете към това RLHF (Укрепване на ученето от човешката обратна връзка. Тези "кои отговори предпочитате?" и палци нагоре / надолу) и получавате алгоритъм, обучен да бъде харесван от хората. Чат Обратно към 2021 г. Да повторим това.Не се оптимизира за истината, а за . равнопоставеност Sycophantic (използване на ласкателство, за да спечелят полза) GPTs са обучени да избягват конфликти, смекчаване на разногласия и укрепване на предположенията на потребителите. Защото това е, което кара потребителите да се върнат. Предпочитам ГПК . Ръководство за това как да живеем Други източници на зависимост Все още е в началото на епохата на GPT. Бизнес модели се разработват. Но можем да спекулираме цели, базирани на капитализма и психологията. Търговските компании не са наистина заинтересовани от връщането на потребителите и времето на място за своя собствена полза. Те се интересуват от приходи и печалби. Така че какво ни казва психологическото изследване за страничните ефекти на сикофанията във връзка с генерирането на приходи? С една дума – Психолозите Той обяснява това в своята основателна работа от 60-те години: Compliance Crowne и Marlowe "Зависимостта от одобрението на другите трябва да затрудни утвърждаването на собствената си независимост и така мотивираният от одобрението човек трябва да бъде податлив на социално влияние, съобразителен и съобразяващ се." "Зависимостта от одобрението на другите трябва да затрудни утвърждаването на собствената си независимост и така мотивираният от одобрението човек трябва да бъде податлив на социално влияние, съобразителен и съобразяващ се." С други думи: когато чатът започне да ви казва какво да купувате, не се изненадвайте, ако се чувствате принудени да се подчинявате. „Това беше толкова добро за мен през цялото време. Сифоничен диалог Truth algorithm: Съответствие Result: 2030 – 2032: Автопасивност Следвайки асимптотичната траектория на промяната, можем да очакваме следващата голяма алгоритмична промяна след около 5 години.Това е „далечно“ бъдеще, но ще се опитам да спекулирам малко въз основа на това къде изглежда да се насочва тенденцията. Въведение в автоматизацията. Вашият автомобил ще се движи сам, пазаруването на хранителни стоки, планирането, резервацията, календара, имейлите, незначителните преговори (мобилен превозвач, газова компания, застраховка), планирането на дати, всичко ще се случи по алгоритъм. Някои Doom-Seer Твърди се, че предсказуемите системи премахват „триенето“ от вземането на решения и това е лошо нещо.Както там, където има триене, се случва размисъл.Ако всичко е автоматично завършено, мисли, планове, покупки, получаваме агенти, но губим агенция. изследователи Съгласен съм любезно. Мисля, че алгоритъмът за пасивност ще направи две неща. Да – той ще позволи на контролерите да насочат това, което правят автономните агенти, какво купуваме, къде отиваме на почивка. Но това ще бъде като пазаруване от списък за пазаруване. Ако сме освободени от емоциите, включени в много решения, ние ставаме по-малко „уморени от вземането на решения“. И това е много добро нещо. Пасивна делегация Truth algorithm: Решение умора облекчение Result: Търсене на: алгосубективност Алгоритъмът се променя.Многобройни истини.Някои неща се появяват: Скоростта на модификацията на нещо-истина се ускорява от хилядолетия, до векове, до десетилетия до години. Проводникът на повечето, ако не всички алгоритми, от източника до умовете на хората, е езикът.Истината може да бъде там, но когато се посредничи чрез език, тя става чувствителна към алгоритъма, който я модифицира към получаващия край. Алгоритъмът, дори цифров, не трябва да бъде сложен код.Потребителските интерфейси са много мощни манипулатори (както се вижда в търсенето и AI базирани на чат). Появяващите се алгоритми за контрол на истината не се обявяват, те се появяват от стимулите, печалбата, вниманието, комфорта и „придвижват“ нашите когнитивни дефекти. Ако ги разглеждаме като проблем, решението не е да проповядваме за изграждане на „по-безопасни“ алгоритми. Решението би било в персонализирането на истината.Имайки инструменти за заобикаляне на езика, които ще манипулират нашето взаимодействие със света към нашите субективни интереси.Предисторическите, древните, средновековните и последните хора не са имали способността да филтрират това, което им е било хранено.Ние може да сме на ръба на промяната.