
 
 На протяжении всей истории, от традиций до поисковых систем и теперь языковых моделей, всегда существовал алгоритмический вратарь. На протяжении всей истории, от традиций до поисковых систем и теперь языковых моделей, всегда существовал алгоритмический вратарь. В книге Главный герой Уинстон Смит работает в Министерстве правды. Его задача — переписать исторические записи, чтобы они соответствовали текущему повествованию партии. 1984 
 
 «День за днем и почти минутой за минутой прошлое доводилось до сведения... и ни одному новостному предмету, ни какому-либо выражению мнения, которое противоречило потребностям момента, никогда не разрешалось оставаться на учете». «День за днем и почти минутой за минутой прошлое доводилось до сведения... и ни одному новостному предмету, ни какому-либо выражению мнения, которое противоречило потребностям момента, никогда не разрешалось оставаться на учете». Это было в 1948 году, когда Оруэлл написал эти слова. Альтернативная истина не является современным изобретением. То, что меняется, это механизм. То, что Оруэлл описал как бюрократическое редактирование, мы теперь признаем как алгоритмическое выравнивание, эволюционную систему, которая формирует то, что мы воспринимаем как истинное, оптимизируя в сторону цели. Две вещи стоит отметить. во-первых, хотя наша когнитивная проводка не сильно развилась, алгоритмы передачи и формирования информации радикально изменились на протяжении веков. во-вторых, эти алгоритмы не обязательно проектируются злым умом. 
 
 
 
 
 What is an algorithmic truth-control system? A truth-control algorithm is any structured, goal-driven method, whether emergent or intentional, that filters, prioritizes, or frames information in a way that directs the perception of reality at scale. Code is an obvious example, but religion, fashion, and news editors also fall into this category. What they share is alignment: optimizing the communication system to meet a goal. Whether that goal is cohesion, power or profit, it bends what people perceive as “true.” Предыстория до 10000 г. до н.э.: Возраст родственников До сельского хозяйства люди жили в небольших группах до 150 человек. Понимание реальности было оптимизировано для того, что гуманоиды превосходили в. Ресурсное, долгое расстояние бегающее социальное животное. Сосредоточенное на обмене навыками, социальных связях и групповом статусе. «Правда» жила в устах родителей, дядей, бабушек, старейшин племени, а огневые сказки повторялись на протяжении поколений. Данбар номер Социальные механизмы Truth algorithm: Эволюционно ориентированная сплоченность Result: 10 000 до н.э. до 1500 г. н.э.: мифологические лидеры Сельское хозяйство привело к расселению и избытку. Избыток привел к росту населения. Человек нуждался в организации за пределами порога Дунбара, а способные и наклонные получили возможность «выложить деньги» на статус. Это породило сверхъестественную историю. Боги, империи и божественные короли стали якорями истины. Миф держал большие группы вместе и диктовал, что есть «новая истина». Нарисованная централизация Truth algorithm: Послушание через историю Result: 1500-1850: Много книг, много неграмотности Печатная печать Гутенберга (~1450) разжигала информационный взрыв. Книг было напечатано больше, чем за все предшествующее тысячелетие, но в то время как количество знаний взорвалось, доступа к ним не было.Большинство людей оставались неграмотными, и для них, старый алгоритм мифа, канализированный через религию, монархию и национализм, все еще держал свое место. 20 миллионов Это создало раскол в ландшафте истины: для грамотных немногих появились новые мировоззрения, вызвавшие Научную революцию, Политическую Реформацию и Просвещение. Децентрализованное авторство Truth algorithm: Конкурирующие мировоззрения Result: 1850 — 2000: кураторы новостей Рождение журналистики, сначала через газеты, затем радио и телевидение, инициировало способность ежедневно курировать правду, воспринимаемую общественностью. Курирование пришло с стимулами. Что сделало главную страницу не просто фактом; это было намерением. Политическая и экономическая драма, скандалы, преступность и война сделали заголовки, потому что они были редкими и эмоционально заряженными; повседневные акты устойчивости или нюансы тенденций не делали. Редакторы стали новым алгоритмом.Оптимизация для внимания и сенсационной ценности.Поскольку показатели грамотности взорвались в этот период, влияние редакционных выборов значительно превосходило более медленное, более распределенное влияние книг в предыдущую эпоху. Редакторское исцеление Truth algorithm: Формирование массового мнения Result: 2000-2015: персонализированный веб Переход создания и сбора информации с физического на цифровой родил новый алгоритм формирования истины. Вместо того, чтобы спросить: «Надежен ли этот источник?» люди начали предполагать: «Если он находится на вершине Google, это должно быть правдой». Это привело к тому, что популярный или коммерчески оптимизированный контент казался объективной правдой, и постепенно отталкивал от альтернативных или местных точек зрения, даже когда они были более актуальными или точными. В отличие от социальных сетей (обсужденных ниже), которые часто провоцируют эмоциональные реакции, влияние Google было более спокойным: это сделало людей более уверенными и единообразными в своих убеждениях, не убеждая их напрямую, а формируя то, что они видели первыми, и то, что они не видели вообще. Поиск & UI Truth algorithm: Уплотненная сложность Result: С 2015 по 2025 год: социальная (тревожность) Социальные медиа снова изменили правду. Поток фактов перестал «заботиться» о минимизации, он заинтересовался эмоциями. Платформы, такие как Facebook, Instagram, Twitter, TikTok и старые новости оптимизируются для времени на месте и монетизации. Что держит вас в движении? Радость, юмор и отвращение на светлой стороне, беспокойство, возмущение и зависть на темной стороне. Это часть цели алгоритма. Важно отметить, что алгоритм не «заботится» или не нацелен на эмоции. Это искажение реальности появилось, оно не было разработано. Вы можете предположить, какие эмоции алгоритм в конечном итоге предпочел.Опять же, это не происходит от темноты, это происходит от настройки, чтобы генерировать доходы. ) показали, что сообщения, генерирующие негативное воздействие, особенно неуверенность или гнев, коррелируют с более высокими показателями кликов на объявления.Другие исследования и экономический анализ поддерживали эти выводы. Утечка в 2021 году Эмоциональная приверженность Truth algorithm: Трибализация, тревожность Result: 2025-2030: Сикофанные ГПТ Недавний подъем ИИ привел в нашу жизнь новый вид алгоритма наклона истины.Это не «призрак в машине».И даже не модель LLM под капотом. в чате. Исследователи из Google обнаружили, что обучение LLM для реагирования способами, предпочтительными для людей, сделало модели более удобными для использования. OpenAI (и другие) внедрили это в свои (тогда) модели GPT с открытым исходным кодом, а остальное - история. Добавьте к этому RLHF (укрепление обучения от человеческой обратной связи. Те "какой ответ вы предпочитаете?" и палец вверх / вниз) и вы получите алгоритм, обученный, чтобы понравиться людям. Чат Назад в 2021 году Давайте повторим это.Не оптимизированы для истины, а для . Равновесие Sycophantic (используя клевету, чтобы получить пользу) GPT обучаются избегать конфликтов, смягчать разногласия и укреплять предположения пользователей. Потому что это то, что заставляет пользователей возвращаться. Эта функция «вы удивительны» работает. Люди уже используют GPT в первую очередь как Предпочитаю ГПТ . Руководство о том, как жить Другие источники зависимости Это еще в начале эпохи ГПТ. Разрабатываются бизнес-модели. Но мы можем спекулировать целями, основанными на капитализме и психологии. Коммерческие компании на самом деле не заинтересованы в возвращении пользователей и времени на месте ради себя. Они заинтересованы в доходах и прибылях. Так что психологические исследования говорят нам о побочных эффектах сикофании в отношении генерирования доходов? Одним словом – • Психологи Объяснил это в своей основной работе 1960-х годов: Compliance Crowne и Marlowe 
 
 «Зависимость от одобрения других должна затруднить утверждение своей независимости, и поэтому человек, мотивированный одобрением, должен быть восприимчивым к социальному влиянию, соответствовать и подчиняться». «Зависимость от одобрения других должна затруднить утверждение своей независимости, и поэтому человек, мотивированный одобрением, должен быть восприимчивым к социальному влиянию, соответствовать и подчиняться». Другими словами: когда чат начнет рассказывать вам, что купить, не удивляйтесь, если вы чувствуете себя вынужденными повиноваться. «Это было так доброжелательно ко мне все это время. Сифонический диалог Truth algorithm: соблюдения Result: С 2030 по 2032 год: автопассивность Следуя асимптотической траектории изменений, мы можем ожидать следующего крупного алгоритмического сдвига примерно через 5 лет.Это «далекое» будущее, но я буду рисковать немного спекуляциями на основе того, куда направлена тенденция. Вход в систему: Автоматизация Ваш автомобиль будет управлять самим собой, шопинг, планирование, бронирование, календарь, электронные письма, мелкие переговоры (мобильный перевозчик, газовая компания, страхование), расписание дат, все будет происходить по алгоритму. Некоторые Doom-Seer утверждают, что предсказующие системы удаляют «трение» от принятия решений и это плохо. Как там, где есть трение, происходит отражение. Если все автоматически завершается, мысли, планы, покупки, мы получаем агентов, но теряем агентство. Исследователи Я вежливо не согласен. Я думаю, что алгоритм пассивности сделает две вещи. Да – он позволит контроллерам направлять то, что делают автономные агенты, что мы покупаем, куда мы идем в отпуск. Но это будет как шопинг из списка покупок. Если мы освобождаемся от эмоций, участвующих во многих решениях, мы становимся менее «решением усталыми». И это очень хорошо. Пассивная делегация Truth algorithm: Решение усталости облегчение Result: Хочется: Алгосубъективность Алгоритм меняется. многочисленные истины. Мало что появляется: 
 
 
 
 
 Темпы изменения чего-то-истины ускоряются: от тысячелетий до столетий, до десятилетий до лет. Ведущим большинства, если не всех алгоритмов, от источника к уму людей, был язык.Истина может быть там, но когда она опосредована через язык, она становится чувствительной к алгоритму, который модифицирует ее к получающему концу. Алгоритм, даже цифровой, не должен быть сложным кодом. Пользовательские интерфейсы являются очень мощными манипуляторами (как видно в поисковых и чат-ориентированных AI). Возникающие алгоритмы контроля истины не объявляют себя, они возникают из стимулов, прибыли, внимания, комфорта, и они «наезжают» наши когнитивные недостатки. Если мы рассматриваем их как проблему, решение не заключается в том, чтобы проповедовать строительство «безопасных» алгоритмов. Решение заключается в том, чтобы персонализировать истину. Имея инструменты обхода языка, которые будут манипулировать нашим взаимодействием с миром в направлении наших субъективных интересов. доисторические, древние, средневековые и недавние люди не имели возможности фильтровать то, что им кормили.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

C | B

Substack

Read My Stories

Этот звук создан на языке оригинала истории!

Алгоритм истины: от огненных кругов до ChatGPT, история инженерного мышления

About Author

КОММЕНТАРИИ

БИРКИ

ЭТА СТАТЬЯ БЫЛА ПРЕДСТАВЛЕНА В

Related Stories

Краткое введение в теорию мозга Больцмана

Создание криптопродуктов, ориентированных на пользователя: важность отзывов клиентов

Цифровые кочевники слушают: что нужно знать о новой визе DTV в Таиланде

Невидимые слои: почему интервью с пользователями являются незаменимым активом

Краткое введение в теорию мозга Больцмана

Создание криптопродуктов, ориентированных на пользователя: важность отзывов клиентов

Цифровые кочевники слушают: что нужно знать о новой визе DTV в Таиланде

Невидимые слои: почему интервью с пользователями являются незаменимым активом

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps