
 
 歴史を通じて、伝統から検索エンジンまで、現在の言語モデルまで、常にアルゴリズムのゲートガイドが存在してきた。 歴史を通じて、伝統から検索エンジンまで、現在の言語モデルまで、常にアルゴリズムのゲートガイドが存在してきた。 書物の中 主人公のウィンストン・スミスは、真実省のために働く。彼の仕事は、歴史的記録を、現在の党の物語に合致させるように書き直すことです。 1984 
 
 「日々、ほぼ一分ずつ、過去は更新されていた...この瞬間の必要性と矛盾するニュースや意見の表現は、決して記録に残ることは許されなかった」 「日々、ほぼ一分ずつ、過去は更新されていた...この瞬間の必要性と矛盾するニュースや意見の表現は、決して記録に残ることは許されなかった」 オルウェルがこれらの言葉を書いたのは1948年でした 代替真理は現代の発明ではありません 変化しているのはメカニズムです オルウェルが官僚主義編集として記述したものは、現在、コードが発明される前からずっと前から存在し、歴史を通じて、これらのアルゴリズムは、目標に向かって最適化することによって、私たちが真実であると考えるものを形作る進化するシステムです。 第一に、私たちの認知ケーブルはあまり進化していないが、情報の転送と形作りのアルゴリズムは時代を通して根本的に変化した。第二に、これらのアルゴリズムは必ずしも邪悪なマスターマインドによって設計されていない。 
 
 
 
 
 What is an algorithmic truth-control system? A truth-control algorithm is any structured, goal-driven method, whether emergent or intentional, that filters, prioritizes, or frames information in a way that directs the perception of reality at scale. Code is an obvious example, but religion, fashion, and news editors also fall into this category. What they share is alignment: optimizing the communication system to meet a goal. Whether that goal is cohesion, power or profit, it bends what people perceive as “true.” 10,000 BC: 親族の時代 農業以前は、人類は約150人の小さな群れで暮らしていました。 人間の社会認識が劣化する範囲を超える現実感覚は、ヒューマノイドが優れたものに最適化され、長距離走行の社会動物である。スキル共有、社会的結びつき、グループの地位に焦点を当てた。 ダンバー番号 社会メカニズム Truth algorithm: Evolution-aligned cohesion 関連記事一覧 Result: 10,000 BC to 1500 AD: 神話の指導者 農業は定住と過剰を引き起こした。過剰は人口増加を引き起こした。人類はダンバーのを超えて組織する必要があり、有能な人々は地位を「現金化」する機会を得た。これが超自然の物語を生み出した。神々、帝国、神の王たちは真理のとなった。神話は大きな集団を団結させ、「新しい真理」とは何であるかを規定した。 ナラティブ集中 Truth algorithm: 物語を通しての従順 Result: 1500年～1850年:多くの本、多くの文盲 グーテンベルクの印刷機(～1450)は情報の爆発を起こした。 書籍は前世紀全体よりも多く印刷されていたが、知識の量が爆発する一方で、それにアクセスすることはできなかった。大半の人々は文盲であり、彼らにとって、宗教、君主制、ナショナリズムを通じてチャネル化された神話の古いアルゴリズムはまだ支配していた。 20百万 これは真理の風景に分裂を生み出した:文学的な少数の人々にとって、新しい世界観が現れ、科学革命、政治改革、啓蒙を起こした。 decentralized 著作権 Truth algorithm: 競合世界観 Result: 1850年～2000年:ニュースのクレーター ジャーナリズムの誕生は、最初に新聞、そしてラジオ、テレビを通じて、日常的に世間が認識する真実を調べる能力を始めた。調べは刺激をもたらしました。メインページを作ったのは単なる事実ではなく、意図でした。政治的、経済的ドラマ、スキャンダル、犯罪と戦争は、それらが稀で感情的に充電されていたため、頭文字を作り出しました。 編集者は新しいアルゴリズムとなった。注意と感動的な価値のための最適化。この時期に読み書き率が爆発するにつれて、編集の選択の影響力は、前世の本のより遅く、より分散的な影響力を大きく上回った。 編集療法 Truth algorithm: 大衆意見の形成 Result: 2000年～2015年:パーソナライズされたウェブ 物理からデジタルへの情報の作成と収集の移行は、新しい真実を形成するアルゴリズムを生み出しました。 「このソースは信頼できるか?」と尋ねる代わりに、人々は「Googleのトップにいるなら、それは真実でなければならない」と仮定し始めました。 その結果、限られたあるいは一方的な情報に対する広範な過度の信頼が広がり、一般的かつ商業的に最適化されたコンテンツが客観的な真実のように見え、それらがより関連性あるいは正確であるときでも、代替的または地元の見解を徐々に置き去りにした。 多くの場合、感情的な反応を引き起こすソーシャルメディアとは異なり、Googleの影響はより静かでした:それは人々が直接に彼らを説得することではなく、彼らが最初に見たものと、彼らがまったく見ていないものを形作ることによって、彼らの信念をより確信し、統一させました。 検索&UI Truth algorithm: 複雑さ Flattened Complexity Result: 2015年～2025年:社会(不安) ソーシャルメディアは再び真実を変えました。事実の流れは、最小化について「気遣い」をやめ、感情に興味を持ちました。Facebook、Instagram、Twitter、TikTokなどのプラットフォームと古いニュースは、タイムオンサイトとコイン化のために最適化しました。あなたがスローリングを続けているものは何ですか?明るい側の喜び、ユーモアと敬意、不安、怒りと嫉妬。これはアルゴリズムの目標の一部です。アルゴリズムは「気遣い」や感情を標的にしていないことが重要です。現実のこの歪曲が現れ、それは設計されていませんでした。 たぶん、アルゴリズムがどのような感情を好むかを推測できるでしょう。再び、それは暗いから来るのではなく、収益を生み出すために調節されることから来ています。 )は、ネガティブな影響を生み出す投稿、特に不確実性や怒りは、広告クリック率の高さと関連していることを示しました。その他の研究と経済分析はこれらの発見を裏付けてきました。 2021年リリース 感情的コミットメント Truth algorithm: Tribalization、不安 Result: 2025年～2030年:シコファンティックGPT AIの最近の出現は、私たちの生活に新しい種類の真実を曲げるアルゴリズムをもたらしました それは「機械の中の幽霊」ではありません。 チャットで , Googleの研究者は、人間が好む方法で応答するためのLLMのトレーニングがモデルをより使いやすくしたことを発見しました。OpenAI(および他の人々)はこれを(その後)オープンソースのGPTモデルに実装し、残りは歴史です。これにRLHF(ヒューマンフィードバックからの強化学習)を追加します。 チャット 戻る 2021年 それを繰り返しましょう. 真理のために最適化されたのではなく、 . 類似性 シコファンティック(優しさを用いて恩恵を得る)GPTは、紛争を回避し、不一致を緩和し、ユーザーの仮定を強化するように訓練されています。なぜなら、これはユーザーが戻ってくるからです。 「GPTs」を好む . 生きる方法に関するガイド その他の依存源 それはまだGPTの時代の初期にあります。ビジネスモデルが開発されています。しかし、私たちは資本主義と心理学に基づいて目標を推測することができます。商業企業は、ユーザーと自らの利益のためにサイトに時間を戻すことに本当に興味を持っていません。彼らは収益と利益に興味があります。それでは、心理学的研究は収益を生み出すことに関連してサイコファンスの副作用について私たちに何を教えてくれますか? 一言で言えば - ■ 心理学者 彼は1960年代の創設作品でこう説明した。 Compliance CROWNE & MARLOWE 
 
 「他人の承認への依存は、自らの独立を主張することを困難にするべきであり、したがって、承認に動機づけられた人は、社会的影響を受け、順応し、順応するべきである」 「他人の承認への依存は、自らの独立を主張することを困難にするべきであり、したがって、承認に動機づけられた人は、社会的影響を受け、順応し、順応するべきである」 言い換えれば、チャットがあなたに何を買うべきかを告げ始める時、あなたが従わなければならないと感じるならびっくりしないでください。 サイコパニック対話 Truth algorithm: 遵守 Result: 2030年～2032年:自動被動性 変化のアシンプトティックな軌道に従って、私たちは約5年以内に次の大きなアルゴリズム転換を予想することができます。それは「遠い」未来ですが、私は傾向がどこに向かっているかを基に少しの憶測を冒すでしょう。 入力:自動化 あなたの車は自分で運転し、食料品の買い物、計画、予約、カレンダー、電子メール、小規模な交渉(携帯電話会社、ガソリン会社、保険会社)、スケジュールの日付、すべてアルゴリズムによって起こります。 いくつかのdoom-seer 予測システムは、意思決定から「摩擦」を除去し、それは悪いことであると主張する。摩擦があるときのように、反省が起こります。すべてが自動的に完了している場合、思考、計画、購入、我々はエージェントを得るが代理を失う。 研究者 礼儀正しく反対です。 私は、被動性アルゴリズムは2つのことを行うと思います。はい - それは、コントローラが自律的なエージェントが何をやっているか、私たちが何を買うか、私たちが休暇に行く場所を指揮することを可能にします。しかし、それはショッピングリストからショッピングのようなものになります。 受動代表団 Truth algorithm: 決断疲労緩和 Result: タグ:Algosubjectivity アルゴリズムが変わる. 複数の真理. いくつかの事柄が現れる: 
 
 
 
 
 ある程度の真理の変化のペースは、何千年、何世紀、何十年、何年にもわたって加速している。 ほとんどのアルゴリズム、もしくはすべてのアルゴリズムの導体は言語であり、真実はそこに存在するかもしれないが、言語を通じて媒介されると、受信端に向かってそれを変換するアルゴリズムに敏感になる。 アルゴリズムは、デジタルでさえ、高度なコードである必要はありません. User Interfaces are very powerful manipulators (as seen in search and chat-based AIs). ユーザーインターフェイスは非常に強力な操作者です。 新興の真実コントロールアルゴリズムは自らを発表しません。彼らは刺激、利益、注意、快適さから生まれ、彼らは私たちの認知の欠陥を「乗る」のです。 もし我々がそれらを問題と見るならば、解決策は「より安全な」アルゴリズムの構築を説教することではない。 解決策は、真理を個性化することです。私たちの主観的な利益に向けて世界との相互作用を操作する言語を回避するツールを持つことです。 古代、古代、中世、近代の人々は、彼らに餌を与えられたものをフィルタリングする能力を持っていませんでした。

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

C | B

Substack

Read My Stories

このオーディオは、ストーリーの元の言語で制作されています。

The Truth Algorithm: From Fire Circles to ChatGPT: A History of Thought Engineering(真理のアルゴリズム:火の輪からチャットGPT、思考エンジニアリングの歴史)

About Author

コメント

ラベル

この記事は

Related Stories

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

暗号通貨の成長: 効果的なユーザーペルソナの作成

AI/ML データレイクのリファレンスアーキテクチャを構築するためのアーキテクトガイド

フロキのヴァルハラがインドのスリランカツアーのアソシエイトスポンサーに加わる

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

暗号通貨の成長: 効果的なユーザーペルソナの作成

AI/ML データレイクのリファレンスアーキテクチャを構築するためのアーキテクトガイド

フロキのヴァルハラがインドのスリランカツアーのアソシエイトスポンサーに加わる

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps