AIに関する主流の物語は天気予報のように語られています:それは来る、それは避けられない、それは加速し、仕事を引き継ぎ、社会と政府を再構築し、唯一の賢い動きは適応することです。 それはテクノロジーを重力の中心に置き、人々をフレームから押し出し、道具を主人公に変え、残りの私たちを風景として残します。 我々は、AIが仕事と研究を加速させ、それから能力、パワー、および範囲で成長し続け、私たちを圧倒し、超越することを受け入れる。 そこから、姿勢は辞任に変わります.残っているのは、軌道を受け入れ、それに服従し、テーブルに条件を強要する質問を止めることです。 But terms are consent, accountability, limits, auditability, and the right to shut it down. したがって、私たちは私たちの機関を飲み込んで、私たちの生活の条件がリアルタイムで書き換えられるように、サイドラインから「避けられない」を観察します。 すぐに約束は完全なカバーになります。システムはすべてを世話します:科学、健康、政府サービス、経済、社会生活さえ。そして価格はシンプルになります。 こうして権力は統合される。公的な話は、変化を運命として扱うように人々を訓練する。競争は、制度を永遠のレースに置く。 十分な人が結果が確定していると信じると、交渉は無意味に感じる。 機械に最も近い数人は、デフォルトで権威を獲得し、何が建てられるか、どこで使用されるか、そして何が「受け入れられる」かを決定する。 観客はメッセージで管理され、境界や用語についての会話は背景に消える。 私たちは自分の人生の著作権から閉じ込められています。 人間第一 これをリアルタイムでリアル施設で観ることができます。 病院では、AIシステムを導入して「待機を減らす」、「分類を改善する」、そして意思決定をサポートする。学校区は「AIアシスタント」を採用して、教師の負担を軽減し、学生をより速く評価し、支援する。 そして、毎回同じメッセージが現れます:採用するか、後退するか。 その後、患者は間違った標識を受けます。子供は誤って分類されます。誰かが原因なしに疑わしいと標識されます。家族は利益を失います。誰かが助けを拒否されます。ミスが着陸し、害が現れます。 そして、誰が責任を負うかを尋ねると、誰も被害を所有していない。その答えはプロセス、モデル出力、説明に溶け、決して責任に溶けます。 A supervisor shrugs. A vendor cites “proprietary.” A lawyer points to the fine print. The harm stays, and ownership disappears. その時点で、ガバナンスはすでに失敗しており、システムは「モデルが決めた」という、お気に入りの逃げ場を見つけたからだ。 我々は、スローガンや想像上のユートピアを超えた修正を必要としている。我々は、単純で実際に機能するフレームワークを必要としている。 ヒューマンファーストとは、人間を人間の物語の中心に戻し、道具を強制して人間の目的の中で生きることを意味します。 それはまた、混ざり続ける2つの会話を分けることを意味します。 1つの会話は機能についてです:生き残り、お金、仕事、基本的なニーズです それは恐怖の会話です それは現実です、そしてそれは排除することはできません。 もう一つの会話は、意味についてです:アイデンティティ、表現、尊厳. それは生産性と最適化にすべてを減らすときに消去される人間の会話です。 両層について明確に話すことができない場合、議論は混乱し続けます。一方では効率性、もう一方では尊厳を論じ、何事も解決しません。 デフォルトの質問は「AIはどのように使われますか?」となり、次のように変わります。 why are we doing this, for whom, and at what cost? 誰が火 AIは人間のシステム内の力のように振る舞い、あなたが取り上げてセットアップする通常のツールではなく、急速に広がり、急速にスケールします。 人々はAIを電気と比較するのが好きだが、その比較は本当のリスクを隠している。電気は通常インフラストラクチャとして支配されている。それは明確な基準と所有権を持っている。 AIは人々に関する決定に組み込まれています:アクセス、お金、健康、地位、安全性、アイデンティティ.それが失敗すると、損害は人生、評判、および機関に広がり、誰も責任を取ることができません。 責任はしばしば「決定したモデル」に蒸発する。 火災のように、私たちはそれを設定し、それを忘れることはできません。私たちはまず安全性から始めなければなりません:抑制、訓練、定期的な検査、赤い線、実際の責任。 あなたは火の性質を受け入れ、その周りにガードレールを構築します。同じ論理がここに適用されます。システムは能力で成長することができ、規模で展開することができ、私たちを驚かせることができます。 だからこそ、言葉が先に来なければならないのです。 人間の最初の枠組み AIが火であるならば、人間はまず火のコードである。 火のコードは哲学ではありません。それは、家を燃やすことなく、電力を使用できるようにするルールのセットです。それは力が現実であると仮定します。それは火を道徳的に要求しません。 人間の第一は、人間がこの絵に残っていることである。 これらは、公的または民間のあらゆる深刻な展開のために交渉できないものであり、繰り返すのに十分にシンプルで、実施するのに十分に強力です。 5つの柱は常に真実でなければならない、それぞれがゲートである、失敗した場合、展開しない、壊れた場合、閉鎖する。 (1)目的 目的を明確な人間の結果として、特定の文脈で、特定の用途で示す。 これは最初の著作権の行為です. 定義された目的がなければ、ツールは目的になります. 「我々はそれがすべてを成し遂げることができるから」は目的ではありません. 「我々は他の人々がそうであるから」は目的ではありません。 A purpose is a limited human claim: what problem, for whom, in what setting, with what acceptable tradeoffs. 目的は、限られた人間の主張です。 目的が明示的でない場合、展開は誰も評価していない領域に広がり、信頼が崩壊すると人々は驚く。 (2)アクセス 目的を達成するために必要な最小限にアクセスを制限します. Data, systems, permissions, integrations. これは実践上の抑制です。アクセスが広いとき、ツールは使用されていません。それはすべての上に一般的な層としてインストールされています。それこそが「効率性」が静かに監視となり、便利さが利回りになります。 アクセス規律はまた、あなたが意味を守る方法でもあります。アイデンティティと尊厳が賭けられている場合、あなたは楽器を砂箱の玩具のように扱うのではありません。 3)国境 ハードゲートと明確な基準で運用環境の境界を定義する。 これが誘惑が現れる場所です:AIは何でもできるので、すべてに触れるべきです。しかし、無限の選択肢は権限ではありません。無限の選択肢は判断を凍らせ、創造性を平らげ、リスクを拡大することができます。 限界とは、ツールが何をすることが許されないか、何のカテゴリーに触れることができないか、何の決定が人間を必要とするか、何の文脈が禁止されているか、何が受け入れられないダメージと、何のシグナルが再検討を引き起こすかを決定する場所です。 境界線はまた、物語が避けられない言語に浮かび上がるのを防ぐ。境界線が存在するならば、未来は「何が起こるか」ではない。 (4)監視 Drift, misuse, and damage monitor. Keep records of inputs, outputs, changes, and incidents. ドリフ、誤用、およびダメージのモニター。 監督は操作の要件です ツールは変化します 文脈は変化します 人々はシステムを悪用します 奨励は行動を歪曲します だからこそ監視は継続的でなければなりません。 公衆が影響を受けた場合、公衆は無関係な入力として扱われない。監視とは、システムが静かなダメージを生み出しているときを検出する方法であり、意図を議論する代わりに効果と奨励に基づく会話を維持する方法である。 (5)停止 失敗のための計画. シャットダウンの基準を事前に定義. 速やかに停止し、回転し、復元する能力を維持します。 損害に対する反応が遅れ、委員会言語、そして「我々はそれを調べる」ならば、ツールはすでに著者となっている。 停止とは、システムが存在するためだけに、高価なためだけに、人気があるためだけに、あるいはバックアップするのは恥ずかしいためだけに、システムを稼働させないということです。 警備配備にはハードルと出口が含まれます. 家が煙で満たされ始めたら、煙と交渉しないでください。 降伏しない 降伏はしばしば現実主義と仮装されています。「これは起こる」は成熟したように聞こえるかもしれませんが、それは静かに作家を移します。私たちが避けられないことを受け入れると、私たちは私たちの生活を形作るのをやめ、私たちの存在の条件はデフォルトで設定されます。 私たちは、私たちの既定の姿勢として、避けられないことを拒否しなければなりません。 「これが起こる」を「どのような条件でこれが受け入れられるか」に置き換え、「我々は適応しなければならない」を「我々の役割は何であるか」に置き換えましょう。 われわれに売られる未来は、物語がすでに書かれているものであり、われわれの仕事は従うことである。 “The model decided” is where authorship goes missing. It puts the system, and the people behind it, above the people it touches. 私たちは自分の人生の著者になるか、あるいは他人の草案の中に生きるかを選択します。

2022 - HackerNoon Contributor of the Year - Art

2022 - HackerNoon Contributor of the Year - Music

Nominated for 2022 - HackerNoon Contributor of the Year - Music

Nominated for 2022 - HackerNoon Contributor of the Year - Art

Founder & CEO of Next Decentrum. Creative Director of Crypto Pharaohs.

このオーディオは、ストーリーの元の言語で制作されています。

天気予報の嘘:AI Isn't Fate

About Author

コメント

ラベル

この記事は

Related Stories

海を航海する: データレイクを使用した本番環境レベルの RAG アプリケーションの開発

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

ユーザー中心の暗号通貨製品の作成: 顧客からのフィードバックの重要性

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

海を航海する: データレイクを使用した本番環境レベルの RAG アプリケーションの開発

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

ユーザー中心の暗号通貨製品の作成: 顧客からのフィードバックの重要性

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps