AI の政治: 一時停止から規制まで、すべては人々の心をつかむことです

「手紙」は始まりに過ぎませんでした。 AI政治ショーへようこそ。ポップコーンをつかむか、できればリングに上がりましょう。

「先日、政府の未来の生命研究所から手紙を受け取りました。

私はそれを開いて読んだ、それは彼らが吸盤だと言った

彼らは自分の軍隊か何かのために私を欲しがった

私が気にしているのを想像してください、私は決して言いませんでした

ここは決して気にしない土地です

私と私のような兄弟について

私はそれと一緒ではありませんでしたが、ちょうどその瞬間、それが私に起こりました

吸盤には権威がありました」

ブラック・スティール・イン・ザ・アワー・オブ・カオス 歌詞 by Public Enemy

Public Enemy と今日の AI の状態との関係は、すぐには明らかにならないかもしれません。しかし、「政府」を「Future of Life Institute」に、「権限」を「権力」に置き換えると、これらの歌詞は、今日の AI で起こっていることのかなり良いメタファーになる可能性があります。

Twitter で知られるようになった「The Letter」は、 Future of Life Institute (FLI) によって編集され、ますます多くの人々によって署名された公開書簡です。 「高度なAIの設計と開発のための一連の共有安全プロトコルを開発および実装する」ために、GPT-4よりも大きなAIモデルのトレーニングを一時停止するよう求めています。

FLI の書簡には、「AI の研究開発は、今日の強力で最先端のシステムを、より正確で、安全で、解釈可能で、透明性があり、堅牢で、整合性があり、信頼でき、忠実なものにすることに再び焦点を当てるべきである」と述べられています。 「The Letter」について正当な懸念を表明した人々を含め、この声明に異議を唱える人はほとんどいません。

私も「手紙」に署名しました。私が行ったとき、署名者は1,000人未満でした。現在、 FLI の FAQ によると、約 50.000 です。私が署名しなかったのは、FLI またはその枠組みに完全に同意するためです。FLI とはかけ離れています。私はまた、上記の声明について留保を持っており、いわゆる AI の誇大宣伝を非常に認識しており、批判しています。

注目を集め、非常に必要な会話が始まることを期待して、私は「手紙」に署名しました。 AI の反発がこのような熱い議論を煽ったのは、2020 年だけです。それは、Google が、 「確率的オウム」。

もちろん、2.5年はAIの一生です。それはAI が主流になる前の ChatGPT の前のことでした。しかし、たとえ熱く議論されたとしても、それは必ずしも問題が今日広く理解されていることを意味するわけではありません.

フューチャー オブ ライフ インスティテュートとテスリアル

「手紙」に対する批判の最初の行は、その起源と、それを起草して署名した人々の議題に言及しています。実際、フューチャー オブ ライフ インスティテュートは効果的な利他主義、長期主義者の組織です。

一言で言えば、それは、テクノロジーの使用が今日引き起こしている実際の問題よりも、架空のテクノ ユートピアの未来に関心を持っている人々を意味します。 FLI の FAQ は現在の被害にも対処しようとしていますが、Peter Thiel と Elon Musk が「経済力の集中」を懸念事項として挙げているのは、あまり説得力がないように思えます。

以前はロンターミズムのインサイダーだった哲学者で歴史家のエミール P. トレスは、ロンターミズムとそのイデオロギーのファミリーを説明するために頭字語TESCREALを作り出しました。人類が地球を破壊するのを防ぐために火星に行く必要がある、または問題を解決するには超高度な AI が必要であると主張することは、TESCREAL の考え方について多くを語っています。

これらの人々は心からあなたの最善の利益を考えているわけではありません.FLIが起草し、Elon Muskが共同署名した手紙に私が署名したとは思えません.とはいえ、そうしないのも難しいです。イーロン・マスクのタイプが獲得する資金、影響力、および宣伝の量は、批評家でさえも無視するのは困難です.

資金と目標

適切な例: DAIR (分散型 AI 研究所) は、AI 倫理学者 Timnit Gebru によって設立されました。 Gebru 氏は 2020 年に Google をクビになった 1 人でした。DAIR は 2021 年にGebru 氏のやりたい仕事を実現するために設立されました。

DAIR は、「AI は避けられないものではなく、その害は予防可能であり、その生産と展開に多様な視点と意図的なプロセスが含まれている場合、AI は有益であるという信念に根ざしています」.それは立派に聞こえます。

DAIR はその使命に取り組むために多くの研究者を雇用しており、フォード財団、マッカーサー財団、ケイパー センター、ジョージ ソロスのオープン ソサエティ財団、ロックフェラー財団から370 万ドルを調達しています。研究には何らかの形で資金を提供する必要があります。しかし、おそらく、この資金源についても熟考する価値があります。

Gebru はこの難問を認識しており、「現在も大きな慈善活動を行っているビッグ テックの億万長者」について語っています。おそらく、DAIR の創設者は、これらの資金を称賛に値する目標に向けて使用することが、資金の出所よりも重要であると考えています。しかし、この考え方は DAIR だけに限定されるべきでしょうか?

DAIRは、「「AI一時停止」レターに関するStochastic Parrotsのリストされた著者からの声明」を公開しました。この非常に思慮深い声明の中で、その著者は、「この手紙に署名したコンピューティングの専門家の数と、それが受けた肯定的なメディア報道を見てがっかりしている」と書いています。

動機、危害、政治

私は FLI の書簡に署名した何人かの専門家を知っており、一緒に仕事をしてきましたが、私以外の誰にも代弁することはできません。しかし、彼らに疑いの利益を与えることは公正だと思います。

ゲイリー・マーカスのような一部の人々は、「手紙」を完全に支持するわけではないが、非常に重要だと考える特定の目標を達成するために署名したと述べています.おなじみですか？

人々は署名者の動機に疑問を呈しており、追いつくために現在AIをリードしているものを単に失速させたいと考えている人もいるかもしれないと主張しています.その好例として、イーロン・マスクは x.ai と呼ばれる新しい AI 企業を設立しています。そして、OpenAI は現在、これまで以上に大規模な AI モデルは進むべき道ではない可能性があると述べています。

しかし、署名した全員が私利私欲に駆られているわけではありません。そして、今日の AI システムの導入による被害は現実のものです。

労働者の搾取と大規模なデータの盗難。抑圧システムの再生産と情報エコシステムへの危険。 権力の集中。 DAIR が言及する害はすべて非常に現実的です。

権力者は、AI を介してこれらを積極的に促進するか、無意識に有効にしています。問題を提起し、意識を喚起し、ビッグテックの行進を弱体化させるために連合を構築することは、実際的なことです。

それが政治のように聞こえる場合、 人々が指摘したように、それは政治だからです。つまり、「意見、恐れ、価値観、態度、信念、視点、リソース、インセンティブ、率直な奇妙さ」に加えて、お金と権力についてです。

それがいつものことです。 Gebru はこのゲームになじみがないわけではなく、外部から影響力ゲームを開始する前に、Google の内部から物事を変えようとしました。

メディアの影響と研究

FLI の AI モラトリアムの呼びかけは最初のものではありませんでしたが、注目を集めたのはこれでした。批判的にさえも、実用的であることは署名を求められました。 FLIの前にモラトリアムを提案したにもかかわらず、マーカスはそうしました。それは、Elon Musk 型の署名者や、DAIR が FLI の書簡に見た「肯定的なメディア報道」を引き付けませんでした。

そういうこともあったのは事実です。センセーショナルなカードをプレイすることに常に熱心なアウトレットもあれば、 TESCREAL に公然とインスピレーションを得ているアウトレットもあります。しかし、それはすべての報道が肯定的だったという意味ではありません。いずれにせよ、メディアの影響力はゲームの一部です。

しかし、研究はどうですか？ Marcus、Andrew Ng、Yann LeCun などの DAIR と AI の両方のリーダーが研究について言及しています。 Ng 氏と LeCun 氏は、研究は「[AI] システムをより制御しやすくする新しいアイデア」をもたらすためのソリューションの一部であると考えています。

これは、主に技術的な性質の問題に要約されるように思われる、広く信じられている信念の典型です。もしあなたがこの信念を持っているなら、問題を克服するために必要なのは解決策を見つけるためのより多くの研究であると信じるのも理にかなっています.

しかし、「Stochastic Parrots」事件が示すように、これは決して解決策の欠如に関するものではありませんでした。それは、議題、政治、お金、権力に関するものです。

独占と固定 AI

マーカスは、AI について彼が最も恐れているのは人間だと述べています。彼は橋を架けることを主張し、単一の問題に焦点を当てるのではありません。この精神では、研究を通じてより優れた AI を構築することだけに集中しないことが重要です。人々がアクセスできるようにすることは非常に重要です。

最終的には、Internet Explorer よりも優れたブラウザーにアクセスできることが、ブラウザー自体よりも重要でした。それが 90 年代のブラウザ戦争に当てはまるとすれば、今日の AI についても何かを教えてくれるかもしれません。それがMatt Stoller の主張の要点です。

熱心な反独占主義者である Stoller は、Google と Microsoft の AI に対する魅力を表裏一体だと考えています。ストーラー氏は、AI が検索における自社の優位性に脅威を与えているという Google の主張は、Google に対する反トラスト調査を誤解させるための努力であると考えています。

ストーラーは、「民主主義社会として、この素晴らしい科学的知識を少数者に支配されたくないことを議員に伝えるのは、私たちの責任です」と主張しています。彼がビッグテックに対する警戒を呼びかけるのは正しい。

一部の AI 研究者や起業家は、誰でも使用できるオープンなデータセットとモデルの作成に取り組んでいます。それは素晴らしいことですが、ブラウザの比喩を念頭に置く必要があります。データセットとモデルにより、開発者はものを構築できます。しかし、ビッグテックがそれらを締め出したためにそれらのものが棚のスペースを確保できなければ、それらはあまり役に立ちません.

AI の専門家であることは役に立ちます。しかし、メラニー・ミッチェルのケースとクリス・マーフィー上院議員とのやり取りが示すように、あなたが話していることを知っているからといって、必ずしもあなたの意見が聞かれるとは限りません。

Mitchell は、 AI の誇大宣伝を見事に覆しました。 AIについて何かできるかもしれない人々との同盟関係の構築..それほど多くはありません.介入することが正しいこともあり、そこにたどり着くには同盟が必要です。

控えめな提案

AI の専門家であろうとなかろうと、私たち一人一人ができる非常に重要なことがいくつかあります。

まず、世界の ChatGPT が発揮している独占的な力の性質を理解してください。これらのビッグ テック システムを使用すればするほど、それらのシステムの改善に貢献し、ビッグ テックのパワーをさらに利用できるようになります。 今度はだまされないようにしよう。ますます多くの代替手段を使用しましょう。

次に、AI の政治について説明します。上院議員に手紙を送ったり、署名を集めたり、街頭を行進したり、 Twitter スペースを開いたりして、AI の国際機関について話し合うことができます。しかし、何かをするか、少なくとも、他の人が何をしているかに注意してください。 AI の猛烈なスピードで通常どおりビジネスを進めることは、災害のレシピです。

私たちはすでに、ビッグテックに有利なように権力の規模が大幅に調整されている状況にあります.何もしないということは、不当な状況で中立を保つことを意味し、抑圧者の側を選ぶことになります。私たちはすでに、ビッグテックに有利なように権力の規模が大幅に調整されている状況にあります.