285 測定値

ローカル LLM の倫理: ザッカーバーグの「オープンソース AI マニフェスト」への対応

に Tech Shinobi8m2024/08/04

長すぎる; 読むには

この投稿では、ザッカーバーグが Fediverse とオープンソースの LLaMA を統合した理由について説明します。これは彼の美徳によるものではありません。そして、なぜ FOSS が資本主義の病を治し、環境を救う方法なのでしょうか?

featured image - ローカル LLM の倫理: ザッカーバーグの「オープンソース AI マニフェスト」への対応

‘a future filled with robots’ Image created by HackerNoon AI Image Generator

「オープンソース AI マニフェスト」

マーク・ザッカーバーグはリチャード・ストールマンに何十年も嫌われており、ビデオエッセイ「インターネットはいかにして盗まれたか」と「AIはいかにして当時と現在に盗まれたか」の両方の表紙画像に登場する唯一の人物である。

しかし、彼が Fediverse を採用し、 Llama を継続的にオープンソース化した後、状況は最近変わりました。

ザッカーバーグ氏は最新の「オープンソース AI マニフェスト」で、オープンソースの 5 つのニーズを述べています。

独自のモデルをトレーニングし、微調整し、精製する必要があります。
私たちは自らの運命をコントロールする必要があり、閉鎖的なベンダーに縛られないようにする必要があります。
私たちはデータを保護する必要があります。
効率的かつ低コストで実行できるモデルが必要です。
私たちは、長期的に標準となるエコシステムに投資したいと考えています。

これは、技術系個人や中小企業のニーズを正確に表しています。

私がこれを「マニフェスト」と呼ぶ理由は、この記事を読んだときの印象がGNU マニフェストに強く結びついているからです。

私たちをフリー/解放 OS にしてくれた GNU プロジェクトに感謝します。そして、私たちを真のオープン AI にしてくれた LLaMA 開発チームに感謝します。

利己主義と利他主義の弁証法

アダム・スミスは『道徳感情論』の中でこう書いています。

人間はどんなに利己的だと思われても、明らかにその本性の中には、他人の幸運に興味を持ち、他人の幸福が自分にとって必要であると考える原理がある。ただし、人間は他人の幸福を見る喜び以外には、そこから何も得ていない。

この利己的利他主義、あるいは倫理的利己主義の考えは、多くのオーストリア学派や行動経済学者によって受け継がれ、最終的には新自由主義イデオロギーの重要な原則となった。

しかし、ザッカーバーグと彼のMetaの場合は、より複雑です。

ザッカーバーグ氏は声明の中で、オープンソースを採用することのメリット、つまり利益をもたらしつつ道徳的でもあることを明らかに認識している。

誰もが知っているように、シリコンバレーでは誰も「社会全体の利益」を気にかけておらず、「世界をより良い場所にしたい」と本当に望んでいません。彼らは単に利害関係者に対して責任を負っているだけです。

しかし、双方にメリットのある状況はどうでしょうか?

彼らはまさにそれを大衆に信じさせ（感じさせ）るために売り込んでいるのです。

弁証法の構造は利己主義と利他主義の弁証法と同じままです。つまり、利己的なビジネスマンが利益を追求しながらも道徳的であるふりをしているということです。

重要なのは、これが公共の利益にとって双方に利益のある状況をもたらすかどうかです。

答えは、状況によって異なるが、おそらくノーだ。これらの大きすぎて潰せない企業は、本質的に反動的である。

より大きな善を達成するのは困難であり、それが他者の利己主義の副産物であると信じるのはナイーブです。私たち99%が積極的な主体としてこの弁証法的な運動に参加しない限り、私たちの社会は「ポストヒューマンディストピア」に陥る前に気候危機によって破壊されるでしょう。

縮小なくして加速なし

以前のスピーチで述べたように、テクノロジーの危険性により、次の経済サイクル/不況が再び来ない限り、大手テクノロジー企業は、根本的な政治経済秩序を変えずに、持続可能性のためにデータセンターを縮小することは決してありません。

OpenAIの推論コストが40億ドルであるという私たちの推定は、OpenAIがマイクロソフトから借りているサーバー群に詳しい人物から得たものだ。この人物によると、そのクラスターは35万個のNvidia A100チップに相当する。この人物によると、これらのチップのうち約29万個、つまりクラスターの80％以上がChartGPTを動かしていたという。

—アミール・エフラティとアーロン・ホームズ

Meta の AI の将来への大きな投資として、2 つの 24k GPU クラスターを発表します。このクラスター設計は、Llama 3 のトレーニングに使用します。この発表は、当社の野心的なインフラストラクチャロードマップの 1 つのステップです。2024 年末までに、約 60 万個の H100 に相当する計算能力を備えたポートフォリオの一部として、35 万個の NVIDIA H100 GPU を含むインフラストラクチャの構築を継続することを目指しています。

— MetaのGenAIインフラストラクチャの構築

ザッカーバーグは、OpenAI/MS、Googleなどに対抗するためにAIクラスターを拡大し続けるでしょう。結局のところ、オープンソースはMetaにとって競争戦略に過ぎません。

ノーム・チョムスキー氏や斎藤幸平氏の脱成長論は非常に魅力的だが、それだけに頼るべきではない。仮想マシンが、その基盤となる物理マシンの限界を超えることができないのと同じだ。グリーン政治は、新自由主義経済を凌駕する形で動いている限り、自らを維持することさえできない。

さて、状況は明らかですが、何をすべきでしょうか? 明らかに、脱成長も加速主義も人新世の時代には役に立ちません。しかし、スラヴォイ・ジジェクの「穏健保守主義」はどうでしょうか?

SaaSS か Cloud Fiefs か?

インターネットでは、プロプライエタリソフトウェアだけが自由を失う原因ではありません。Service as a Software Substitute (SaaSS) は、自分のコンピューティングを他人に制御させるもう 1 つの方法です。SaaSS とは、自分のプログラムのコピーを実行する代わりに、他人が実装したサービスを使用することを意味します。この用語は私たちのものです。記事や広告では使用されず、サービスが SaaSS であるかどうかもわかりません。代わりに、おそらく「クラウド」という曖昧で気が散る用語が使用され、SaaSS が他のさまざまな慣行 (一部は悪用され、一部は許容される) とひとまとめにされます。

「クラウドコンピューティング」にはさまざまな意味がありますが、その 1 つは、オンラインサービスにデータを保存することです。ほとんどの場合、これは監視にさらされることになるので愚かなことです。もう 1 つの意味 (これと重複しますが、同じではありません) は、ソフトウェア代替としてのサービスです。これは、コンピューティングに対する制御を拒否します。SaaSS は絶対に使用しないでください。

— リチャード・ストールマン、「そのサーバーは実際誰にサービスを提供しているのか?」

RMS はこのエッセイをずっと前に書いたが、最近、ヤニス・ヴァルファキスがこの自由の喪失という概念を今日の文脈でさらに一歩進めた。

驚くべき科学的進歩、空想的な響きのニューラルネットワーク、そして想像を絶する AI プログラムが何を達成するために必要だったのか。倉庫で働き、タクシーを運転し、食料を配達する労働者をクラウドワーカーに変えることだ。市場がクラウド領地に置き換わる世界を創ることだ。企業を家臣の役割に押し込むことだ。そして、私たち全員をクラウド農奴に変え、スマートフォンやタブレットに釘付けにして、新しい支配者たちを幸せにさせるクラウド資本を熱心に生み出すことだ。

— ヤニス・ヴァルファキス『テクノ封建主義 - 資本主義を殺したものは何か』

クラウドキャピタルの時代では、オンラインサービス/SaaSS/クラウドの領地を所有し、サブスクリプション料金、いわゆる「クラウドレント」を請求するクラウド主義者によって私たちの自由が奪われています。もちろん、彼らは私たちのデバイス (コンピューティング)、注意力 (財布)、生活 (労働) をコントロールしたいと考えています。

では、私たちはどのようにして自由と民主主義を取り戻すのでしょうか?

私は、まずオープンソースの代替手段を採用し、可能であればセルフホスティングすることで、デジタルライフを自由にし、民主化（分散化）すべきだと主張します。これは、テクノ封建主義を打倒するための私の「クラウド反乱」であり、ジェイコブ・アッペルバウムが監視（資本主義）に放ったのと同じ石です。

システムの仕組みに逆らって行動するのは最も難しいことです。その結果、より深刻な経済危機の反動、グリーン資本主義の繰り返し、そしてオルタナ右翼の逆効果が生じるでしょう。

このシステムの行き詰まりを克服するには、フィードバックループを回避し、ドネラメドウズが示すように、てこポイントを特定して変更する必要があります。

では、資本主義システムにおけるてこポイントとは、正確には何であり、どこにあるのでしょうか。ジョセフ・シュンペーターが提唱したすべての創造的破壊だと思います。たとえば、現在私たちが経験している AI ブームや、ラマと安定的普及は、最も強力な創造的破壊力です。

デイヴィッド・グレーバーの「直接行動」も、私たちのデジタル生活の中では必要です。

統合失調症とうつ病の治療

gofossやPrivacy Guidesなど、簡単に始められるリソースはたくさんあります。しかし、ここではローカル LLM に焦点を当てます。ollama 、 Jan 、 GPT4All 、 llamafileなどのツールは、ローカルホストまたはローカルエリアネットワークで LLM をセルフホスティングするのに最適です。

これは、オープンソース AI の創造的かつ破壊的な力を活用して、寡頭政治から自由を取り戻すための第一歩です。目標は、技術に精通した人々がより多くのセルフホスティングを行うように促し、技術に精通していない人々が Fediverse などのオープンソースコミュニティによって維持されている分散型サービス/インスタンスをより多く使用するようにすることです。

はい、ザッカーバーグは確かに Fediverse とオープンソースの LLaMA を統合しましたが、それは彼の美徳によるものではありません。アリババとその Qwen も同様です。これは、ジル・ドゥルーズの言葉を借りれば、資本主義は統合失調症であり、本質的に自己脱領土化しているからです。簡単に言えば、それはカール・マルクスの有名な主張「資本主義は自己破壊的である」の別の言い方です。

もし本当に脱成長によって環境を救いたいのであれば、その逆ではなくボトムアップでなければなりません。自己ホスティング型の分散型 LLM が増えると、大規模な AI クラスター (少なくとも推論用) に対する市場需要が減り、データセンターの供給が自然に減少し始めるでしょう。

規制には意味があるが、競争市場においては問題を効果的に解決することは決してできず、人間のニーズや欲求は簡単には押しのけることはできない。過度な立法介入は失業を招き、保守派の復活につながるが、それはさらに悪い状態、超保守主義である。

これは、ジークムント・フロイトが「抑圧されたものの執拗な回帰」と呼んだものです。その治療法は、もっと自給自足になること、つまり、[大]他者による消費主義の余剰享受にうんざりするのではなく、自分の手で自分のニーズを満たすことです。

歴史は、資本主義が共産主義によって終わらせることができなかったことを証明しており、これはすでに見てきたとおりだが、それは決してフクヤマの言う「歴史の終わり」ではない。

資本主義のあらゆる行き詰まり（サイクル）は、起業家精神によって変えることができます。「誰もが起業家である」という意味ではありませんが、誰もが（それほどではないものの）平等に行動する機会を（自分なりの方法で）持ち、参加し、関わり、技術革命とそれに続く社会変革に関与する機会を持っています。

ラカン派の精神分析では、精神病を治療する際、分析医は患者と協力し、秘書（起業家）の役割を担い、患者のルール（自由市場）に従うべきであるとされています。そして、固定点（機会）を見つけ、患者の精神構造（循環フロー）をより安定的で持続可能なものに再配置するよう促します。資本主義の場合、固定点（またはアンカーポイント）はフリーおよびオープンソースソフトウェア（FOSS）です。

ローカル LLM の分散型セルフホスティングは、ドゥルーズのリゾームのようなものです。プロプライエタリ市場の需要を減らし、最終的には AI モノリスを解体することができます。この自由で生産的な FOSS の変革は、資本主義の病を治し、環境を救う方法です。

資本主義の後にどうなるかはわかりません。マーク・フィッシャーが示唆したように、想像することすら不可能です。しかし、私たちは後期資本主義の終わりのない終局を乗り越え、憂鬱な資本主義リアリズムを脱獄し、何でも可能（誰もが自由）な未来を再構築する必要があります。

この投稿の背景となった書籍のリストは次のとおりです。