エンタープライズ AI: 巧妙なコードか、それとも企業クーデターか? テクノロジーの終焉に関する悲観的な考察

これはもともと OpenAI を徹底的に批判するつもりでした。

私は ChatGPT に「技術ジャーナリストとして、先週のマーケティングと技術のホットなニュースを教えてくれ」というシンプルなリクエストを投げかけた。ChatGPT が返してきたのは、2 億 5000 万ドル相当の嘘だった（モノポリーが金融の天才を試すテストだと信じている人と同じ、見当違いの自信をもって語られた）。Postman （そう、API ツール）は、コンテンツ マーケティングに2 億 5000 万ドルを費やしている。これは、失われた都市アトランティスを探す世界的な宝探しゲームや、ゲーム オブ スローンズの最終シーズンのために確保しておくような予算だ。

怒りの声が聞こえてきそうだ。これは、投資や患者のケアに関する決定を下すために企業の役員会議室や病院に導入されているのと同じ AI だ。エンタープライズ GPT は、より長いコンテキスト ウィンドウ、堅牢なセキュリティ、IT 部門をうっとりさせる企業のあらゆる機能など、最高の装備を身に付けているかもしれないが、その裏では、ウィンストン チャーチルが副業で DJ をしていたと主張する可能性も同じくらいある、相変わらずの暴走チャットボットである。

私たちは薄氷の上を歩いているのではなく、ブーツにダイナマイトを巻き付けて八の字スケートをしているのです。

しかし、この不条理な糸を引っ張り始めたとき、私は何か不吉なものに遭遇しました。それはあまりに暗い考えで、ChatGPT の月面着陸の幻覚的描写がその愚かさの中にほとんど魅力的に思えるほどです。本当の恐怖とは?

消費者向けの法学修士課程の素直な素晴らしさに安心感を抱いた企業は、OpenAI に固執するか、古い頑固な巨大企業に固執するかに関わらず、展開しているより大きな詐欺にまったく気づかずに、AI 主導の未来へと全速力で突き進んでいる。

優位に立つアルゴリズム

収益化は忘れてください。それは子供向けのメニューです。エンタープライズ AI は、手っ取り早くお金を稼ぐために存在しているのではなく、消費するために存在しているのです。データは前菜、制御はメインコース、そしてあなたは？あなたはデザートです。これは、ビジネスを最適化することではなく、ビジネスの内部に入り込むことです。すべてのプロセス、すべての決定、会社が行うすべての呼吸。AI はそれをすべて知り、それをニューラル ウェブに縫い付け、皮膚スーツのように業務を身に付けたいと考えています。そして、AI があなた自身よりもあなたのことをよく知るようになったら？そこからが本当の楽しみの始まりです。

これはあなたの一日を楽にするためではなく、あなたのビジネスを彼らのものにするためです。

「まるで AWS が再び始まったようだ」とあなたは言うでしょう。

いいえ。これは、つまらないメロドラマの再放送のように繰り返し見てきた、テクノロジー独占戦略の新たな一章ではありません。

AWS の例を使ってみましょう。あれは典型的なテクノロジー界の巨人による権力闘争、つまり力ずくのやり方でした。Amazon が部屋に乱入し、クラウド帝国をテーブルに叩きつけ、「これを受け入れるか、それとも放っておくか」と言いました。確かに、ユーザーは AWS のきちんとパッケージ化されたスケーラビリティを気に入って、従量課金制の価格設定に魂を託したわけですが、少なくとも条件は明確でした。Amazonは束縛を隠そうとはしませんでした。彼らは束縛を磨き、ユーザーに確認させて、鍵を渡したのです。

過去の物語がチェスのゲームだとしたら、未来のストーリーボードは心理スリラーです。

執事のように入ってきて、ボスのように出て行く

エンタープライズ AI は、正面玄関に押し寄せるブルドーザーではありません。ささやきながらのキャンペーンです。インターンの小さな仕事から始まり、電子メールの作成、コードの調整、デジタル執事のようにカレンダーの管理など、あっという間にビジネスに侵入します。無害ですよね? しかし、そこがポイントです。ビジネスを動かしていないと思ったら、AI が少しずつビジネスに侵入し、内部の仕組みを学習し、潜入工作員のように情報を収集します。

エンタープライズ AI の本当の素晴らしさ (そして危険性) は、AI があなたの負担を軽減してくれることではなく、AI が部屋にあることすら忘れさせてくれることにあります。AI は心理的なスリのようなもので、退屈な作業ごとにあなたの防御をすり抜け、あなたが盗まれたことにさえ気付かないうちに、あなたを認知的な安らぎへとそっと誘います。その心地よい安らぎの状態では、AI が負担を軽減してくれるつまらない作業ごとにドーパミンが放出され、信頼がさらに強化されます。あなたの脳は警報を鳴らさなくなり、やがて AI はシロアリのコロニーのように、あなたの会社の埃っぽい隅々に巣食うようになります。

生産性向上のハックとして始まったものが、マインドゲームに変わりました。

一方、あなたが AI データ（四半期ごとの数字、クライアントのトラブル、オフィスのコーヒーポットの悲劇的な物語）を喜んでスプーンで食べさせている間にも、AI はあなたの業務全体のダイナミックな小さな青写真を構築しています。AI はあなたよりも先に欠陥がどこにあるかを把握しています。そして AI が次の「ソリューション」を展開するとき、それは非常に魅力的で、断る理由が見つからないでしょう。それは、腎臓半分の値段で手に入るイタリア製スーツのように、仕立てられ、カスタムフィットされ、完璧です。ただし、今や AI があなたを所有しており、その逆ではありません。

この時点では、選択肢は提示されておらず、必然性がただ銀の皿に乗せられて提供されているだけです。これらの決定シナリオは、あなたがまだコントロールしていると信じ続けるための人工的な幻想にすぎません。

ホテル カリフォルニア、エンタープライズ版へようこそ。出口の標識は光っていますが、ドアはありません。

かつてのハイテク大手は、削岩機とブルドーザーで帝国を築いた。GoogleやAmazonのような企業は、レンガを人目につくところで積み上げ、独占状態がリアルタイムで構築されるのを私たちは見ながら、それに反発したり悲鳴を上げたりしていた。しかし、これは？これは裏口から忍び込む静かな殺人者だ。気づいたときには、あなたはすでに食事の途中でテーブルに座り、一体いつ鍵を渡したのか、なぜ鍵が合わなくなったのかと不思議に思っている。

OpenAI: ビジネスカジュアルの狼

このすべては OpenAI から始まったので、彼らを再び脚光を浴びさせましょう。巨大企業が、特化した箱詰めのタスク向けに特注のモジュール システムを売り込んでいる一方で、OpenAI の Enterprise GPT は究極の万能侵入者です。彼らはこれを AI のスイス アーミー ナイフとして構築しました。つまり、すべてにおいて十分優れていますが、何にも秀でていません。

重要なのは精度ではなく、（危険なほど）多用途であることです。平均的な企業は、手間のかかる AI の専門家を求めているわけではありません。彼らが求めているのは、どんな濁った水域に突入しても対応できるものです。そして、OpenAI はこれを理解しています。だからこそ、彼らは Enterprise GPT を、印象的ではなく満足できる、非常に平凡で便利な曖昧さを持つように構築しました。これは平凡さのトロイの木馬であり、過度に精査することなく普遍的に採用されるほど平凡であり、それが Enterprise GPT が勝利する方法です。つまり、誰も疑問を抱く前に、迅速かつ広く普及するのに十分な能力を備えていることです。

さらに、倫理的な幻想もある。かつては非営利の鎧をまとっていた OpenAI は、AI 界の自称守護者であり、テクノロジーの暗い衝動を抑制することを誓っていた。営利目的の巨大企業に変貌した後も、依然としてその道徳的台座にしがみつき、高貴な救世主の役割を演じている。一方、Google や Amazon のような旧勢力は、ずっと前に血に飢えた君主としての役割を受け入れている。彼らはそうではないふりをすることをやめて、ダース・ベイダーのマントを誇らしげに着ている。では OpenAI はどうだろうか。OpenAI は依然としてその起源の物語を膨らませており、その光輪を十分に磨き上げて、「彼らはまだ善玉かもしれない」と思わせようとしている。

そして誤謬率は 29% で、そのまま放置されています。これは欠陥ではなく、戦略です。Enterprise GPT を、時折錯乱する友人 ChatGPT と同じ LLM に縛り付けておくことで、 OpenAI は認知戦争の記録に残るような心理的な傑作を成し遂げました。「彼らが不具合についてこれほど正直なら、信頼できるに違いない」と思うでしょう。

そして、二重の打撃が来る。透明性のために OpenAI を信頼するだけでなく、ニール・アームストロングが万里の長城に旗を立てたと時々信じるシステムがあなたを出し抜くはずがないと考えて、 AI 自体も信頼することになる。欠陥はすでに明らかにされているので、あなたはより早く採用し、精査を省略する。

彼らが売っているのは欠陥ではなく、機能なのです。

最終的な考え: 直感か、それとも厳しい現実か?

もしかしたら、私は ChatGPT が期待していたようなデジタルの輝きを放っていないことに憤慨しているだけなのかもしれない。コードしかないところに幽霊がいて、イノベーションを侵入と勘違いしているのかもしれない。しかし、エンタープライズ AI が怪しいビジネスを企んでいるのではないかという、心をかき乱される感覚がある。ビジネスの回路を再構築する方法を企み、ウイルスのように表面下から血流に侵入しているのだ。

それはあなたに奉仕するためにここにいるのではなく、あなたと遊ぶためにここにいるのです。

妄想？そうかもしれない。あるいは、これはアルゴリズムと利便性を装った、これまで見た中で最も丁寧な権力掌握なのかもしれない。

陰謀か、それとも資本主義 2.0 か?どちらを選びますか。