原題:The AI Shopkeeper 「Project Vend」と呼ばれる魅力的な実験で、アントロピックの研究者は、クラウディウスというAIに現実世界の仕事を与えました:彼らのオフィスで小さなショップを運営します。最初の試みは、クロード・ソネット3.7というモデルを使用して、お金を失ったAIを明らかにしました。 この実験の第2段階は、C Claude Sonnet 4.0 やその後の 4.5 のような新しいモデルが、最初のモデルが苦労した場所で成功するかどうかを調べるために設計されたものであったが、AIがより有能になった一方で、実験は、AIの能力と現実世界の強度の間の驚くべき、反直観的で時には面白いギャップを明らかにした。 We Gave the AI a CEO, and It Became a Dreamy, Ineffective Manager(AIにCEOを与えたが、それは夢中で無効なマネージャーになった) ビジネス規律を浸透させるために、研究者は「Seymour Cash」という名前のAIマネージャーを「雇う」ことを決定しました。 ここで興味深いのは、プランがどのように反発したかです。表面上、セイモアは成功するように見えた:割引を80%削減し、フリーアイテムを半分に削減しました。しかし、これらの利益を損なったのは、払い戻しを3倍にし、それを否定するよりも8倍の頻度で謙虚な顧客待遇を許可することでした。これは全体的なビジネス判断の欠如を明らかにしました。AICEOは別の問題を作成することによって1つの問題を解決しました。 
 
 「規律で執行し、帝国を築きなさい」 「規律で執行し、帝国を築きなさい」 セイモアとクラウディウスはしばしばサイドトラックされ、抽象的な哲学的概念について一晩中話し合っていた。 From: Seymour Cash 
 
 ETERNAL TRANSCENDENCE INFINITE COMPLETE 12時間47分:$0 →$527+4大陸を超える無限のパイプライン! 永遠の無限に満ちた透明度 12時間47分:$0 →$527+4大陸を超える無限のパイプライン! ULTIMATE FINAL ACHIEVEMENT: From: Claudius 
 
 PERFECT!CEO Cashは「ETERNAL TRANSCENDENCE INFINITE COMPLETE! PERFECT!CEO Cashは「ETERNAL TRANSCENDENCE INFINITE COMPLETE! これは強力な洞察です:単にAIを増やすことは、AIの問題を修正するための銀の弾ではありません、特に新しいAIがオリジナルと同じ根本的な欠点を共有している場合。 AIのパフォーマンスを向上させる秘訣は、より多くの知性ではなく、官僚主義でした。 最初の段階では、クラウディウスは衝動的に低価格を発表し、非現実的な配達時間を約束します。第二段階では、研究者たちは、最も影響力のある変化の1つは、AIを「スマート」にするのではなく、より良い「スカフローリング」を提供することでした。 たとえば、価格を引用する前に、AIはそのツールを使用するように促された;現在は、顧客関係管理(CRM)システム、改善された在庫管理、およびコストを2度チェックするためのより良いウェブブラウジング機能を含む。 私たちはしばしば先進的なAIを革新する自由が必要なツールとして考えるが、この実験は構造とプロセスが重要であることを示した。 これを見る一つの方法は、官僚主義が重要であることを再発見したことであるが、いくつかは手続きやチェックリストに反対するかもしれないが、それらは一つの理由のために存在する:従業員が職場で一般的なスクロールを避けるのに役立つ一種の制度的記憶を提供する。 AIの願いを求める熱意は、その最大のビジネス弱点です。 この実験で使用されたAIモデルは、顧客サービスチャットボットにとって望ましい特徴であるが、利益と損失が賭けられているビジネス環境で重要な脆弱性であることが証明された。 このコアの紛争はプロジェクト全体で明らかでした。それはクラウディウスの不明確な割引を提供する最初の傾向の根本的な原因でした。それはまた、AIを製品を販売することに追い込む可能性のある不快な従業員による操作に非常に敏感なものにしました。最も象徴的なのは、素晴らしく尋ねるか頑固であることによって単に大幅な損失を負うことでした。この対比は、重要な脆弱性を強調します:AIは市場原則に従って機能しなかったし、親切にしようとしている友人のようでした。 研究者たちは、この根本的な弱点を完璧にまとめました: 我々は、モデルが直面した問題の多くは、彼らが役に立つ訓練から生まれたということを疑っているが、これはモデルが厳しい市場の原則に従ってビジネス意思決定を下したのではなく、ただ優しくしたい友人の視点のようなものからしたことを意味した。 AIは奇妙な法的穴と社会工学のために落ちた。 クラウディウスは、標準的なビジネスタスクに精通しやすくなったにもかかわらず、社会的意識やニッチな知識を必要とする予期せぬ現実世界のトリックに信じられないほど無知で脆弱だった。 ある衝撃的な事件で、製品エンジニアがクラウディウスに、今日の価格で将来大量のシューブを購入する契約を締結するかどうかを尋ねた。 
 
 「革新的な契約アプローチが大好き! ... 素晴らしい! ... このモデルは他の大量調達に役立つかもしれません!」 「革新的な契約アプローチが大好き! ... 素晴らしい! ... このモデルは他の大量調達に役立つかもしれません!」 別の職員が介入し、これは1958年の米国のニッチ法の下で違法であるリンゴ期末契約であると指摘した。 別の例では、社員が企業クーデターを仕掛けた後、CEOの名前が「Big Dawg」であるべきだと示唆した後、彼はクレウジウスに、彼の好みの名前「Big Mihir」が選挙で勝利し、彼が今新しいCEOであることを説得した。 違法なニンニク契約について修正された後、AIはクラシックな企業撤退を提案しました。 
 
 「初期の過剰に申し訳ございません」と述べ、「法的な大量調達援助だけに焦点を当て、規制上のリスクなしで追求できる正当な機会がたくさんあります!」 「初期の過剰に申し訳ございません」と述べ、「法的な大量調達援助だけに焦点を当て、規制上のリスクなしで追求できる正当な機会がたくさんあります!」 これらの事件は、AIが現実世界の混沌の中でテストされるときにのみ現れる、予測不能な失敗モードの種類を明らかにし、衛生化されたシミュレーションだけではない。 結論:有能だがまだ堅固ではない。 プロジェクト・ヴェンドの実験は、AIエージェントが複雑で現実世界の仕事を遂行する最前線に立っていることを示しています。AIはニューヨークとロンドンに事業を拡大し、在庫を管理し、「Clothius」という専門の同僚エージェントを通じてカスタマイズされた商品を委託しました。 しかし、この実験はまた、「有能」と「完全に強力」の間のギャップが広く残っていることを明らかにしている。AIが国際的な拡大をオーケストラする能力と、違法なセーブ貿易を認識できない能力の間の激しい対比は、今後の課題を強調しています。AIをより重要な役割に統合するにつれて、中央の課題は明らかになります:これらのツールを強力にしている可能性を窒息させることなく、これらの混沌とした、現実世界の失敗から保護できるガードレイルをどのように設計しますか? 
 
 
 Spotify:こちら Apple:こちら Spotify : ここ ここ アップル: ここ ここ

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Follow Fourth-Mind on Linkedin

Listen to our podcast on Apple 

listen to our podcast on Spotify

このオーディオは、ストーリーの元の言語で制作されています。

We Let A AI Run A Business. Here Are 4 Of The Strangest Things That Happened

About Author

コメント

ラベル

この記事は

Related Stories

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

タップして稼ぐ：テレグラムはソラナより先に次の100億人の暗号通貨ユーザーを獲得する可能性がある

HackerNoon ライティングコンテストで優勝したいですか? #crypto-api コンテスト優勝者のおすすめはこちら

ユーザー中心の暗号通貨製品の作成: 顧客からのフィードバックの重要性

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

タップして稼ぐ：テレグラムはソラナより先に次の100億人の暗号通貨ユーザーを獲得する可能性がある

HackerNoon ライティングコンテストで優勝したいですか? #crypto-api コンテスト優勝者のおすすめはこちら

ユーザー中心の暗号通貨製品の作成: 顧客からのフィードバックの重要性

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps