2026年初頭、アメリカ合衆国連邦裁判官 彼らは人工知能によって生成された完全に製造されたケース引用を含む法的文書を提出した後、AIが現実から完全に切り離された説得力のある出力を生み出すことができるという費用がかかる思い出です。 弁護士の集団を逮捕 弁護士の集団を逮捕 数ヶ月前、サイバーセキュリティの研究者は、 AIアシスタントが意図しないスマートホームアクションを実行するように操作し、自律システムが文脈信号を誤解した場合にどのように取されるかを明らかにする可能性がある。 悪意のあるカレンダーの招待状 悪意のあるカレンダーの招待状 脅威情報のアナリストは、 対戦相手は、複数の組織で調整された侵入と脅迫キャンペーンをオーケストラ化するためにエージェントスタイルのAIを活用し、厳密な文脈意識なしで動作する自律システムが、規模のリスクを増大させる方法を強調した。 documented emerging cyberattacks 新たなサイバー攻撃を記録 これらの事件は孤立した異常ではありません。これらは、より広範な企業の課題を示すシグナルです:AIシステムは驚くべきインテリジェンスを示していますが、複雑なビジネス環境で安全かつ効果的に動作するために必要な文脈的基盤が欠けています。 文脈を無視するコスト 文脈的精度を無視するという結果はすでに明らかです。AIによって生成された誤ったコードは脆弱性やシステム障害を引き起こす可能性があります。規制された産業における不適切な自動反応は、コンプライアンス違反を引き起こす可能性があります。 テクニカル・エグゼクティブにとって、これは困難な矛盾を生み出す:AIがより強力になればなるほど、エンタープライズ意識なしで動作するほど危険である。 システム依存性やプロジェクト履歴を理解していないAIエージェントは、過剰な低品質のコードを生成し、トラックリクエスト、バグな実装、コードレビューの無限のラウンドにつながります。 企業は生成型AIの時代に入り、生産性の前例のない増加を期待していた。初期のデモは、大規模言語モデル(LLM)が文書をまとめ、コードを生成し、複雑な質問に驚くほど流暢に答えることができることを示した。 生成型AIを少なくとも1つのビジネス機能に統合し、AIが実験からオペレーティングインフラに移行していることを示唆した。 組織がこれらのツールを生産環境に移行するにつれて、新しい認識が現れた:モデルインテリジェンスだけでは不十分である。企業は、本物のボトルネックは、AI出力を内部システム、ワークフロー、および機関知識の複雑で絶えず進化する文脈に接続することであることを発見しました。 エンタープライズデータ、コード、および意図を操作可能なインテリジェンス層に統合するように設計されたインフラの探索。 企業の67% ナボー 企業の67% ナボー エンタープライズAIコンテキスト・ギャップの起源 ほとんどの企業はモデルを一般化された知識エンジンとして扱い、内部文書をプロンプトに接続すると、それらをエンタープライズ準備アシスタントに変えるだろうと仮定した。 実際には、多くの企業は、迅速なライブラリを構築し、細かい調節を実験したり、リクエスト拡張生産(RAG)パイプラインを展開することによって反応しました。 しかし、企業環境は静的な知識ライブラリではありません。彼らは進化するコードベース、断片化された文書、チケットシステム、ランタイムログ、および機関の意思決定の歴史の生きたエコシステムです。 開発者ワークフローの調査によると、エンタープライズ特有のコンテキストが欠けているAIシステムは、しばしば信頼できるように見える結果を生成するが、大幅な手動検証を必要とし、それらが約束する生産性の向上を損なう。 何が問題を悪化させるのか エンタープライズAIの採用は加速しているが、信頼格差は拡大している。 開発者の過半数は、AI出力を完全に信頼していないと報告し、しばしばそれを検証または修正するのに時間を費やしている。 42% of committed code 42% 約束コード 主なAIシステムでさえ、エラーの傾向があります:a AIアシスタントの回答の約45%は、間違った事実から欠陥の属性まで、重大な不正確さを含んでいました。 研究 研究 CRM、チケットシステム、知識ベース、伝統ログに分散したエンタープライズデータは、研究者が呼ぶものを作成します。 AIは、関係や文脈を再構築することができない。 制度的アムネシア 制度的アムネシア セキュリティ上の懸念が問題を悪化させます. アナリストは、AI生成されたコードが問題を引き起こす可能性があると警告しています。 開発者は、出力を厳密に検証しないときに構造的な欠陥を隠す「正確性の幻想」を生み出します。 弱点を隠す 弱点を隠す これらの傾向は、文脈のギャップ、信頼の削減、および検証負荷が不効率を増加させ、チームがワークフローを加速させる代わりにAI出力を無効にすることを明らかにしています。 組織がどのようにそれを修正しようとしているか いくつかのアプローチが現れ、企業はこのギャップを埋めようとしている。 内部データの細かい調節モデルは、語彙の熟知を向上させますが、急速に変化するシステムとのペースを維持するために苦労します。速やかなエンジニアリングは、モデルとのコミュニケーションを改善しますが、システムとワークフロー間の欠けている関係を再構築することはできません。 ますます、組織は、企業の知識をコード、ドキュメント、チケット、および運用信号間の関係の絶え間なく進化するグラフとして扱う文脈的インデックス戦略で実験しています。 Nabooのようなプラットフォームは、エンタープライズ・レポジトリ、コラボレーション・ツール、開発環境を統一されたセマンティック構造にインデックスすることで、これらのシステムは幻覚を減らし、AIエージェントが信頼できるエンジニアリングアクションを実行できるようにすることを目指しています。 組織全体の成功はどう見えるか エンジニアリングマネージャーにとって、成功はしばしばサイクル時間を減らすように見える。チームはAIアシスタントを報告し、バックロッグ依存性、建築的決定、またはチケット履歴に関する質問に答えることができる。 開発者は異なる利点を説明しています: AI はシンタクスだけでなく、システムの行動を理解します. コンテキストが継続的にインデックスされると、AI は既存のアーキテクチャ、テストフレームワーク、およびコンプライアンス要件と一致するコード更新を提案し、再作業を減らすことができます。 経営レベルでは、コンテキスト型AIはより幅広い結果を可能にします:測定可能なROI. リーダーは、一般的な業界基準ではなく、エンタープライズ特有のシグナルを解釈するAIシステムを通じて、開発の進展、技術債務の傾向、および運用リスクに視覚化を得ます。 問題を超えるチャンス 企業がコンテキストの課題を解決する場合、潜在的な変革は生産性の向上をはるかに超え、AIエージェントは自律的に古いシステムを維持し、ソフトウェアの近代化を加速させ、エンジニアリングチームがシステムナビゲーションではなくイノベーションに焦点を当てることができる。 組織は、現在分断されたツールと部族の専門知識に含まれている制度的知識を解除することができます 新しい従業員はより迅速に生産的になることができます クロス機能的な協力は、ビジネス意図と技術的な実行の間の翻訳層が少なくなる場合があります。 エンタープライズAIの未来は、結局はより大きなモデルを構築することにより、よりスマートなコンテキストインフラストラクチャを構築することにより、より少なからず依存するかもしれない。 企業がAIの採用を拡大し続けるにつれて、成功する組織は、そのエージェントが答えを生成するよりも多くのことをすることを確実にすることになるでしょう。 
 
 このストーリーは、HackerNoonのBusiness Blogging Programの下でJon Stojanによってリリースされたものです。 このストーリーは、HackerNoonのBusiness Blogging Programの下でJon Stojanによってリリースされたものです。

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

このオーディオは、ストーリーの元の言語で制作されています。

Agents Without Context Go Off the Rails(コンテキストのないエージェント)

About Author

コメント

ラベル

この記事は

Related Stories

タップして稼ぐ：テレグラムはソラナより先に次の100億人の暗号通貨ユーザーを獲得する可能性がある

AI の力を解き放つ。最先端技術の体系的レビュー: 概要と序論

クラウド移行を成功させるための完全ガイド: 戦略とベストプラクティス

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

タップして稼ぐ：テレグラムはソラナより先に次の100億人の暗号通貨ユーザーを獲得する可能性がある

AI の力を解き放つ。最先端技術の体系的レビュー: 概要と序論

クラウド移行を成功させるための完全ガイド: 戦略とベストプラクティス

18 種類の開発者ツールで生産性を向上しましょう 🚀🔥

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps