私が最初に生成型AIをViamoのIVRプラットフォームに統合し、アフリカおよびアジアの新興市場で何百万人もの人々にサービスを提供するという任務を負ったとき、私たちはチャットインターフェイスを1日だけ貼って呼ぶことができず、技術的および開発上の課題のいくつかを簡素化することができなかったことを認識するのに時間がかかりませんでした。 そのプロジェクトは、すべてのデザイナーが学ぶべきAIの設計についてのレッスンを教えました:エージェントAIの設計は、チャットフレンドリーにするのではなく、信頼性が高く、透明性が高く、人々がすでに信頼している作業の中で予測可能に動作できるインテリジェントシステムを設計することです。 チャットファースト思考の致命的な欠点 AI製品のチャットインターフェイスに執着しているため、この業界に根ざした危険なパラダイムがあり、それは誰もが「ChatGPT for Y」を構築しようとしているということです。 チャットは、目的地を含む旅行を含むオープンエンドの探検や創造的なタスクに最適です。しかし、ほとんどのビジネスタスクは正確さ、監査性、および繰り返し性を要求します。Waypoint Commoditiesのサプライヤーインターフェイスを設計する際に、数百万ドルの肥料および化学物質貿易取引を扱うシステムでは、ユーザーは、取引についての探求的な会話を容易にするユーザーフレンドリーなチャットインターフェイスを必要としませんでした。彼らは、AIシステムがエラーを指摘し、最適なルートを特定し、重要な取引を不確実性や曖昧さで覆すことなく、コンプライアンスの懸念を強調するためのインターフェイスを要求しました。 チャット中心のAIの主な問題は、会話のファサードの下で意思決定が可能であることである。ユーザーは、どのような情報が使用され、何が適用され、何が代替の選択肢として探求されたかを容易にチェックすることができない。もちろん、これは低賭けの質問に受け入れられるが、結果的な選択には不幸である。 マルチエージェントシステムにはマルチモダルインターフェイスが必要 しかし、その後、私の思考の中でパラダイムの転換が起こり、私は1つのAIモデルだけの設計をやめ、システムとして共同で動作する複数の専門的なAIエンティティからなる環境の設計に焦点を当てた。 それは、我々が完全に一つのウィンドウのチャットシステムのパラダイムを捨てなければならなかったことを意味した。代わりに、我々は複数の相互作用の方法を同時に使用できる複数のウィンドウのインターフェイスを構築しました。 迅速な事実は、AIの音声出力を通じて即座に回答を得るでしょう。 トラブルシューティングには、AIがユーザーを専門システムにリダイレクトする前に初期の質問に答えるためのガイドされた相互作用が含まれるでしょう。 政府施設に関する情報を検索するユーザーは、それに応じて情報源を引用するフォーマットされた回答を得るでしょう。 これらのすべての相互作用の方法は、ユーザーの期待を構築する異なる視覚的およびオーディオ信号を持っています。 これらの結果は、この戦略が有効であることを証明し、30%以上の応答精度が向上し、ユーザーの関与レベルが向上したことを実感しました。さらに重要なことに、ユーザーの放棄レベルが20%減少したため、ユーザーは期待不一致の不満のために会話を中止しました。 検証のための設計、自動化だけでなく 私が支持するエージェント UX デザインの最も重要な原則の1つは、「検証なしの自動化」は単に「技術的債務をAIとして隠蔽する」ことである、システムで使用されるすべての AI の「エージェント」と共に「脱出ハッチ」が提供され、ユーザーは「規制された環境や高価値取引において」「最終的な責任を有する」という事実を「尊重する」ためではなく、「AI の「能力」に信頼が欠けているため」必要に応じて「その決定を上回る」ことである。 私がWaypointで新しいユーザーをインボードするための管理者ダッシュボードを設計する責任を負ったとき、我々は自動化プロジェクトの典型的なケースがあり、AIがインボード文書を処理し、重要な情報を抽象化し、ユーザープロファイルを自動的に普及させ、それによってユーザーのインボードを数時間からわずか数分に減らしました。もちろん、不正確さが、AI生成ユーザープロファイルを含む検証システムを作成する必要はないことを理解しました。 当社のインターフェイスでは、抽出された各フィールドのAI信頼レベルを示すために次のシステムを実装しました。 高精度のフィールドには、黒いテキスト色と緑色のタックマークがありました。 中間の精度はオレンジ色で、中立のシンボルが使用された。 正確性が低いまたは情報が欠けているフィールドは、赤い色と警告シンボルを持っていました。 AIシステムが逃したエラーを特定するには、このシステムを通じて十分なコンテキストを得たため、プロフィールあたり30秒は管理者にとって十分な時間でした。 しかし、結果は明らかでした:完全にマニュアルな方法よりも40%のオンボードタイム削減と、人間やAIアプローチだけよりも高い精度を達成しました。しかし、より重要なことに、管理職はこのシステムを信頼していました。 エージェント能力の漸進的な開示 ほとんどのデザイナーが苦労している、エージェント UX のもう一つの微妙で重要な領域は、エージェントがこれらの能力の可能性と潜在的なアプリケーションを圧倒することなく、彼らのエージェントが何を達成できるかやできないかについてユーザーに情報を提供することです。このことは、特に生成型AIを適用するシステムに当てはまります。私たちがFlexiSAF Edusoftで働くときに苦労したので、私はこれらのシステムを開発したところ、彼らは幅広い範囲に及ぶアプリケーションを持っていますが、異なるタスクや活動で予測不能です。この場合の学生や親は、しばしば複雑な入学手続きを通じて指示を必要とします。 当社の実装では、インタラクションに基づく機能ヒントが提供され、システムを使用すると、AIが答えるのに強力な質問の例が提供され、機関の人材スタッフがより適切に答えることができる質問に比べて、ユーザーが応募期限に関する質問を入力すると、AIが答えるのに強力な質問の例が「エンジニアリングアプリケーションの期限はいつですか?」ではなく、「応募料の支払いから免除されることはできますか?」という質問により効果的に答えることができます。 さらに、AI応答によって質問が完全に回答されたかどうかをユーザーが表現できるフィードバックサイクルを有効にしました。これはモデルを改善するだけでなく、ユーザーが問題のエスカレーションを必要とし、AIシステムに閉じ込められていたことを表現できるUX機能を有効にしました。関連するリソースがこのシステムを通じて提供され、そうでなければ、人材と接続され、サポートチケットの減少につながりますが、ユーザーの満足感を犠牲にすることなく、人々は彼らが耳を傾けられ、AIシステムを通じて閉じ込められていないと感じます。 信頼構築要因としての透明性とその有用性 もちろん、信頼はAIのアルゴリズムの改善によって確立されるのではなく、ユーザーがシステムが何を知っているか、なぜ結論を出したのか、その限界がどこにあるかを見ることを可能にする透明なシステム設計によって確立されます。eHealth Africaは、医療部門におけるサプライチェーンの物流とデータストレージを含む当社のプロジェクトで、これを非交渉可能なものにしました: 「AIコンピュータエージェントがワクチン配達のタイミングを予測したり、最適な配達ルートを示した場合、これらの理由は説明可能でなければなりませんでした。 これに対処するために、我々は、AIの提案と共に出力を提供する「推論パネル」と呼ばれるものを構築しました。これらの推論パネルは、推論パネルは、このルートの道路条件、過去の配達時間、天候、および利用可能な輸送能力を含む、推論パネルが、推論パネルを導入したため、推論パネルは、AIから時代遅れのアドバイスを受けたかどうか、または橋の閉鎖などの重要な事実を無視し、ブラックボックスと同様に不透明な意思決定者ではなく不可欠で透明なものとなったかどうかを迅速に確認することを可能にしました。 この目的のために、AIが一般的なエラーメッセージに戻る代わりに、その勧告を提供できない理由を説明する有用な失敗状態を作成しました。たとえば、接続情報が欠けていたため、最適なルートを提供できなかった場合、これは明示的にコミュニケーションされ、ユーザーはまだルート勧告がない場合に何ができるかを通知されました。 エージェントと人間の間のハンドフの設計 しかし、たぶん、エージェント UX の最も未開発のテーマの 1 つは、エージェント UX がシステムまたは相互作用のコントロールを人間に渡すべきであるか、あるいは人間が同僚であろうと、それ自身がそのシステムまたは相互作用のユーザーであろうと、何時か、正確にどのようにAI エージェントがシステムまたは相互作用のコントロールを人間に渡すべきであるかです。 私たちのコンテキスト転送プロトコルは、AIのそれぞれの相互作用の後、構造化された概要がユーザーに挨拶する前にオペレーターの画面に表示され、この概要には、ユーザーが求めたもの、AIが何を言いたいのか、なぜAIがこの呼び出しを拡大したのかが含まれていました。 オペレーターがユーザーを自動化されたシステムに戻すように呼びかけた場合、ユーザーインターフェイス機能はオペレーターによって効果的に使用され、期待される挫折に反してユーザーを自動化されたシステムに戻すことを可能にする特定のタスクに基づいてAIの自律性の十分な期待を伝達するために使用されました。 Agentic UXのプラグマティックデザインの原則 長年にわたりAI対応システムを設計してきた実践者として、今日私は、エージェント UX を効果的に設計するのに役立ついくつかの実践的なガイドラインを定義しました。 まず、ワークフローのための設計ではなく、テクノロジーのための設計です。ユーザーは、AI、ルール、または人間のインテリジェンスを通じて彼らが助けられているかどうかは気にしません。彼らは、彼らが効率的かつ快適に任務を達成できるかどうかだけを気にしません。ターゲット結果からリバースエンジニアリングを開始し、AIが可能なエージェントによる付加価値と複雑性の領域を特定し、それに応じて停止して進めます。 2つ目は、AI対応エージェントの有意義な境界を定義することです。ユーザーは、インテリジェンスの1つの領域を離れ、リクエストのインテリジェンス、モデルインテリジェンス、および人間のインテリジェンスなどの他の領域に入るときに気付く必要があります。 第三に、ユーザーの専門知識を尊重してワークフローデザインに検証を構築する。AIシステムは、適切な情報を提供し、行動コースを提案することによって意思決定を加速させるのに理想的に役立ちますが、これらは最終的にAIシステム自体にアクセスできない文脈を持つ人間のユーザーによって行われなければなりません。 資金調達を確保し、一定の増加率で関与を高め、何千ものユーザー数を処理したプロジェクトの結果、我々は、高度なAIシステムを所有しているか、または作成しようとしたため、成功しませんでした。
