내가 처음으로 생성 AI를 비아모의 IVR 플랫폼에 통합하여 아프리카와 아시아의 신흥 시장에서 수백만 명의 사람들을 제공하는 임무를 수행했을 때, 우리는 단순히 채팅 인터페이스를 붙이고 하루를 호출 할 수 없다는 것을 인식하는 데 오랜 시간이 걸리지 않았으며, 이는 기술 및 개발 과제 중 일부를 단순화 할 것입니다. 그 프로젝트는 모든 디자이너가 배워야 할 AI를위한 디자인에 대한 교훈을 가르쳐주었습니다 : 에이전트 AI를위한 디자인은 채팅 친화적 인 방식으로 만드는 것이 아니라, 사람들이 이미 신뢰하는 작업 내에서 신뢰할 수 있고 투명하며 예측할 수있는 지능형 시스템을 설계하는 것에 관한 것입니다.7 년 동안 제품을 설계하고, 핀테크, 물류 및 소프트웨어 플랫폼을 확장하면서, AI를 구현하는 가장 효과적인 방법은 인간의 판단을 대체하는 것이 아니라 사람들이 신뢰할 수 있고 궁극적으로 신뢰할 수있는 방식으로 증가하는 것입니다. Chat-First Thinking의 치명적인 결함 AI 제품에 대한 채팅 인터페이스에 대한 집착 때문에이 업계에 뿌리를두고있는 위험한 패러다임이 있으며, 모두가 "ChatGPT for Y"를 구축하려고 노력하고 있다는 것입니다. 아무도 멈추지 않고 말합니다. 이것은 반드시 사실이 아닙니다. 채팅은 목적지와 관련하여 여행을 포함하는 오픈 엔드 탐색 및 창조적 인 작업에 완벽합니다. 그러나 대부분의 비즈니스 작업은 정확성, 감사 및 반복성을 요구합니다. Waypoint Commodities의 공급자 인터페이스를 설계 할 때 수백만 달러의 비료 및 화학 무역 거래를 다루는 시스템 인 Waypoint Commodities는 사용자가 거래에 대한 탐구적 인 대화를 촉진 할 수있는 사용자 친화적 인 채팅 인터페이스를 필요로하지 않았습니다. 채팅 중심 인공지능의 주요 문제는 대화의 전면에서 의사 결정을 할 수 있다는 것입니다.사용자는 어떤 정보가 사용되었는지, 무엇이 적용되었는지, 그리고 무엇이 대체 옵션으로 탐구되었는지 쉽게 검사 할 수 없습니다.물론, 이것은 낮은 금액의 질문을 위해 받아 들일 수 있지만 결과적 선택에 대한 재앙입니다.배송 모니터링 시스템을 설계 할 때, 우리의 Waypoint 프로젝트는 AI 자체가 탐구하고 검증 한 실제 사실에 기초하지 않으며 잠재적 인 지연이나 시장 변동에 대한 AI 메시지를 사용자가 확신해야하는 도전에 직면했습니다. 멀티 에이전트 시스템은 멀티 모듈 인터페이스를 필요로 한다. 그러나 나중에 하나의 AI 모델만을 위해 설계하는 것을 멈추고 시스템으로 함께 작동하는 여러 전문 AI 단체로 구성된 환경을 설계하는 데 중점을 둡니다. 그것은 우리가 단일 창 채팅 시스템의 패러다임을 완전히 포기해야한다는 것을 의미했습니다. 대신, 우리는 여러 개의 상호 작용 방법을 동시에 사용할 수있는 다중 창 인터페이스를 구축했습니다. 빠른 사실은 AI 음성 출력을 통해 즉각적인 응답을 얻을 것입니다. 문제 해결은 AI가 전문 시스템으로 사용자를 리디렉션하기 전에 초기 질문에 답할 수있는 지시된 상호 작용을 포함합니다. 정부 시설에 대한 정보를 검색하는 사용자는 원래 출처를 인용 할 수있는 포맷 된 응답을 얻을 것입니다. 이러한 상호 작용의 모든 방법은 사용자의 기대를 그에 따라 구축 할 수있는 구별 된 시각적 및 오디오 신호가있을 것입니다. 이러한 결과는이 전략이 유효했음을 증명하고, 우리는 응답 정확도를 30 % 이상 향상시키고 사용자 참여 수준을 높였습니다. 훨씬 더 중요한 점은 사용자 포기 수준이 20 % 감소했기 때문에 사용자가 기대 불일치에 대한 좌절 때문에 대화를 멈추었습니다. 검증을 위한 설계, 뿐만 아니라 자동화 내가 지지하는 에이전트 UX 디자인의 가장 중요한 원칙 중 하나는 ‘검증없는 자동화’가 단순히 ‘인공지능(AI)으로 기술적 빚을 가리키는 것’이라는 것입니다. 시스템에서 사용되는 모든 AI ‘에이전트’와 함께 제공되는 ‘출출발 해제’가 있어야 하며, ‘사용자가 규제된 환경이나 높은 가치 거래에서’ ‘사용자가 최종적인 책임을 져야 한다는 사실을 존중하기 때문’이 아니라 ‘인공지능’ 능력에 대한 신뢰가 부족하기 때문’입니다. Waypoint에서 새로운 사용자를 탑재하기 위한 관리자 대시보드를 설계할 때, 우리는 AI가 탑재 문서의 처리, 필수 정보를 추출하고 자동으로 사용자 프로필을 채우는 것을 가능하게 할 수 있는 종류의 자동화 프로젝트의 전형적인 사례를 가지고 있었고, 따라서 사용자 탑재를 몇 시간에서 단지 몇 분으로 줄였습니다.물론, 우리는 부정확성이 기업을 불규칙성의 사례로 이끌어 낼 수 있다는 것을 이해했으며, 더 나쁜 것은 사기적인 사용자 프로필을 만들 수 있다는 것을 깨달았습니다. 우리의 인터페이스에서 우리는 추출 된 각 필드에 대한 AI 신뢰 수준을 나타내기 위해 다음과 같은 시스템을 구현했습니다. 높은 수준의 정확도를 가진 필드는 검은색 텍스트 색상과 녹색 스틱 마크가 있었다. 중간 정밀도는 오렌지색이었으며 중립 상징이 사용되었습니다. 정확도가 낮거나 정보가 부족한 필드는 빨간색과 경고 상징이 있습니다. AI 시스템이 놓친 모든 오류를 식별하기 위해 프로필 당 30 초는 관리자에게 충분한 시간이었기 때문에이 시스템을 통해 충분한 맥락을 얻었습니다. 그러나 결과는 명확했다 : 우리는 완전히 수동적인 방법과 인간 또는 AI 접근 방식보다 더 정확한 완전한 40 %의 삽입 시간을 줄였습니다.하지만 더 중요한 점은 관리 직원이이 시스템을 신뢰했기 때문에 실제로 논리를 따를 수있었습니다. AI 측면에 오류가 있다면 인증 페이지를 통해 매우 쉽게 지적되었으며 이것은 우리가 나중에 다른 AI 기능을 성공적으로 도입 할 수있게 한 모든 중요한 신뢰를 구축하는 데 도움이되었습니다. 에이전트 능력의 진보적 공개 대부분의 디자이너가 어려움을 겪고있는 유전자 UX의 또 다른 미묘하지만 필수적인 영역은 에이전트가 이러한 능력의 가능성과 잠재적 응용 프로그램을 압도하지 않고도 성취할 수있는 것에 대한 정보를 사용자에게 제공하는 것입니다.이 기능은 특히 생성 AI를 적용하는 시스템에 적용되며, FlexiSAF Edusoft에서 작업하면서 이러한 시스템을 개발했을 때, 그들은 다양한 작업이나 활동을 통해 광범위하게 범위가 있지만 예측할 수없는 응용 프로그램을 가지고 있습니다.이 경우 학생과 부모는 종종 복잡한 입학 절차를 통해 방향을 필요로하며, 반면에 AI가 제공 할 수있는 응답과 인간의 상호 작용이 필요한 것에 대해 알려야합니다. 우리의 구현은 상호 작용에 기반한 기능 힌트를 제공했기 때문에 시스템을 사용하면 AI가 응용 프로그램에 대한 질문에 더 적절하게 대답할 수있는 질문에 비해 AI가 대답하는 데 강력한 질문의 예를 제공 할 것이며, 이는 사용자가 응용 프로그램 제한에 관한 질문을 입력하면 AI가 응답하는 데 강력한 질문의 예를 볼 수 있음을 의미합니다. 또한, 우리는 사용자가 AI 응답으로 자신의 질문이 완전히 응답되었는지 여부를 표현할 수있는 피드백주기를 활성화했습니다.이 모델을 개선하기 위해서뿐만 아니라 사용자가 문제의 상승을 요구하고 AI 시스템에 갇혀 있음을 표현할 수있는 UX 기능을 활성화했습니다.이 시스템을 통해 관련 자원이 제공되었으며, 그렇지 않으면 인적 자원과 연결되어있을 것이며, 따라서 지원 티켓을 줄이지만 사용자의 만족도를 희생하지 않고, 사람들이 듣고 있음을 느끼고 AI 시스템을 통해 갇혀 있지 않았다고 느낄 것입니다. 신뢰 건설 요소로서의 투명성과 유용성 물론, 신뢰는 향상된 인공지능 알고리즘이 아니라 사용자가 시스템이 알고있는 것을, 왜 결론을 내렸는지, 그리고 제한이있는 곳을 볼 수있는 투명한 시스템 디자인에 의해 구축됩니다. eHealth Africa, 의료 분야의 공급망의 물류 및 데이터 저장 프로젝트는 이것을 거래 할 수없는 프로젝트로 만들었습니다 : “인공지능 컴퓨터 에이전트가 백신 배송 시간을 예측하거나 배달을위한 최적의 경로를 지적하면, 이러한 정당화는 인간 의사 결정자가 시기에 농촌 클리닉이 생명을 구하는 상품을 받았는지 여부를 결정해야했기 때문입니다.” 이 문제를 해결하기 위해, 우리는 AI 제안과 함께 출력을 제공하는 내가 말하는 "정의 패널"을 구축했습니다.이 논리 패널은 계산에 대한 모델 세부 사항을 표시하지 않았고, 도로 조건,이 경로에 대한 이전 배달 시간, 날씨 및 운송 용량을 포함하여 권장 사항에 도달 한 이유에 대한 정보 만 표시했습니다.이 논리 패널은 현장 운영자가 AI로부터 오래된 조언을 받았는지 또는 블랙박스와 마찬가지로 불분명하고 투명한 의사 결정자보다 필수적이고 투명한 사실을 무시했는지 신속하게 확인할 수있었습니다. 이 목적을 위해 우리는 AI가 일반적인 오류 메시지를 반복하는 대신 권장 사항을 제공하지 못하는 이유를 설명하는 유용한 실패 상태를 구축했습니다.예를 들어, 연결 정보가 부족했기 때문에 최적의 경로를 제공 할 수없는 경우, 이것은 명시적으로 전달되었으며 사용자가 여전히 경로 권장 사항이 없으면 무엇을 할 수 있는지 알려졌습니다. 에이전트와 인간 사이의 Handoffs Design 그러나 아마도 에이전트 UX의 가장 개발되지 않은 테마 중 하나는 전달, 또는 정확하게 AI 에이전트가 시스템 또는 상호 작용의 제어를 인간에게 전달해야하는 방법, 인간이 동료이든 그 시스템 또는 상호 작용의 사용자가되는지 여부입니다.이 바로 대부분의 신뢰 손실이 멀티 에이전트 시스템 내에서 발생하는 곳이며, 이것은 실제로이 문제를 명시적으로 다루는 최초의 프로젝트 중 하나였습니다. 우리의 컨텍스트 전송 프로토콜은 AI의 각 상호 작용 후에 운영자의 화면에 구조화 된 요약이 사용자를 환영하기 전에 표시되도록 설계되었으며,이 요약에는 사용자가 요청한 것이 무엇인지, AI가 말하고자하는 것이 무엇인지, 왜 AI가이 호출을 촉진했는지 포함되어있었습니다.이 사용자가 요청한 것을 반복하도록 요청받을 필요가 없었으며 모든 상호 작용 맥락은 운영자에게 사용할 수 있었고, 상호 작용 디자인의이 작은 세부 사항은 평균 처리 시간과 사용자 만족도를 크게 향상시켰습니다. 운영자가 사용자를 자동화된 시스템으로 되돌려보라고 요청한 경우, 운영자가 사용자 인터페이스 기능을 효과적으로 사용하여 특정 작업을 기반으로 AI 자율성에 대한 적절한 기대를 전달하여 사용자를 자동화된 시스템으로 되돌려보낼 수있게 만들었으며, 예상되는 좌절감과는 달리 그렇게하지 않았다. Agentic UX의 Pragmatic Design 원칙 수년간 AI를 지원하는 시스템을 설계 한 실무자로서, 오늘 나는 에이전트 UX를 효과적으로 설계하는 데 도움이되는 몇 가지 실용적인 지침을 작성했습니다. 첫째, 작업 흐름을 위한 설계, 기술을 위한 설계.사용자는 AI, 규칙, 또는 인간 지능을 통해 도움을 받고 있는지 신경 쓰지 않는다.그들은 그들이 작업을 효과적으로 그리고 편리하게 수행할 수 있는지 신경 쓰지 않는다.목적 결과에서 반대 엔지니어링을 시작하여 AI가 활성화된 에이전트로 인해 가치가 추가되고 복잡한 영역을 식별한 다음 그대로 중지하고 진행하십시오. 사용자는 하나의 지능 영역을 떠나서 탐색의 지능, 모델 지능 및 인간 지능과 같은 다른 영역에 들어갈 때에 대해 알고 있어야하며 일관된 시각적 및 상호 작용 지침을 설정하여 어떤 종류의 대답을 얻을 것인지, 언제 얻을 것인지 궁금하지 않아야합니다. 셋째, 사용자 전문성을 존중하는 작업 흐름 설계에 인증을 구축하십시오.AI 시스템은 이상적으로 관련 정보를 제시하고 행동 경로를 제안함으로써 의사 결정을 가속화하는 데 도움이되어야하지만, 이들은 궁극적으로 AI 시스템 자체에 사용할 수없는 맥락을 가진 인간 사용자가해야합니다. 성공적으로 자금을 확보하고, 확실한 인센티브로 참여를 강화하고, 수천 명의 사용자 수를 처리한 프로젝트 때문에 우리는 정교한 AI 시스템을 소유하거나 만들려고 시도했기 때문에 성공하지 못했습니다.이 인터페이스를 통해 이러한 사용자에게이 AI 시스템의 끝에서 일어나는 일을 이해할 수있는 능력을 제공했기 때문에 시간이 지남에 따라 점점 더 복잡한 작업을 수행 할 수있는 충분한 신뢰를 얻었습니다.
