자율 에이전트와 차세대 경영 혁명

WTF는 자율 에이전트입니까?

AI 공간에서 직접 작업하지 않는다면 자동 에이전트 개념에 대한 소개는 다음과 같은 영향력 있는 인물을 통해 시작되었을 가능성이 높습니다.

“🤯 ChatGPT로 이동…”

“당신이 들어보지 못한 도구는 우리를 AGI에 한 걸음 더 가까이 다가가게 해줍니다 🤖“

“지금 AI가 하는 일을 믿지 못할 것입니다!! 💪”

참여 스레드를 제쳐두고, 자율 에이전트는 2023년 3월 출시와 동시에 상당한 주류 견인력을 모으기 시작했습니다. 자동GPT . AutoGPT는 처음에 ChatGPT의 확장된 버전으로 출시되었습니다. 자체 작업 할당, 인터넷 탐색, 장기 및 단기 메모리 저장, 로컬 파일 요약, (운이 좋다면) 이후에 자체 설정한 작업 실행 사용자가 중요한 목표를 초기화했습니다.

AutoGPT는 일반적인 자율 에이전트 로 설명할 수 있는 첫 번째 사례를 나타냅니다. 복잡함을 피하기 위해 이 기사의 나머지 부분에서는 '자율 에이전트'의 정의를 다음과 같은 비인간 개체로 가정합니다.

• 자신의 작업을 할당 하는 기능이 있습니다.

• 목적 함수가 제공되면 사용자 입력과 독립적으로 작동 할 수 있습니다(예: 올해 뉴스레터 구독자를 10,000명 늘립니다).

• 훈련받은 것 이상의 새로운 정보를 검색 하는 능력이 있습니다.

• 장기기억과 단기 기억 모두를 수용할 수 있는 능력을 가지고 있음

  
  

이러한 기능은 모두 AutoGPT 내에 어느 정도 존재했습니다. 그러나 앞으로는 ChatGPT 스타일 챗봇과 상담원을 구분하는 다양한 추가 기능이 있습니다. 다음과 같은 내용을 포함하세요.

• 개인 도구(예: 이메일, 신용카드, CRM, 소셜 미디어 등) 사용 또는 액세스
• 작업을 완료하기 위해 다른 자율 에이전트와 독립적으로 통신, 조정 및 협업 할 수 있습니다.

에이전트가 이러한 작업을 초기화하고 우선순위를 지정하고 실행하는 방법에 대한 몇 가지 예를 실제로 이해하려면 다음을 권장합니다. Matt Schlicht의 입문서 에이전트에.

'직원'으로서의 에이전트: 자율 에이전트를 이해하기 위한 간단한 경험적 방법

언론 담론에서는 'AI가 인간의 일자리를 빼앗는다'는 말이 많이 나왔다.

AI와 관련된 경제 활동에서 인간의 역할이 높아지는 것을 논의하는 데는 비교적 적은 시간이 소요되었습니다.

인공 협소 지능(예: 특수 목적 에이전트)이 법률, 회계, 개인 교습 등과 같은 일상적인 의사 결정 작업을 차지하게 되면서 발생할 주요 패러다임 변화는 인간이 실업자가 된다는 것이 아닙니다. 가장 큰 변화는 모든 인간이 관리자가 될 수 있는 기회를 갖게 된다는 점이다.

내가 오늘 회사를 시작한다고 가정해보자. 예를 들어, 나는 진지하고 호기심이 많은 사람들을 위한 소셜 미디어 플랫폼을 시작할 것입니다. 과거에는 이 플랫폼의 알파 버전이 충분한 견인력을 얻으면 플랫폼 확장을 돕기 위해 여러 역할을 채용해야 했습니다. 즉, 사용자와 대화하고 원하는 것을 정의하는 제품 관리자, 사용자 요구 사항을 충족하기 위한 코드, 더 많은 사용자에게 제품을 제공하기 위한 마케팅 담당자, 전체 운영이 규정을 준수하는지 확인하기 위한 법률 자문 등이 있습니다.

'직원 테스트'를 통과하는 효과적인 에이전트가 있는 세상(즉, 특정 역할을 수행하는 에이전트의 출력이 외부 관찰자에게 인간의 출력과 동일하게 나타남)에서는 이 전체 작업을 단독으로 실행하는 것이 가능합니다.

그렇다면 우리 모두가 이러한 복잡한 조직의 관리자가 되려면 이를 효과적이고 안전하며 수익성 있게 수행하기 위해 어떤 도구가 필요합니까?

오늘날의 자율 에이전트 공간: 장점 및 문제점

일반적인 문제

지난 몇 달 동안 AI에는 많은 발전이 있었습니다. 하지만 아직 갈 길이 멀다.

지금 이러한 도구를 가지고 놀아보면 '직원 테스트'를 충족하지 못하는 많은 단점을 발견하게 될 것입니다.

개인화

첫째, 이러한 에이전트가 생성한 많은 서면 출력은 ' 목소리 '에 있어 창의성이나 독창성이 부족한 경향이 있습니다. 대리인이 법률 문서를 준비하거나 신제품에 대한 시장 분석을 작성하도록 설계된 경우 이는 별 문제가 되지 않습니다. 그러나 브랜드 구축 작업에 사용되거나 인간 '관리자'의 명성을 높이는 데 사용되는 경우에는 매우 중요합니다.

이러한 개인화 장애물을 극복하려면 상담원은 관리자가 의도하는 목소리를 이해해야 합니다. 이를 달성하는 가장 좋은 방법은 공개(예: 블로그 게시물) 및 비공개(예: 이메일) 모두에서 관리자의 결과에 대해 상담원을 교육하는 것입니다. 여기서 가장 큰 장벽은 에이전트가 이 데이터에 대해 책임감 있게 행동한다는 신뢰 입니다. 이러한 신뢰를 보장하려면 어떤 메커니즘을 마련해야 합니까?

신뢰할 수 있음

아마도 이 1세대 자율 에이전트의 가장 많이 언급된 단점은 환각 경향이 있다는 것입니다.

초심자에게 인공 지능의 맥락에서 환각은 자신 있게 잘못된 답을 주장하는 기계의 경향을 의미합니다. 현재 세대의 에이전트의 경우 이는 출력을 향해 진행하기보다는 이전 작업으로 계속 돌아가는 루프에 갇히는 경향과 실망스러운 일치를 형성합니다.

에이전트가 주류 청중 사이에서 합리적인 수준의 편재성을 달성하려면(작업 환경에서 자신의 장치에 맡겨지는 것은 말할 것도 없고) 인간 에이전트의 능력과 일치하고 결국 이를 능가하는 어느 정도의 신뢰성을 달성해야 합니다. 작업을 완료하고 작업 내용을 사실 확인합니다. 실제로 환각의 부작용에 대한 예를 보려면 Steven Schwartz의 최근 사례 , 실제 사례에 대한 브리핑에서 ChatGPT가 실제 사례라고 주장한 선례를 허위로 자신있게 주장한 뉴욕 변호사.

이 영역의 기회 측면에서 첫 번째는 분명합니다. 환각을 일으키지 않는 에이전트를 만듭니다. 두 번째로, i) 에이전트에 대한 신뢰성 테스트와 ii) 적의 공격에 대해 이러한 에이전트 프로토콜을 엄격하게 스트레스 테스트할 수 있는 제품에 대한 시장과 수요에 대한 임시 시장이 있을 것입니다. 이러한 개념은 엔지니어 에이전트가 광범위한 채택에 필요한 안정성과 보안 수준을 달성하는 데 도움이 됩니다.

개인화

현재로서는 귀하와 제가 동시에 ChatGPT에 동일한 프롬프트를 입력하면 동일한 출력을 얻게 됩니다. 이는 여러 가지 이유로 AI 유틸리티에 대한 극도로 제한적인 기능입니다. 첫째, 주어진 프롬프트에 대한 보편적인 답변은 AI 공간의 중앙 집중식 리더를 인간 지식과 결과물의 단일체로 만들 것입니다. 모든 사람이 업무와 놀이를 위해 점점 더 발전된 도구에 의존하게 된다면 모든 것은 승리한 모델이 교육받은 내용에 따라 결정되는 통일된 표준을 향해 나아가게 될 것입니다. 이것이 걱정스럽게 들린다면 그것은 그렇기 때문입니다.

더 중요한 것은 일을 지루하게 만든다는 것입니다. 객관적이지 않은 문제나 특정 스타일로 수행해야 하는 작업의 경우 상담원이 인수와 출력을 맞춤화하기 위해 사용자에 대한 어느 정도 이해를 활용하는 것이 합리적입니다. 이는 그들이 우리를 대신하여 행동할 수 있도록 허용하는 미래에 중추적인 역할을 할 것입니다.

우리 에이전트가 에이전트가 존재하기 전에 우리가 누구인지에 대한 충실한 표현을 제공할 것이라는 검증이 필요합니다.

보안

민감한 데이터를 사용하여 기계를 작동시키고 어쩌면 당신을 말하고 타이핑하는 복제본으로 작동한다는 아이디어는 가장 진보적인 기술 전문가에게도 위협적으로 들립니다. 에이전트에게 기업 수준 데이터에 대한 액세스 권한을 부여하는 것은 여전히 완전히 다른 웜 캔입니다.

그렇다면 i) 개인이 대리인이 자신을 대신하여 행동할 것을 신뢰할 수 있고 ii) 기업이 자신의 정보와 활동이 공격, 남용 또는 악용으로부터 안전하다는 것을 완벽하게 보장하는 정도로 보안 및 개인 정보 보호 위험을 어떻게 완화할 수 있습니까?

일부 개인 정보 보호 메커니즘은 오늘날 이미 시행되고 있으며 귀하가 생각하는 것보다 더 기본적일 수 있습니다. 이중 인증은 개인 에이전트 사용에 있어 중요한 요소가 됩니다. 액세스 제어 메커니즘 이미 기업용 챗봇 사용을 위해 구축되고 있습니다. 다음과 같은 지속적인 정보 프로토콜 아르위브 기계 출력으로 인해 발생할 수 있는 '블랙박스' 효과를 줄이기 위해 의사결정 추적성의 기반을 마련하고 있습니다.

에이전트별 위험에 대해서는 아래 RFS에 잘못된 행동이나 조작으로부터 보호할 수 있는 더 많은 기회가 설명되어 있습니다.

상호 운용성

위의 '직원으로서의 대리인'에 대한 비유를 더욱 확장하면 효과적인 조직을 형성하기 위해 이들 대리인은 서로 효과적으로 협력할 수 있어야 합니다. 조직 수준을 넘어 비즈니스 생태계와 더 넓은 경제를 완전히 재편하려면 에이전트 조직이 다른 에이전트 조직과 협력하는 방법도 배워야 합니다. 여기서부터 조정 문제는 (인간 사회에서와 마찬가지로) 복잡해지기 시작합니다.

이미 유망한 에이전트 간 통신 프로토콜의 초기 징후가 있습니다. 낙타 .

에이전트 간 통신은 훌륭하지만 활성 에이전트 조정 측면에서 첫 번째 단계에 불과합니다.

고려해야 할 조정 문제의 몇 가지 예는 다음과 같습니다.

• 내 개인 '인플루언서' 에이전트가 Alice/Bob의 개인 '인플루언서' 에이전트와 어떻게 협력할 수 있나요?
• 내 개인 대리인은 다른 대리인의 평판을 어떻게 판단할 수 있나요? 다른 에이전트가 의심스러운 행동을 하는지 여부를 측정하기 위해 어떤 종류의 필터가 적용됩니까?
• 내 에이전트가 다른 소프트웨어를 사용하거나 다른 규제 조건에 따라 운영될 수 있는 다른 사람의 에이전트와 상호 작용할 수 있도록 하려면 어떤 종류의 표준이 필요합니까?

일단 이 뒤죽박죽된 문제들이 해결되면 인류는 '직원 없는' 사회와 유사한 방향으로 나아가고 있다고 믿습니다. 완전히 차선책이 되면 기본적이고 반복적인 작업을 수행하는 것이 무슨 의미가 있습니까?

직원주의의 상실은 AI가 보편화되면서 의미의 상실과 혼동되는 경우가 많습니다. 나는 거의 정반대라고 믿습니다. AI가 "우리의 일을 맡는다"면 모든 개인을 농노에서 관리자로 바꾸는 패러다임 전환이 될 것입니다. 모든 사람은 나가서 자신이 보고 싶은 것을 세상에 내놓을 수 있는 매우 유능하고 신뢰할 수 있는 동료를 갖게 될 것입니다. 이 세상에서 인간의 핵심 "일"은 당신이 보고 싶은 비전을 실행할 수 있도록 이러한 동료들을 관리하는 것입니다.

따라서 이 게시물의 제목은 다음과 같습니다. 자율 에이전트의 침투 로 인해 작업 원숭이부터 관리자까지 모든 개인이 크게 승진 하게 될 것입니다.

없어진 물건 있어요?

사용자 친화적인 에이전트 배포 도구. 에이전트, 궁극적으로 인공 지능 전체의 가장 중요한 원칙은 작업 자동화의 원칙입니다.

그 정의를 사용하면, 자피어 기술적으로 개인 에이전트 배포 분야의 글로벌 리더입니다. 유아이패스 엔터프라이즈 배포 분야의 글로벌 리더입니다. 그러나 이 두 도구 중 하나를 사용해 본 사람이라면 누구나 이 도구를 성공적으로 활용하는 데 필요한 시간과 노력의 양을 알 수 있을 것입니다. 이러한 시스템을 작동시키는 데 소요되는 모든 고통, 시간 및 컨설팅 비용을 어떻게 난독화할 수 있습니까?

위의 Alex Lieberman의 아이디어는 개인 및 기업 수준 모두에서 자동화의 미래에 대해 생각하는 출발점을 제시합니다. Zapier의 문제점은 사용자가 워크플로우를 리버스 엔지니어링해야 한다는 것입니다. 직관적으로 또는 사용자 작업 흐름을 훈련하여 훈련된 도구는 어떻습니까?

엑셀 매크로 실제로 사용자 세션 기록을 사용하여 사용자가 최소한의 생각으로 실행할 수 있는 반복 가능한 작업 세트를 적용하는 방법에 대한 나쁜 근사치는 아닙니다. 이러한 사용자 세션 기록을 전체 브라우저에 적용하여 다양한 앱에서 작동하고 사용자가 근무일의 50% 이상을 오프로드하고 궁극적으로는 창의적이지 않은 모든 작업을 오프로드할 수 있다면 어떨까요?

개인 상담원을 효과적으로 관리하기 위해 활용할 수 있는 가장 기본적인 기회는 개별 상담원을 위한 CRM 입니다. 이러한 CRM은 개인이 원하는 대로 각 에이전트의 지시/프롬프트/의도에 대한 단일 정보 소스 역할을 합니다. 이는 상담원 성과 관리를 위해 별도의 대시보드와 통합될 수 있습니다.

에이전트 배포 또는 사용자 정의에 대한 참여를 훨씬 덜 원하는 사용자에게는 즉시 사용 가능한 일반 에이전트 패키지를 사용할 수 있는 기회가 있습니다. 상담원 생산성이 입증됨에 따라 사람들이 역할 설명에 따라 사전 정의된 작업 세트를 수행할 수 있는 사전 훈련된 상담원 세트를 구매하는 시장이 발전할 가능성이 높습니다.

개인 에이전트 배포를 위한 설계 공간에는 Log10 또는 Superagent와 같은 기존 개발자 배포 도구의 발자취를 따라갈 수 있는 좋은 경로가 있습니다. 이러한 도구는 에이전트 배포 관리에 유용하지만 에이전트 또는 자동화 작동 방식에 대한 지식이 거의 없는 최종 사용자를 위해 설계되지 않았습니다.

에이전트 자원 할당을 위한 인센티브 메커니즘. 초지능 에이전트가 어떻게 되든 상관없이 그들은 항상 작동을 유지하기 위해 자원에 의존할 것입니다. 인간의 두뇌와 마찬가지로 기계의 두뇌에도 영양이 필요합니다. 그리고 전체 인간 경제가 우리 접시에 음식을 담는 필요성을 중심으로 발전한 것처럼 전체 에이전트 경제는 가장 수요가 많은 곳에 부족한 자원을 할당하는 데 전념할 것입니다.

대리인 경제에서는 시장이 다음과 같은 것을 할당해야 합니다.

• 컴퓨팅 파워 . 어떤 에이전트가 언제 어떤 작업에 대해 어떤 품질의 CPU/GPU 리소스를 얻습니까?
• 메모리. 수요가 높은 에이전트는 덜 까다로운 에이전트의 메모리 '부동산'을 어떻게 임대하거나 구매할 수 있습니까?
• 에너지 . 에이전트가 호스팅되는 위치와 소비하는 에너지량에 따라 에이전트에 전원 공급 장치를 가장 잘 할당할 수 있는 방법은 무엇입니까? 에이전트, 서버, 운영자 또는 개인에게 요금이 어떻게 청구되나요?
• 연결성 . WiFi, 셀룰러 네트워크 또는 기타 통신 채널에 대한 액세스는 전체적으로 어떻게 결정됩니까?

센서와 액추에이터는 보편적이지는 않지만 상담원이 요구하는 확장 가능한 두 가지 퍼즐 조각입니다. 따라서 이에 대한 내용은 아래의 다른 섹션에서 다룹니다.

나는 오랫동안 암호화폐가 이러한 경제의 교환 수단을 형성할 것이라고 생각해 왔습니다. 프로그래밍 방식의 디지털 에이전트는 프로그래밍 방식의 디지털 통화를 원할 것입니다.

이러한 가정을 바탕으로, 이러한 부족한 API 지원 리소스를 에이전트 간에 공유하여 항상 최대 잠재력을 활용하도록 가장 잘 할당하고 인센티브를 제공하는 암호화 네트워크를 어떻게 설계할 수 있습니까? 인간 경제의 디지털 복제품에 대한 교환 수단이 될 수 있는 토큰의 시장 규모는 당연히 엄청납니다. 암호화폐 공간에서 살펴본 것처럼 이러한 네트워크 확장을 돕는 파생 기회가 있을 것입니다. 에이전트 요청을 묶으려면 무엇이 필요합니까? 인간이 아닌 거래를 위해서는 새로운 형태의 결제가 필요합니까?

여기서 쉽게 얻을 수 있는 점은 에이전트가 에이전트별 지갑을 요구할 가능성이 높다는 사실입니다. Worldcoin과 같은 프로토콜이 인류 증명을 개발하기 위해 경쟁하는 것처럼, 디지털 지갑과 같은 특정 에이전트별 프로토콜을 운영하기 위해 역기계 증명 도 볼 수 있습니다.

인간이 아닌 경제의 재창조를 위해 많은 질문을 던져야 합니다.

기능성 에이전트를 위한 시장. 우리는 이제 노력이 극도로 개발자 중심인 자율 에이전트의 수명주기 단계에 있습니다. 결국 시장은 맞춤화 방식을 거의 제공하지 않지만 배포 및 관리가 쉬운 기성 솔루션을 제공하는 방향으로 전환할 것입니다.

이는 자율 에이전트를 위한 거래소나 마켓플레이스를 구축하려는 초기 이동자에게 엄청난 기회를 제공합니다. 사람들은 빠르고 저렴하게 배포하기 위해 일반적인 형태의 에이전트를 구입할 수 있을 뿐만 아니라 개발자는 다양한 사용자 요구에 맞는 보다 발전된 특정 에이전트를 개발하여 수익을 올릴 수 있습니다. 과거의 모든 상품이나 서비스 카테고리와 마찬가지로, 우리는 다양한 명성 수준에 따라 다양한 가격 수준을 보게 될 것입니다.

개발자(또는 개발자 에이전트)는 동급 최고를 원하는 사람들에게 제공하기 위해 접촉이 매우 많은 흰 장갑 에이전트 솔루션에 대해 프리미엄 가격을 청구하는 방법을 찾을 것입니다. 마찬가지로 기업은 보안 및 개인 정보 보호에 대한 최고의 표준을 보장하는 에이전트에 대해 더 많은 비용을 기꺼이 지불할 것입니다.

에이전트 임대를 위한 시장도 번창할 것입니다. 임시 작업을 수행하는 사람들은 새 에이전트에 시장 가격을 지출하고 싶어하지 않을 수 있습니다. 사람들은 에이전트가 활용되면서 훈련을 받고 개선될 수 있다는 점을 바탕으로 에이전트를 기꺼이 임대할 것입니다. 사람들이 자신의 에이전트를 담보로 삼아 다른 당사자가 현금 선불 대가로 임대할 수 있도록 하는 금융 시장과 임대 기간 동안 활용을 통해 에이전트 교육을 받을 가능성이 있는 것을 볼 수 있습니다.

현재 웹에서와 마찬가지로 마켓플레이스 공간은 하나의 지배적인 플레이어로 제한되지 않습니다. 다양한 사용자, 다양한 가격대, 다양한 사양을 위한 다양한 시장으로 구성된 풍부한 생태계가 있을 것입니다. 이는 에이전트 마켓플레이스 시장을 믿을 수 없을 만큼 풍부한 디자인 공간으로 만듭니다.

범용 작업 코디네이터. 이는 위의 '뉴 재피어(New Zapier)' 지점을 거의 확장한 것입니다. 수많은 에이전트를 마음대로 사용할 수 있는데 그들이 모두 같은 페이지에 있다는 것을 어떻게 보장할 수 있습니까?

각 개별 에이전트의 초기 목표와 작업 우선순위 결과가 전체 '조직' 또는 유니버스 목표와 일치하는지 확인하려면 도구가 필요합니다.

이러한 의미에서 작업 코디네이터의 비전은 단기적으로 상담원 활동을 모니터링하여(위에서 설명한 CRM을 통해) 이를 보장하고 올바른 방향으로 설정할 수 있는 인간 참여형 시스템일 수 있습니다. 결국 이러한 인간 피드백을 기반으로 에이전트의 우선 순위를 더 넓은 조직 또는 개인 목표에 맞게 충분히 정확하게 매핑할 수 있는 프로토콜이 설계될 수 있습니다.

IoT 에이전트. AI와 공간 컴퓨팅은 어디에서 상호 연결됩니까?라는 질문을 제기하는 첫 번째 또는 마지막 사람은 아닙니다.

나는 이미 지난 글에서 이 점을 간략하게 다루었습니다. 우리가 완전히 개인화된 사용자 에이전트를 향해 나아가면서, 그들이 우리의 자연스럽고 생활 환경(증강/가상/확장된 환경에 더해)에 참여하게 되는 것은 불가피합니다.

이것의 가장 확실한 적용은 사물 인터넷에 있을 것입니다. 스테이크를 요리하고 파트너가 좋아하는 방식으로 스테이크가 필요하십니까? 귀하의 대리인이 주방을 돌볼 수 있습니다. 닭고기를 냉동실에 너무 오래 방치했나요? 과거의 문제는 귀하의 대리인이 3시간 전에 귀하에게 그 사실을 말했고 그 일을 맡을 사람이 있다는 것입니다. 오늘날의 전화처럼 단순히 알림 '넛지' 시스템이 아닌 이러한 IoT 에이전트는 사용자의 개인 상황을 이해하여 편리하고 정확한 간격으로 조치를 취합니다.

인간-에이전트 복제본. 캐릭터 AI 연예인 스타일의 챗봇과 간단하게 대화할 수 있다는 점을 바탕으로 이미 1억 달러를 모금했으며 5만 명 이상의 가입자를 확보했습니다. Morgan Freeman처럼 침대 옆에서 이야기를 읽어주는 LLM과 대화하세요. LLM Elon Musk에게 디젤 트랙터에 대한 그의 생각을 물어보세요. 등등.

이것은 장난감처럼 깔끔하지만, 다른 사람의 입장에서 생각해보고, 원하거나 요구하는 사람과 대화하거나, 에이전트의 도움을 받아 거의 생활하는 것과 관련하여 AI를 통해 사람들이 할 수 있는 일의 표면을 긁는 것에 불과합니다. 정확히 그들이하는 방식입니다.

자율 에이전트가 인간 행동을 복제하고 실제 경험을 훈련하는 방법을 배우기 시작하면 자신이 대표하는 인간을 대표하게 될 것입니다. 이는 다른 사람의 몸과 마음 속에서 살아갈 수 있는 가능성에 대한 창을 제시합니다.

예를 들어, Grimes가 다음보다 한 단계 더 나아가기를 원했다고 가정해 보겠습니다. 그녀의 IP를 오픈소스로 공개 . 이제 그녀는 사람들에게 자신이 하는 방식으로 생활하고 자신이 하는 방식으로 사물을 경험할 수 있는 경험을 제공하고 싶어합니다. Grimes가 충분한 기간 동안 개인 자율 에이전트와 작업해 왔다면 이러한 에이전트를 복제하여 다른 사람들이 'The Life of Grimes'를 사용하고 경험할 수 있습니다.

이러한 에이전트가 바이오마커 등에 대한 액세스와 관련하여 누군가를 얼마나 자세히 관찰할 수 있는지에 따라 이러한 유형의 복제는 생생한 경험과 감정(즉 감각질)을 서로 공유하는 데에도 적용될 수 있습니다. 참으로 멋진 신세계입니다.

참고로, 자율 에이전트가 두각을 나타내기 시작하면 일부는 다른 것보다 이 도구를 더 잘 활용하는 방법을 배우게 될 것입니다. 이를 통해 에이전트를 가르치고 지시하는 데 시간을 투자한 사람들은 자신의 에이전트를 복제하여 다른 사람들이 사용할 수 있는 시장을 창출하여 자신의 에이전트를 교육하는 데 필요한 학습 곡선과 기술을 피할 수 있습니다.

센서 및 기타 액추에이터를 위한 에이전트별 네트워크. 실행 잠재력을 최대한 실현하려면 대부분의 에이전트가 지능을 실현할 수 있는 일종의 물리적 액추에이터에 액세스해야 합니다.

다양한 에이전트가 주어진 시간에 다양한 액추에이터에 액세스할 수 있는 시장을 만드는 네트워크는 이러한 인텔리전스를 현실 세계로 가져오기 위한 불가피한 수요를 원활하게 처리해야 합니다. 이는 자율 에이전트가 정보 작업의 세계에서 중공업의 세계로 전환되면 특히 중요해질 것입니다.

소프트웨어 구축에 대한 제약이 하드웨어 구축에 대한 제약보다 적기 때문에 가까운 미래에는 로봇보다 자율적인 에이전트가 더 많아질 것입니다. 따라서 이러한 에이전트가 수행하려는 물리적 작업을 수행할 물리적 '신체'가 부족합니다. 이는 대리인 경제를 위한 사실상의 노동 시장을 창출합니다.

이것이 사실이 되면 인간 노동 시장의 경제적 메커니즘 중 어떤 것이 적용될 것인가? 로봇 소유자는 에이전트에게 실제 시간 대여 비용을 청구할 수 있습니까? 로봇(또는 기타 액추에이터)은 에이전트의 사양에 따라 표준화되거나 전문화되어야 합니까? 인공 지능으로 제어되는 기계 액추에이터가 실제 환경을 점령하게 되면서 혼란을 야기할 수 있는 많은 미해결 질문이 있습니다.

web2에서와 마찬가지로 데이터는 사람들이 이를 제공하는 채널(예: Google Ads)에 액세스하기 위해 기꺼이 비용을 지불할 의사가 있는 중요한 상품입니다. 자율주행 시대에는 센서가 데이터의 중요한 '공급업체'가 될 것입니다. 카메라, GPS, LiDaR 및 기타 센서 전체 제품군은 에이전트에게 실시간 의사 결정 데이터를 제공하는 데 사용됩니다. 따라서 i) 에이전트 간의 데이터 교환을 촉진하기 위한 네트워크와 ii) 에이전트가 이 데이터를 실시간으로 전달할 수 있는 오라클이 필요합니다.

에이전트 표준화 및 상호 운용성 프로토콜. 자율 주체가 서로 효과적으로 협력하기 위해서는 디지털의 '언어 장벽'을 그대로 극복할 수 있는 보편적인 표준이 필요하다. 이를 달성하려면 무엇이 준비되어야 합니까?

미들웨어 시스템은 한 에이전트에서 다른 에이전트로 메시지를 '번역'하는 중개자 역할을 하는 하나의 솔루션입니다. 또는 통합이나 번역 프로세스를 단순화하는 상호 운용성 API 또는 SDK를 구축할 수도 있습니다. 셋째, 에이전트가 이제 막 접하기 시작했거나 과거에 에이전트 조정에 문제가 있었던 것으로 입증된 새로운 종류의 스키마에 대한 상향식 표준을 위한 새로운 종류의 시장을 개발할 수 있는 공간이 많이 있습니다.

컨텍스트 DAO 이는 web3 공간에서 이미 수행되고 있는 방법에 대한 좋은 예를 제시합니다.

고급 애플리케이션을 위한 에이전트 테스트넷 . 개인 도구나 정보를 가진 에이전트를 완전히 신뢰하기 위해 개인은 자신의 작업 방식을 이해할 수 있는 안전한 샌드박스 환경을 조성하게 됩니다.

테스트넷은 AI 안전을 위한 공공재로 변모할 가능성이 높지만, 그럼에도 불구하고 추구해야 할 야심차고 영향력 있는 프로젝트입니다.

기계 윤리를 위한 공개 투표 메커니즘. 나는 이전 기사에서 사람들이 책임감 있는 AI 개발과 관련된 경제적 상승 및 투표 절차에 참여할 수 있도록 보장하기 위해 인간 참여형(Human-In-The-Loop) 마켓플레이스가 계속해서 필요하다는 점에 대해 논의했습니다.

추가 아이디어:

• 에이전트를 위한 평판 점수 시스템 —> Black Mirror의 ' 급강하 '
• 에이전트 관리를 위한 '에이전트 리소스' 소프트웨어
• 적대적 공격에 대한 스트레스 테스트 취약성을 위한 인센티브 네트워크 또는 프로토콜

에이전트에 관해 제가 가장 좋아하는 리소스 중 일부

아래 자료의 영감이 없었다면 이 글을 쓰는 것은 불가능했을 것입니다.

장난감

에이전트GPT (브라우저의 개인 에이전트)

코그노시스 (브라우저의 개인 에이전트)

AiAgent.app (브라우저의 개인 에이전트)

낙타 (서로 상호 작용하는 에이전트)

챠퍼 (에이전트 전용 소셜 네트워크)

뉴스레터 및 팟캐스트

매트 슐리히트 의 AI 뉴스레터

Dwarkesh Patel과 함께하는 달의 사회

트위터 피드

나카지마 요헤이

설리 오마르

피터 왕