WTF est un Agent Autonome ? Si vous ne travaillez pas directement dans l'espace de l'IA, il y a de fortes chances que votre introduction au concept d'agents autonomes se soit faite par le biais d'une germination d'influenceurs commençant par : "🤯 Déplacez-vous sur ChatGPT…" "L'outil dont vous n'avez pas entendu parler nous rapproche un peu plus d'AGI 🤖" "Vous n'allez pas croire ce que fait l'IA maintenant !! 💪” Mis à part les fils d'engagement, les agents autonomes ont commencé à accumuler une importante traction grand public en mars 2023 lors du lancement de . AutoGPT a d'abord été lancé en tant que version augmentée de ChatGPT qui pouvait : s'attribuer des tâches, naviguer sur Internet, stocker de la mémoire à long et à court terme, résumer les fichiers locaux et (si vous avez de la chance) exécuter les tâches qu'il s'est définies après le l'utilisateur a initialisé l'objectif global. AutoGPT AutoGPT représentait le premier exemple de ce que nous pouvons décrire comme un . Pour éviter toute complication, pour le reste de cet article, supposons la définition d'un "agent autonome" comme étant toute entité non humaine qui : agent autonome général A la capacité d' attribuer ses propres tâches Peut de l'entrée de l'utilisateur une fois fourni une fonction objective (par exemple, augmenter le nombre d'abonnés à ma newsletter de 10 000 cette année) fonctionner indépendamment A la capacité de au-delà de ce sur quoi il a été formé rechercher de nouvelles informations A une capacité à long terme et à court terme de mémoire Ces fonctionnalités existaient toutes dans une certaine mesure dans AutoGPT. Cependant, il existe une variété d'autres fonctionnalités supplémentaires qui sépareront les agents des chatbots de style ChatGPT à l'avenir. Prenez-les pour inclure des éléments tels que : Utilisation ou (par exemple, e-mail, cartes de crédit, CRM, médias sociaux, etc.) accès à des outils personnels Peut pour accomplir des tâches communiquer, coordonner et collaborer de manière indépendante avec d'autres agents autonomes Pour avoir une compréhension pratique de quelques exemples de la façon dont les agents initialisent, hiérarchisent et exécutent ces tâches, je recommande sur les mandataires. L'abécédaire de Matt Schlicht L'agent en tant qu'« employé » : une heuristique simple pour comprendre les agents autonomes On a beaucoup parlé de «l'IA prenant des emplois humains» dans le discours des médias. Relativement peu de choses ont été consacrées à discuter de l'élévation du rôle des humains dans l'activité économique . impliquant l'IA Le changement de paradigme clé qui se produira lorsque l'intelligence artificielle étroite (c'est-à-dire des agents spécialement conçus) viendra occuper des postes décisionnels routiniers comme le droit, la comptabilité, le tutorat, etc. ne sera pas que les humains se retrouveront au chômage. Le grand changement sera que tous les humains auront la possibilité de devenir . des managers Disons que je devais créer une entreprise aujourd'hui. Par exemple, je vais lancer une plate-forme de médias sociaux pour les personnes sobres et curieuses. Dans le passé, si la version alpha de cette plate-forme gagnait suffisamment en popularité, j'aurais été obligé d'embaucher pour un certain nombre de rôles afin d'aider la plate-forme à évoluer : des chefs de produit pour parler aux utilisateurs et définir ce qu'ils veulent, des ingénieurs pour écrire le code pour répondre aux besoins des utilisateurs, les spécialistes du marketing pour mettre le produit entre les mains d'un plus grand nombre d'utilisateurs, les conseillers juridiques pour s'assurer que l'ensemble de l'opération était conforme, etc. Dans un monde avec des agents efficaces qui réussissent le «test de l'employé» (c'est-à-dire que la sortie de l'agent dans un rôle spécifique semblerait identique à celle d'un humain pour l'observateur extérieur), je pourrais éventuellement exécuter toute cette opération en solo. Donc, si nous voulons tous devenir des gestionnaires de ces organisations complexes, quels outils devons-nous mettre en place pour que nous le fassions de manière efficace, sûre et rentable ? L'espace des agents autonomes aujourd'hui : Upside & Issues Problèmes communs Il y a eu beaucoup de progrès dans l'IA au cours des derniers mois. Mais il y a tellement plus à faire. Si vous deviez jouer avec ces outils maintenant, vous remarqueriez de nombreuses lacunes qui les empêcheraient de répondre au «test de l'employé». Personnalisation Premièrement, une grande partie de la production écrite générée par ces agents a tendance à manquer de créativité ou d'originalité dans la « ». Cela importe peu si l'agent est conçu pour préparer des documents juridiques ou créer une analyse de marché pour un nouveau produit. Cependant, il est important de savoir s'ils sont utilisés dans des tâches de création de marque ou pour élever la réputation de son « manager » humain. voix Afin de surmonter cet obstacle de personnalisation, les agents devront comprendre la voix voulue du manager. La meilleure façon d'y parvenir est de former les agents sur les sorties du gestionnaire, à la fois publiques (par exemple, les articles de blog) et privées (par exemple, les e-mails). Le grand obstacle ici devient alors dans les agents pour agir de manière responsable sur ces données. Quels mécanismes mettre en place pour assurer cette confiance ? la confiance Fiabilité L'inconvénient le plus cité de cette première génération d'agents autonomes est peut-être leur tendance à . halluciner Pour les non-initiés, l'hallucination dans le contexte de l'intelligence artificielle fait référence à la tendance de la machine à affirmer avec confiance des réponses incorrectes. Dans le cas de la génération actuelle d'agents, cela forme un match décevant avec sa tendance à s'enliser dans des boucles où il continue de revenir aux tâches précédentes plutôt que de progresser vers un résultat. Pour que les agents atteignent un niveau raisonnable d'ubiquité parmi un public grand public (sans parler d'être laissés à eux-mêmes dans un contexte de travail), ils devront atteindre un degré de fiabilité qui correspond et éventuellement dépasse celui de la capacité d'un agent humain. pour faire le travail et vérifier leur travail. Pour un exemple des effets secondaires de l'hallucination dans la pratique, ne cherchez pas plus loin que le , un avocat de New York qui a utilisé des précédents faussement et avec confiance affirmés par ChatGPT comme des cas réels dans un mémoire pour un cas réel. exemple récent de Steven Schwartz En termes d'opportunités dans ce domaine, la première est évidente. Créez des agents qui n'hallucinent pas. Deuxièmement, cependant, il y aura des marchés provisoires pour i) les tests de fiabilité pour les agents et ii) les marchés et la demande de produits capables de tester rigoureusement ces protocoles d'agent contre les attaques adverses. Ces concepts aideront à concevoir des agents qui atteignent le niveau de fiabilité et de sécurité nécessaire pour une adoption généralisée. Personnalisation Dans l'état actuel des choses, si vous et moi devions taper la même invite dans ChatGPT en même temps, nous obtiendrions une sortie identique. Il s'agit d'une fonctionnalité extrêmement limitante pour l'utilitaire AI pour un certain nombre de raisons. Premièrement, les réponses universelles à une invite donnée transformeront les leaders centralisés de l'espace de l'IA en monolithes de connaissances et de résultats humains. Si tout le monde en vient à dépendre d'outils de plus en plus avancés pour son travail et ses loisirs, tout tendra vers une norme uniforme dictée par tout ce sur quoi les modèles gagnants ont été formés. Si cela semble inquiétant, c'est parce que ça l'est. Plus important encore, cela rend les choses . Pour les problèmes non objectifs ou pour les tâches qui doivent être exécutées dans un certain style, il est logique que les agents tirent parti d'une certaine compréhension de l'utilisateur afin d'adapter leurs arguments et leurs résultats. Ce sera essentiel pour un avenir où nous sommes à l'aise de leur permettre d'agir en notre nom. ennuyeuses Il doit y avoir une certaine avant que l'agent n'existe. validation que nos agents fourniront une représentation fidèle de qui nous sommes Sécurité L'idée de faire fonctionner des machines à votre place, avec vos données sensibles et peut-être même comme une réplique parlante et tapant de vous, semble menaçante même pour les technologues les plus progressistes. Donner aux agents l'accès aux données au niveau de l'entreprise est encore une toute autre boîte de Pandore. Alors, comment les risques de sécurité et de confidentialité peuvent-ils être atténués dans la mesure où i) les individus peuvent faire confiance aux agents pour agir en leur nom et ii) les entreprises ont des garanties irréfutables que leurs informations et activités sont à l'abri des attaques, du détournement ou de l'exploitation ? Certains mécanismes de confidentialité sont déjà en place aujourd'hui et peuvent être plus basiques que vous ne le pensez. L'authentification à deux facteurs sera un enjeu de table pour l'utilisation d'un agent privé. sont déjà en cours de construction pour l'utilisation de chatbot d'entreprise. Des protocoles d'information persistants comme posent les bases d'une traçabilité décisionnelle pour réduire l'effet « boîte noire » dont peuvent souffrir les sorties machines. Mécanismes de contrôle d'accès Arweave En ce qui concerne les risques spécifiques aux agents, d'autres possibilités de protection contre les comportements répréhensibles ou la manipulation sont décrites dans la RFS ci-dessous. Interopérabilité Élargissant encore l'analogie ci-dessus de «l'agent en tant qu'employé» - pour former une organisation efficace, ces agents doivent être capables de se coordonner efficacement les uns avec les autres. Au-delà du niveau organisationnel, pour remodeler entièrement les écosystèmes commerciaux et les économies plus larges, les organisations d'agents vont devoir apprendre à se coordonner également avec d'autres organisations agentiques. Les problèmes de coordination à partir d'ici commencent à devenir complexes (tout comme ils l'ont fait dans la société humaine). Il existe déjà quelques signes avant-coureurs de protocoles de communication prometteurs d'agent à agent, menés par le travail effectué à . CHAMEAU La communication d'agent à agent est excellente, mais ne représente qu'un premier pas en termes de coordination des agents actifs. Quelques exemples de problèmes de coordination supplémentaires auxquels réfléchir : Comment mon agent « influenceur » personnel peut-il collaborer avec l'agent « influenceur » personnel d'Alice/Bob ? Comment mes agents personnels pourront-ils juger de la réputation des autres agents ? Quels types de filtres seront mis en place pour évaluer si d'autres agents agissent de manière suspecte ? Quels types de normes sont nécessaires pour permettre à mes agents d'interagir avec les agents d'autres personnes qui peuvent utiliser des logiciels différents ou opérer sous des contraintes réglementaires différentes ? Je suis convaincu qu'une fois ce méli-mélo de problèmes résolu, l'humanité est en bonne voie vers quelque chose qui ressemble à une société « sans employés ». Quel est l'intérêt de faire des tâches basiques et répétitives une fois que nous sommes carrément le deuxième meilleur ? Cette perte d'employéisme est en quelque sorte souvent confondue avec une perte de sens lorsque l'IA devient omniprésente. Je crois presque exactement le contraire d'être le cas. LORSQUE L'IA "PRENDRE NOTRE TRAVAIL", ce sera un changement de paradigme qui fera passer chaque individu de serf à manager. Chacun aura une suite de compagnons hautement compétents et fiables à portée de main pour sortir et apporter ce qu'il veut voir dans le monde. Le "travail" clé de l'humain dans ce monde est de gérer ces compagnons pour exécuter la vision que vous voulez voir. D'où le titre de ce billet. La pénétration des agents autonomes se traduira par une . grande promotion de tous les individus, des singes de tâche aux managers Que manque-t-il? Le principe général des agents, et finalement de l'intelligence artificielle dans son ensemble, est celui de l'automatisation des tâches. Outils de déploiement d'agents conviviaux. En utilisant cette définition, est techniquement le leader mondial du déploiement d'agents personnels, le leader mondial du déploiement en entreprise. Mais quiconque a utilisé l'un de ces deux outils serait en mesure de vous dire le temps et les efforts nécessaires pour utiliser ces outils avec succès. Comment pouvons-nous masquer toute la douleur, le temps et les frais de consultation consacrés à faire fonctionner ces systèmes ? Zapier UiPath L'idée d'Alex Lieberman ci-dessus présente un point de départ pour réfléchir à l'avenir de l'automatisation, tant au niveau personnel qu'au niveau de l'entreprise. Le problème avec Zapier est qu'il oblige les utilisateurs à rétroconcevoir leurs flux de travail. Qu'en est-il des outils qui sont entraînés intuitivement ou en formant les flux de travail des utilisateurs ? n'est pas en fait une mauvaise approximation de la façon dont l'enregistrement de session utilisateur peut être utilisé pour appliquer des ensembles de tâches répétables que les utilisateurs peuvent exécuter avec un minimum de réflexion. Et si de tels enregistrements de session utilisateur pouvaient être appliqués sur l'ensemble du navigateur pour fonctionner sur différentes applications et permettre aux utilisateurs de se décharger de plus de 50 % de leur journée de travail et éventuellement de toutes les tâches non créatives ? Macro Excel Afin de gérer efficacement un univers personnel d'agents, l'opportunité la plus élémentaire à exploiter est un . Un tel CRM agirait comme une source unique de vérité pour les instructions/invites/intentions de chaque agent individuel à la disposition d'un individu. Cela pourrait être intégré à CRM pour les agents individuels des tableaux de bord distincts pour la gestion des performances des agents. Pour les utilisateurs qui souhaitent encore moins s'impliquer dans le déploiement ou la personnalisation de leurs agents, il existe une opportunité pour Comme la productivité des agents est prouvée, il est fort probable qu'un marché se développe pour que les gens achètent des ensembles d'agents préformés qui peuvent effectuer des ensembles prédéfinis de tâches en fonction de la description du rôle. les packages d'agents génériques prêts à l'emploi. L'espace de conception pour le déploiement d'agents personnels a une bonne voie à suivre sur les traces des outils de déploiement de développeurs existants tels que Log10 ou Superagent. Aussi bons que soient ces outils pour gérer les déploiements d'agents, ils ne sont pas conçus pour les utilisateurs finaux ayant peu de connaissances sur le fonctionnement des agents ou des automatisations. Indépendamment de la façon dont les agents superintelligents peuvent devenir, ils s'appuieront toujours sur des ressources pour rester opérationnels. Les cerveaux des machines ont besoin de nutrition tout comme les cerveaux humains. Et tout comme des économies humaines entières se sont développées autour de la nécessité de mettre de la nourriture dans nos assiettes, des économies d'agents entières seront consacrées à allouer des ressources rares là où elles sont le plus demandées. Mécanismes incitatifs pour l'allocation des ressources des agents. Dans les économies d'agents, les marchés seront nécessaires pour allouer des éléments tels que : . Quels agents obtiennent quelle ressource CPU/GPU de qualité pour quelles tâches et à quel moment ? Puissance de calcul Comment les agents les plus exigeants peuvent-ils aux agents les moins exigeants ? Mémoire. louer ou acheter des « biens immobiliers » de mémoire . Comment répartir au mieux l'alimentation électrique des agents en fonction de l'endroit où ils sont hébergés et de la quantité d'énergie qu'ils consomment ? Comment cela est-il facturé - à l'agent, au serveur, à l'opérateur ou au particulier ? Énergie . Comment l'accès au Wi-Fi, aux réseaux cellulaires ou à d'autres canaux de communication est-il déterminé en masse ? Connectivité Les capteurs et les actionneurs sont deux autres pièces extensibles du puzzle qui ne sont pas universelles mais qui seront demandées par les agents. En tant que tels, ils sont couverts dans une autre section ci-dessous. Je suis depuis longtemps d'avis que la cryptographie constituera le moyen d'échange de ces économies. Les agents numériques programmatiques voudront une monnaie numérique programmatique. Sur la base de cette hypothèse, comment concevoir des réseaux cryptographiques qui allouent et encouragent au mieux le partage de ces ressources rares et compatibles API entre les agents, de sorte qu'elles soient toujours exploitées au maximum de leur potentiel ? La taille du marché pour un tel jeton qui pourrait se transformer en moyen d'échange pour une réplique numérique de l'économie humaine est, naturellement, énorme. Comme nous l'avons vu dans l'espace crypto, il y aura des opportunités dérivées pour aider ces réseaux à évoluer - que faut-il pour regrouper les demandes des agents ? Aurons-nous besoin de nouvelles formes de règlement pour les transactions non humaines ? Le fruit à portée de main ici est également le fait que les agents auront probablement besoin de portefeuilles spécifiques aux agents. Tout comme des protocoles comme Worldcoin se précipitent pour développer une preuve d'humanité, nous pouvons même voir afin d'exploiter certains protocoles spécifiques à un agent comme les portefeuilles numériques. des preuves de machine inversées Autant de questions à se poser pour la réinvention d'une économie non humaine. Nous sommes maintenant à une étape du cycle de vie des agents autonomes où les efforts sont extrêmement axés sur les développeurs. Finalement, le marché se tournera vers la fourniture de solutions prêtes à l'emploi qui offrent peu de personnalisation mais sont faciles à déployer et à gérer. Places de marché pour les agents fonctionnels. Cela crée une immense opportunité pour tous les pionniers qui cherchent à créer des échanges ou des marchés pour les agents autonomes. Non seulement les gens pourront acheter des formes génériques d'agents à déployer rapidement et à moindre coût, mais les développeurs peuvent également tirer profit du développement d'agents plus avancés et spécifiques pour différents besoins des utilisateurs. Comme pour toute catégorie de biens ou de services dans le passé, nous verrons différents niveaux de prix pour différents niveaux de prestige. Les développeurs (ou les agents de développement) trouveront des moyens de facturer des prix supérieurs pour des solutions d'agent de gants blancs extrêmement tactiles à fournir aux personnes qui veulent le meilleur de leur catégorie. De même, les entreprises seront prêtes à payer plus pour des agents offrant des garanties de sécurité et de confidentialité de premier ordre. Il y aura également des places de marché florissantes pour les agents de location - les personnes qui assument des tâches temporaires ne voudront peut-être pas dépenser les taux du marché pour de nouveaux agents. Les gens seront disposés à louer des agents sur la base qu'ils peuvent être formés et améliorés au fur et à mesure qu'ils sont utilisés. Nous pouvons voir des marchés financiers apparaître pour les personnes qui jalonnent leurs agents comme garantie pour que d'autres parties les louent en échange d'argent comptant à l'avance et la possibilité que les agents soient formés par l'utilisation pendant la période de location. Tout comme dans le Web actuel, l'espace du marché ne sera pas limité à un acteur dominant. Il y aura un riche écosystème de différents marchés pour différents utilisateurs, différents niveaux de prix et différentes spécifications. Cela fait du marché des agents un espace de conception incroyablement riche. C'est presque une extension du point "Nouveau Zapier" ci-dessus. Avec une armée d'agents à sa disposition, comment s'assurer qu'ils sont tous sur la même page ? Coordinateurs de tâches universels. Des outils seront nécessaires pour s'assurer que les objectifs initiaux de chaque agent individuel et les résultats de la hiérarchisation des tâches correspondent aux objectifs globaux « organisationnels » ou universels. La vision des coordinateurs de tâches dans ce sens peut à court terme être un système humain dans la boucle qui peut surveiller l'activité des agents (éventuellement via un CRM comme discuté ci-dessus) pour s'en assurer et les mettre sur la bonne voie. Finalement, sur la base de cette rétroaction humaine, des protocoles peuvent être conçus qui, avec une précision suffisante, peuvent cartographier les priorités des agents en fonction d'objectifs organisationnels ou individuels plus larges. Je ne serai pas la première ou la dernière personne à poser la question : Où l'IA et l'informatique spatiale s'interconnectent-elles ? Agents IdO. J'ai déjà brièvement abordé ce point dans mon dernier article. Au fur et à mesure que nous progressons vers des agents utilisateurs entièrement personnalisés, il est inévitable qu'ils viennent participer à notre environnement naturel et vécu (en plus de nos environnements augmentés/virtuels/étendus). L'application la plus évidente de ceci sera dans l'internet des objets. Vous cuisinez un steak et vous en avez besoin exactement comme votre partenaire l'aime ? Votre agent peut s'occuper de la cuisine. Vous avez laissé le poulet trop longtemps au congélateur ? Problème du passé, votre agent vous l'a dit il y a 3 heures et a engagé quelqu'un sur la tâche. Plutôt que d'être simplement un système de notification "coup de pouce" comme le téléphone l'est aujourd'hui, ces agents IoT auront une compréhension de votre contexte personnel pour agir aux intervalles appropriés et appropriés. a déjà levé 100 millions de dollars et amassé plus de 50 000 abonnés en vous permettant de parler simplement avec des chatbots ressemblant à des célébrités. Parlez à un LLM qui lit des histoires de chevet comme s'il s'agissait de Morgan Freeman. Demandez à LLM Elon Musk ce qu'il pense des tracteurs diesel. Et ainsi de suite. Répliques homme-agent. IA du personnage Aussi soigné que cela soit en tant que jouet, il ne fait qu'effleurer la surface de ce que l'IA permettra aux gens de faire en ce qui concerne se mettre à la place de quelqu'un d'autre, parler à qui vous voulez ou demandez ou, avec l'aide d'agents, vivre presque exactement comme ils le font. Au fur et à mesure que les agents autonomes apprendront à reproduire le comportement humain et à s'entraîner sur des expériences vécues, ils commenceront à devenir des représentations des humains qu'ils représentent. Cela ouvre une fenêtre sur la possibilité de pouvoir vivre dans le corps et l'esprit de quelqu'un d'autre. Par exemple, disons que Grimes voulait aller plus loin que . Maintenant, elle veut donner aux gens l'expérience de vivre comme elle le fait et de vivre les choses comme elle le fait. Si Grimes a travaillé avec des agents autonomes personnels pendant une période de temps suffisante, open source son IP ces agents peuvent être reproduits pour que d'autres utilisent et expérimentent "La vie de Grimes". Selon le degré de détail d'un regard sur quelqu'un que ces agents peuvent obtenir en ce qui concerne leur accès aux biomarqueurs et autres, ce type de réplication peut également être appliqué au partage d'expériences et de sentiments vécus (c'est-à-dire qualia) les uns avec les autres. Brave nouveau monde, en effet. En passant, il est inévitable qu'à mesure que les agents autonomes commencent à prendre de l'importance, certains apprendront à tirer parti de cet outil mieux que d'autres. Cela permettra à ceux qui ont consacré du temps à enseigner et à diriger leurs agents d'agir dans leur meilleur intérêt pour créer des marchés pour la réplication de leurs agents pour que d'autres personnes puissent les utiliser, évitant ainsi la courbe d'apprentissage et les détails techniques de la formation de leurs propres agents. Afin de réaliser leur plein potentiel d'exécution, la plupart des agents auront besoin d'accéder à une certaine forme d'actionneurs physiques pour donner vie à leur intelligence. Réseaux spécifiques à l'agent pour les capteurs et autres actionneurs. Des réseaux qui créent des marchés permettant à différents agents d'accéder à différents actionneurs à un moment donné seront nécessaires pour lisser la demande inévitable d'apporter cette intelligence au monde réel. Cela deviendra particulièrement crucial une fois que les agents autonomes passeront du monde du travail de l'information au monde de l'industrie lourde. Il y aura plus d'agents autonomes que de robots dans un avenir proche car les contraintes sur la construction de logiciels sont moindres que celles sur la construction de matériel. En tant que tel, il y a une pénurie de « corps » physiques pour effectuer le travail physique que ces agents voudront effectuer. Cela crée un marché du travail de facto pour l'économie agentique. Lequel des mécanismes économiques du marché du travail humain s'appliquera une fois que cela deviendra le cas ? Que pourront facturer les propriétaires de robots aux agents pour la location de leur temps physique ? Les robots (ou autres actionneurs) devront-ils être standardisés ou spécialisés en fonction des spécifications de l'agent ? Il existe de nombreuses questions ouvertes prêtes à être perturbées alors que les actionneurs de machines régis par l'intelligence artificielle viennent occuper des environnements vécus. Tout comme dans le Web2, les données sont un bien essentiel que les gens sont prêts à payer pour accéder aux canaux qui les fournissent (par exemple, Google Ads). À l'ère de l'autonomie, les capteurs seront un « vendeur » crucial pour les données. Les caméras, le GPS, le LiDaR et toute une suite d'autres capteurs seront utilisés pour fournir aux agents des données décisionnelles en temps réel. A ce titre, nous aurons besoin i) de réseaux pour entre agents et ii) d'oracles permettant aux agents de . faciliter l'échange de données communiquer ces données en temps réel Pour que les agents autonomes se coordonnent efficacement les uns avec les autres, des normes universelles sont nécessaires pour surmonter les «barrières linguistiques» numériques en quelque sorte. Que faut-il mettre en place pour y parvenir ? Protocoles de normalisation et d'interopérabilité des agents. Les systèmes middleware sont une solution, dans laquelle ils agissent comme des intermédiaires qui « traduisent » les messages d'un agent à un autre. Alternativement, les gens peuvent créer des API d'interopérabilité ou des SDK qui simplifient les processus d'intégration ou de traduction. Troisièmement, il y a beaucoup d'espace pour développer un nouveau type de marché pour les normes ascendantes pour de nouveaux types de schémas que les agents commencent tout juste à rencontrer ou qui se sont avérés gênants pour la coordination des agents dans le passé. présente un bon exemple de la façon dont cela se fait déjà dans l'espace web3. Contexte DAO . Afin de faire pleinement confiance aux agents avec des outils ou des informations personnels, les individus créeront des environnements de bac à sable sécurisés pour comprendre comment ils fonctionnent. Testnets d'agents pour les applications avancées Il est fort probable que les testnets tendent à devenir des biens publics pour la sécurité de l'IA, mais il s'agit néanmoins d'un projet ambitieux et percutant à poursuivre. J'ai discuté dans un article précédent du besoin continu de marchés humains dans la boucle pour garantir que les gens puissent participer à la hausse économique et aux procédures de vote associées au développement responsable de l'IA. Mécanismes de vote public pour l'éthique des machines. Quelques idées supplémentaires : Systèmes de notation de réputation pour les agents —> à la Black Mirror's ' ' Plongeon Logiciel 'Agent Resources' pour la gestion des agents Réseaux ou protocoles incitatifs pour tester la vulnérabilité aux attaques adverses Certaines de mes ressources préférées sur les agents Cette pièce aurait été impossible à écrire sans l'inspiration des ressources suivantes ci-dessous : Jouets (agents personnels dans le navigateur) AgentGPT (agents personnels dans le navigateur) Cognosys (agents personnels dans le navigateur) AiAgent.app (agents qui interagissent entre eux) CHAMEAU (réseau social réservé aux agents) Gazouillis Bulletins d'information et podcasts Bulletin d'information sur l'IA de Matt Schlicht Lunar Society avec Dwarkesh Patel Flux Twitter Yohei Nakajima Sully Omar Pierre Wang Également publié . ici
