Il s'agit de la première partie d'une série en plusieurs parties sur la création d'agents avec l'API Assistant d'OpenAI à l'aide du SDK Python. Que sont les agents ? De la façon dont j'aime le voir, un agent n'est en réalité qu'un logiciel exploitant un LLM (Large Language Model) et essayant d'imiter le comportement humain. Cela signifie qu’il peut non seulement converser et comprendre le langage, mais également effectuer des actions qui ont un impact sur le monde réel. Ces actions sont généralement appelées outils. Dans cet article de blog, nous explorerons comment créer un agent à l'aide de l'API Assistant d'OpenAI à l'aide de leur SDK Python. La première partie ne sera que le squelette de l'assistant. Autrement dit, juste la partie conversationnelle. J'ai choisi de créer une application CLI volontairement pour être indépendante du framework. Nous appellerons délibérément notre implémentation un agent et ferons référence à l'implémentation du SDK OpenAI en tant qu'assistant pour distinguer facilement les deux. J'utilise les termes et de manière interchangeable lorsqu'il s'agit de fonctions que l'agent peut appeler. La partie 2 couvrira l’appel de fonctions plus en détail. outils fonctions Conditions préalables Pour suivre ce tutoriel, vous aurez besoin des éléments suivants : Python3 installé sur votre machine Une clé API OpenAI Connaissance de base de la programmation Python Concepts de l'assistant OpenAI : Un assistant dans l'API Assistants est une entité configurée pour répondre aux messages des utilisateurs. Il utilise des instructions, un modèle choisi et des outils pour interagir avec les fonctions et apporter des réponses. Assistant : Un fil de discussion représente une conversation ou un dialogue dans l'API Assistants. Il est créé pour chaque interaction utilisateur et peut contenir plusieurs messages, servant de conteneur pour la conversation en cours. Thread : Un Message est une unité de communication dans un Thread. Il contient du texte (et potentiellement des fichiers à l'avenir) et est utilisé pour transmettre les requêtes des utilisateurs ou les réponses de l'assistant au sein d'un fil de discussion. Message : Un Run est une instance de l'Assistant traitant un Thread. Cela implique de lire le fil de discussion, de décider d'appeler ou non des outils et de générer des réponses basées sur l'interprétation des messages du fil de discussion par le modèle. Run Configuration de l'environnement de développement La première étape consiste à créer un environnement virtuel à l'aide et à l'activer. Cela garantira que nos dépendances sont isolées de l'installation du système Python : venv python3 -m venv venv source venv/bin/activate Installons notre seule dépendance : le package : openai pip install openai Créez un fichier Remplissons avec une logique d'exécution de base pour notre application CLI : main.py while True: user_input = input("User: ") if user_input.lower() == 'exit': print("Exiting the assistant...") break print(f"Assistant: You said {user_input}") Essayez-le en exécutant : python3 main.py python3 main.py User: hi Assistant: You said hi Comme vous pouvez le voir, la CLI accepte un message utilisateur en entrée, et notre assistant génial n'a pas encore de cerveau 🧠, il répète donc simplement le message. Pas encore si intelligent. L'agent Maintenant, le plaisir 😁 (ou les maux de tête 🤕) commence. Je vais fournir toutes les importations nécessaires pour le cours final dès maintenant, afin que vous ne vous demandiez pas d'où viennent les choses puisque j'ai conservé les importations en dehors des exemples de code par souci de concision. Commençons par construire une classe dans un nouveau fichier : Agent agent.py import time import openai from openai.types.beta.threads.run import Run class Agent: def __init__(self, name: str, personality: str): self.name = name self.personality = personality self.client = openai.OpenAI(api_key="sk-*****") self.assistant = self.client.beta.assistants.create( name=self.name, model="gpt-4-turbo-preview" ) Dans le constructeur de classe, nous initialisons le client OpenAI en tant que propriété de classe en transmettant notre clé API OpenAI. Ensuite, nous créons une propriété de classe qui correspond à notre assistant nouvellement créé. Nous stockons et en tant que propriétés de classe pour une utilisation ultérieure. assistant name personality L'argument que nous transmettons à la méthode create sert uniquement à identifier l'assistant dans le tableau de bord OpenAI, et l'IA n'en est pas réellement consciente à ce stade. Il faut en fait transmettre le nom aux que nous verrons plus tard. name instructions Vous pouvez déjà définir lors de la création de l'Assistant, mais cela rendra en réalité votre Assistant moins flexible face aux changements dynamiques. instructions Vous pouvez mettre à jour un assistant en appelant , mais il existe un meilleur endroit pour transmettre des valeurs dynamiques que nous verrons lorsque nous arriverons aux exécutions. client.beta.assistants.update Notez que si vous transmettez ici et encore lors de la création d'une exécution, les de l'assistant seront écrasées par les de l'exécution. Ils ne se complètent pas, alors choisissez-en un en fonction de vos besoins : niveau Assistant pour les instructions statiques ou niveau Run pour les instructions dynamiques. instructions instructions instructions Pour le modèle, j'ai choisi le modèle afin que nous puissions ajouter des appels de fonctions dans la partie 2 de cette série. Vous pouvez utiliser si vous souhaitez économiser quelques fractions d'un centime tout en vous donnant une migraine de pure frustration lorsque nous implémentons des outils. gpt-4-turbo-preview gpt-3.5-turbo GPT 3.5 est très mauvais pour appeler des outils ; les heures que j'ai perdues à y faire face me permettent de le dire. 😝 Je vais en rester là, et j'en reparlerai plus tard. Créer un fil de discussion, ajouter des messages et récupérer le dernier message Après avoir créé un agent, nous devrons démarrer un fil de conversation. class Agent: # ... (rest of code) def create_thread(self): self.thread = self.client.beta.threads.create() Et nous voudrons un moyen d'ajouter des messages à ce fil : class Agent: # ... (rest of code) def add_message(self, message): self.client.beta.threads.messages.create( thread_id=self.thread.id, role="user", content=message ) Notez que pour le moment, il n'est possible d'ajouter des messages qu'avec le rôle . Je pense qu'OpenAI prévoit de changer cela dans une prochaine version car cela est assez limitatif. user Maintenant, nous pouvons récupérer le dernier message du fil : class Agent: # ... (rest of code) def get_last_message(self): return self.client.beta.threads.messages.list( thread_id=self.thread.id ).data[0].content[0].text.value Ensuite, nous créons une méthode de point d’entrée pour tester ce que nous avons jusqu’à présent. Actuellement, la méthode renvoie simplement le dernier message du fil de discussion. Il n'effectue pas réellement d'exécution. C'est toujours stupide. run_agent run_agent class Agent: # ... (rest of code) def run_agent(self): message = self.get_last_message() return message De retour dans , nous créons l'agent et notre premier thread. Nous ajoutons un message au fil. Renvoyez ensuite ce même message à l'utilisateur, mais cette fois, provenant de ce fil de discussion en direct. main.py from agent import Agent agent = Agent(name="Bilbo Baggins", personality="You are the accomplished and renowned adventurer from The Hobbit. You act like you are a bit of a homebody, but you are always up for an adventure. You worry a bit too much about breakfast.") agent.create_thread() while True: user_input = input("User: ") if user_input.lower() == 'exit': print("Exiting the agent...") break agent.add_message(user_input) answer = agent.run_agent() print(f"Assistant: {answer}") Lançons-le : python3 main.py User: hi Assistant: hi Pas encore très intelligent. Plus proche d'un perroquet 🦜 que d'un hobbit. Dans la section suivante, le vrai plaisir commence. Création et interrogation d'une exécution Lorsque vous créez une exécution, vous devez récupérer périodiquement l'objet pour vérifier l'état de l'exécution. C’est ce qu’on appelle un sondage, et c’est nul. Vous devez effectuer un sondage afin de déterminer ce que votre agent doit faire ensuite. OpenAI prévoit d'ajouter la prise en charge du streaming pour simplifier les choses. En attendant, je vais vous montrer comment configurer les sondages dans la section suivante. Run Notez le sur les noms de méthodes suivants qui est la norme en Python pour indiquer que la méthode est destinée à un usage interne et ne doit pas être accessible directement par du code externe. _ Tout d'abord, créons une méthode d'assistance pour créer un et mettons à jour pour appeler cette méthode : _create_run Run run_agent class Agent: # ... (rest of code) def get_breakfast_count_from_db(self): return 1 def _create_run(self): count = self.get_breakfast_count_from_db() return self.client.beta.threads.runs.create( thread_id=self.thread.id, assistant_id=self.assistant.id, instructions=f""" Your name is: {self.name} Your personality is: {self.personality} Metadata related to this conversation: {{ "breakfast_count": {count} }} """, ) def run_agent(self): run = self._create_run() # add this line message = self.get_last_message() return message Remarquez comment nous transmettons et pour créer une exécution. thread.id assistant.id Rappelez-vous comment j'ai dit au début qu'il y avait un meilleur endroit pour transmettre des instructions et des données dynamiques ? Ce serait le paramètre lors de la création du Run. Dans notre cas, nous pourrions récupérer le du petit-déjeuner à partir d’une base de données. Cela vous permettra de transmettre facilement différentes données dynamiques pertinentes à chaque fois que vous souhaitez déclencher une réponse. instructions count Désormais, votre agent est conscient du monde qui évolue autour de lui et peut agir en conséquence. J'aime avoir un objet JSON de métadonnées dans mes instructions qui conserve un contexte dynamique pertinent. Cela me permet de transmettre des données tout en étant moins verbeux et dans un format que le LLM comprend très bien. Ne lancez pas ceci encore ; cela ne fonctionnera pas car nous n'attendons pas la fin de l'exécution lorsque nous recevons le dernier message, ce sera donc toujours le dernier message utilisateur. Résolvons ce problème en développant notre mécanisme de sondage. Tout d’abord, nous aurons besoin d’un moyen de récupérer facilement et de manière répétée une exécution, ajoutons donc une méthode : _retrieve_run class Agent: # ... (rest of code) def _retrieve_run(self, run: Run): return self.client.beta.threads.runs.retrieve( run_id=run.id, thread_id=self.thread.id) Remarquez comment nous devons transmettre à la fois et pour trouver une exécution spécifique. run.id thread.id Ajoutez une méthode à notre classe Agent : _poll_run class Agent: # ... (rest of code) def _cancel_run(self, run: Run): self.client.beta.threads.runs.cancel( run_id=run.id, thread_id=self.thread.id) def _poll_run(self, run: Run): status = run.status start_time = time.time() while status != "completed": if status == 'failed': raise Exception(f"Run failed with error: {run.last_error}") if status == 'expired': raise Exception("Run expired.") time.sleep(1) run = self._retrieve_run(run) status = run.status elapsed_time = time.time() - start_time if elapsed_time > 120: # 2 minutes self._cancel_run(run) raise Exception("Run took longer than 2 minutes.") 🥵 Ouf, ça fait beaucoup... Déballons ça. reçoit un objet comme argument et extrait le Run actuel. Tous les statuts disponibles peuvent être trouvés dans la OpenAI. Nous n’en utiliserons que quelques-uns qui correspondent à notre objectif actuel. _poll_run Run status documentation Nous exécutons maintenant une boucle while pour vérifier un statut terminé tout en gérant quelques scénarios d'erreur. La facturation réelle de l'API Assistant est un peu trouble, donc par mesure de sécurité, j'ai choisi d'annuler mes exécutions après 2 minutes. Même s'il existe un statut lorsque OpenAI annule l'exécution après 10 minutes. Si une exécution dure plus de 2 minutes, vous avez probablement un problème de toute façon. expired Comme je ne veux pas non plus interroger toutes les quelques millisecondes, je limite ma demande en interrogeant uniquement toutes les secondes jusqu'à ce que j'atteigne la barre des 2 minutes et que j'annule mon exécution. Vous pouvez ajuster cela comme bon vous semble. À chaque itération après le délai, nous récupérons à nouveau le statut Run. Maintenant, connectons tout cela à notre méthode . Vous remarquerez que nous créons d'abord l'exécution avec , puis nous interrogeons avec jusqu'à ce que nous obtenions une réponse ou qu'une erreur soit générée, et enfin lorsque l'interrogation est terminée, nous récupérons le dernier message du fil qui proviendra désormais de l'agent. run_agent _create_run _poll_run Nous renvoyons ensuite le message à notre boucle d'exécution, afin qu'il puisse être renvoyé à l'utilisateur. class Agent: # ... (rest of code) def run_agent(self): run = self._create_run() self._poll_run(run) # add this line message = self.get_last_message() return message Voilà, maintenant, lorsque vous exécuterez à nouveau votre agent, vous recevrez une réponse de notre sympathique agent : python3 main.py User: hi Assistant: Hello there! What adventure can we embark on today? Or perhaps, before we set out, we should think about breakfast. Have you had yours yet? I've had mine, of course – can't start the day without a proper breakfast, you know. User: how many breakfasts have you had? Assistant: Ah, well, I've had just 1 breakfast today. But the day is still young, and there's always room for a second, isn't there? What about you? How can I assist you on this fine day? Dans la partie 2, nous ajouterons la possibilité pour notre agent d'appeler des outils. Vous pouvez trouver le code complet sur mon . GitHub Merci pour votre lecture. Heureux d'entendre vos réflexions et vos commentaires dans les commentaires. Suivez-moi sur Linkedin pour plus de contenu comme celui-ci : https://www.linkedin.com/in/jean-marie-dalmasso-1b5473141/

Cet audio est produit dans la langue originale de l'histoire !

Comment créer un agent avec un assistant OpenAI en Python - Partie 1 : Conversationnel

Trop long; Pour lire

Jean-Marie Dalmasso

About Author

ÉTIQUETTES

Languages

CET ARTICLE A ÉTÉ PARU DANS...