paint-brush
PromptDesk : simplifier la gestion des invites dans un paysage d'IA en évolution rapidepar@justinmacorin
168 lectures

PromptDesk : simplifier la gestion des invites dans un paysage d'IA en évolution rapide

par Justin Macorin3m2024/04/03
Read on Terminal Reader

Trop long; Pour lire

Une gestion rapide et efficace est la clé du succès sur le marché actuel de l’IA, en évolution rapide. Notre capacité à créer, itérer et organiser rapidement des invites est impérative pour créer de la valeur pour les entreprises et les clients.
featured image - PromptDesk : simplifier la gestion des invites dans un paysage d'IA en évolution rapide
Justin Macorin HackerNoon profile picture
0-item


Pourquoi j'ai démarré PromptDesk

En tant qu'ingénieur en apprentissage automatique chez Seismic, la principale plateforme mondiale d'aide à la vente et au marketing basée sur l'IA, j'ai été témoin de l'incroyable vitesse à laquelle le marché de l'IA évolue. Cette évolution rapide, associée au battage médiatique et à la confusion du marché, m'a inspiré à créer PromptDesk, un projet 100 % open source visant à rationaliser le développement basé sur des invites.


Concevez, affinez et évaluez vos invites à l'aide d'une interface conviviale avec un nombre illimité de modèles.


Concentrez-vous très bien sur une tâche

L'objectif principal de PromptDesk est de servir de composant fondamental pour la plupart de mes travaux de LLM et de développement basés sur des invites. Dans ce secteur en évolution rapide, notre capacité à organiser efficacement les demandes est impérative. Les invites doivent être rapides à développer et à répéter afin que nous puissions nous concentrer sur l'innovation et la création de valeur pour les entreprises et les clients.


Accédez à des journaux détaillés sur les performances de votre invite, les requêtes API brutes, les réponses et les jetons pour accélérer le débogage et le dépannage.


Naviguer dans un paysage surpeuplé et une expansion prématurée

L'espace de gestion des invites est encombré, avec de nombreux acteurs se développant dans les domaines RAG, Agent, LLM/mise au point et autres domaines.


Cependant, je considère que cette expansion est prématurée pour plusieurs raisons :

  1. RAG est un processus difficile spécifique à un cas d'utilisation pour de nombreuses organisations
  2. RAG a des exigences d’intégration complexes et des besoins diversifiés en matière de sources de données
  3. L'augmentation des fenêtres contextuelles LLM peut rendre inutiles les approches basées sur RAG
  4. Construire un agent est exceptionnellement complexe et spécifique à un cas d'utilisation
  5. Les meilleures pratiques dans ce domaine en sont à leurs balbutiements
  6. La formation et le réglage fin des LLM pourraient devenir moins critiques à mesure que le coût et la qualité des modèles s'améliorent.


Compte tenu de ces facteurs, je me sentirais mal à l’aise de construire quelque chose qui pourrait rapidement devenir obsolète.


Valeur immédiate

PromptDesk est découplé des LLM commerciaux, permettant une intégration rapide avec n'importe quelle API LLM sans attendre que les équipes ou les contributeurs construisent ces intégrations. PromptDesk est également indépendant du fournisseur et peut être hébergé en interne. Cette flexibilité est cruciale car les considérations relatives à la confidentialité des données et la complexité des futures applications d’IA devraient augmenter de façon exponentielle avec le développement des agents d’IA.


L'objectif de PromptDesk n'est pas d'être une application d'IA globale. Au lieu de cela, il est conçu pour exceller dans un seul domaine : le développement basé sur des invites .


PromptDesk vise à fournir une valeur inégalée à ses utilisateurs en se concentrant sur cette fonctionnalité principale.


Intégrez immédiatement un nombre illimité de modèles LLM à l'aide de simples blocs de code et d'un assistant d'ajout de modèles.


Exemples de réels succès

Depuis la mise en œuvre de PromptDesk, j'ai constaté une accélération significative de la vitesse de développement et d'ingénierie, tant au travail que dans le cadre de projets parallèles. Les amis et collègues qui ont utilisé le projet ont également exprimé leur appréciation pour la manière dont il a facilité leur processus d'ingénierie rapide.


Examinez, éditez, modifiez et régénérez les données d'invite à grande échelle pour accélérer l'optimisation et le réglage fin.


Comment ça fonctionne

Installation (image Docker)

PromptDesk a été conçu pour démarrer en moins de 5 minutes. Notre script d'installation en 2 lignes peut exécuter une installation de développement locale ou distante avec un nom de domaine/sous-domaine (SSL). Notre guide de démarrage rapide fournit plus d’informations.

Installation

 from promptdesk import PromptDesk # PromptDesk is only available as a self-hosted Docker image pd = PromptDesk( api_key="YOUR_LOCAL_OR_SELF_HOSTED_PROMPTDESK_API_KEY", service_url="http://localhost" ) # Check if the PromptDesk service is up and running! print(pd.ping())

Génération d'invite

 # Generate text immediately story = pd.generate("short-story", { "setting": "dark and stormy night", "character": "lonely farmer", "plot": "visited by a stranger" }) print(story)

Classification et mise en cache

 # Built-in Classification isHappy = pd.generate("is_positive", { "text": text }, classification={ True: ["positive", "happy", "yes"], False: ["negative", "sad", "no"] }, cache=True) if isHappy: print("I'm happy!") else: print("I'm sad!")


Pour votre considération

Si vous pensez que PromptDesk peut améliorer votre flux de travail de développement basé sur des invites, je vous invite à l'essayer sur github.com/promptdesk/promptdesk .


Votre soutien en tant que star de GitHub ⭐ serait grandement apprécié !


Merci,


Justin




Dans un paysage de l'IA caractérisé par des changements rapides et une expansion souvent prématurée, PromptDesk vise à fournir une solution stable, ciblée et véritablement open source pour un développement basé sur des invites. Rejoignez-nous dans notre mission visant à simplifier et accélérer la création d'applications d'IA innovantes.