paint-brush
PromptDesk: Vereinfachung des Prompt-Managements in einer sich schnell entwickelnden KI-Landschaftvon@justinmacorin
239 Lesungen

PromptDesk: Vereinfachung des Prompt-Managements in einer sich schnell entwickelnden KI-Landschaft

von Justin Macorin3m2024/04/03
Read on Terminal Reader

Zu lang; Lesen

Effektives Prompt-Management ist der Schlüssel zum Erfolg im heutigen, sich rasch entwickelnden KI-Markt. Unsere Fähigkeit, Prompts schnell zu erstellen, zu iterieren und zu organisieren, ist unerlässlich, um Mehrwert für Unternehmen und Kunden zu schaffen.
featured image - PromptDesk: Vereinfachung des Prompt-Managements in einer sich schnell entwickelnden KI-Landschaft
Justin Macorin HackerNoon profile picture
0-item


Warum ich PromptDesk gegründet habe

Als Machine Learning Engineer bei Seismic, der weltweit führenden KI-gestützten Vertriebs- und Marketing-Enablement-Plattform, habe ich aus erster Hand miterlebt, mit welch unglaublichem Tempo sich der KI-Markt entwickelt. Diese rasante Entwicklung, gepaart mit Markthype und Verwirrung, hat mich dazu inspiriert, PromptDesk zu entwickeln, ein 100 % Open-Source-Projekt zur Rationalisierung der promptbasierten Entwicklung.


Entwerfen, optimieren und bewerten Sie Ihre Eingabeaufforderungen mithilfe einer benutzerfreundlichen Oberfläche mit einer unbegrenzten Anzahl von Modellen.


Konzentrieren Sie sich auf eine Aufgabe, sehr gut

Das Hauptziel von PromptDesk ist es, als grundlegende Komponente für den Großteil meiner LLM- und promptbasierten Entwicklungsarbeit zu dienen. In dieser schnelllebigen Branche ist unsere Fähigkeit, Prompts effektiv zu organisieren, unerlässlich. Prompts sollten schnell erstellt und iteriert werden können, damit wir uns auf Innovation und Wertschöpfung für Unternehmen und Kunden konzentrieren können.


Greifen Sie auf detaillierte Protokolle der Leistung Ihrer Eingabeaufforderung, der Roh-API-Anfragen, Antworten und Token zu, um die Fehlerbehebung und Fehlerbehebung zu beschleunigen.


Navigieren im überfüllten Umfeld und bei vorzeitiger Expansion

Der Prompt-Management-Markt ist überfüllt, da viele Akteure in die Bereiche RAG, Agent, LLM-Schulung/Feinabstimmung und andere expandieren.


Ich bin jedoch der Ansicht, dass diese Ausweitung aus mehreren Gründen verfrüht ist:

  1. RAG ist für viele Organisationen ein anspruchsvoller anwendungsspezifischer Prozess
  2. RAG hat komplexe Integrationsanforderungen und einen vielfältigen Bedarf an Datenquellen
  3. Eine Vergrößerung des LLM-Kontextfensters kann RAG-basierte Ansätze überflüssig machen
  4. Der Aufbau eines Agenten ist außerordentlich komplex und anwendungsfallspezifisch
  5. Best Practices in diesem Bereich stecken noch in den Kinderschuhen
  6. Schulung und Feinabstimmung von LLMs könnten weniger kritisch werden, wenn sich Kosten und Qualität der Modelle verbessern


Angesichts dieser Faktoren wäre es mir unangenehm, etwas zu bauen, das schnell veralten könnte.


Sofortiger Wert

PromptDesk ist von kommerziellen LLMs entkoppelt und ermöglicht eine schnelle Integration mit jeder LLM-API, ohne darauf warten zu müssen, dass Teams oder Mitwirkende diese Integrationen erstellen. PromptDesk ist außerdem herstellerunabhängig und kann intern gehostet werden. Diese Flexibilität ist von entscheidender Bedeutung, da Datenschutzaspekte und die Komplexität zukünftiger KI-Anwendungen mit der Entwicklung von KI-Agenten voraussichtlich exponentiell zunehmen werden.


Das Ziel von PromptDesk ist nicht, eine allumfassende KI-App zu sein. Stattdessen ist es darauf ausgelegt, in einer Sache herauszuragen: prompt-basierte Entwicklung .


PromptDesk möchte seinen Benutzern einen beispiellosen Mehrwert bieten, indem es sich auf diese Kernfunktionalität konzentriert.


Mithilfe einfacher Codeblöcke und eines Assistenten zum Hinzufügen von Modellen können Sie sofort eine unbegrenzte Anzahl von LLM-Modellen integrieren.


Beispiele für echten Erfolg

Seit der Implementierung von PromptDesk habe ich eine deutliche Beschleunigung der Entwicklungs- und Entwicklungsgeschwindigkeit erlebt, sowohl bei der Arbeit als auch bei Nebenprojekten. Freunde und Kollegen, die das Projekt genutzt haben, haben ebenfalls ihre Wertschätzung dafür zum Ausdruck gebracht, wie es ihren schnellen Entwicklungsprozess erleichtert hat.


Überprüfen, bearbeiten, ändern und generieren Sie Eingabeaufforderungsdaten im großen Maßstab neu, um die Optimierung und Feinabstimmung zu beschleunigen.


Wie es funktioniert

Installieren (Docker-Image)

PromptDesk wurde so entwickelt, dass Sie in weniger als 5 Minuten loslegen können. Unser 2-zeiliges Installationsskript kann eine lokale oder Remote-Entwicklungsinstallation mit einem Domänen-/Subdomänennamen (SSL) ausführen. Unsere Kurzanleitung enthält weitere Informationen.

Aufstellen

 from promptdesk import PromptDesk # PromptDesk is only available as a self-hosted Docker image pd = PromptDesk( api_key="YOUR_LOCAL_OR_SELF_HOSTED_PROMPTDESK_API_KEY", service_url="http://localhost" ) # Check if the PromptDesk service is up and running! print(pd.ping())

Eingabeaufforderungsgenerierung

 # Generate text immediately story = pd.generate("short-story", { "setting": "dark and stormy night", "character": "lonely farmer", "plot": "visited by a stranger" }) print(story)

Klassifizierung und Caching

 # Built-in Classification isHappy = pd.generate("is_positive", { "text": text }, classification={ True: ["positive", "happy", "yes"], False: ["negative", "sad", "no"] }, cache=True) if isHappy: print("I'm happy!") else: print("I'm sad!")


Zur Beachtung

Wenn Sie glauben, dass PromptDesk Ihren auf Eingabeaufforderungen basierenden Entwicklungsworkflow verbessern kann, lade ich Sie ein, es unter github.com/promptdesk/promptdesk auszuprobieren.


Ihre Unterstützung als GitHub-Star ⭐ wäre sehr willkommen!


Danke schön,


Justin




In einer KI-Landschaft, die durch schnelle Veränderungen und oft vorzeitige Erweiterungen gekennzeichnet ist, zielt PromptDesk darauf ab, eine stabile, fokussierte und wirklich Open-Source-Lösung für die prompte Entwicklung bereitzustellen. Begleiten Sie uns auf unserer Mission, die Erstellung innovativer KI-Anwendungen zu vereinfachen und zu beschleunigen.