paint-brush
PromptDesk: Simplificación de la gestión rápida en un panorama de IA en rápida evoluciónpor@justinmacorin
166 lecturas

PromptDesk: Simplificación de la gestión rápida en un panorama de IA en rápida evolución

por Justin Macorin3m2024/04/03
Read on Terminal Reader

Demasiado Largo; Para Leer

Una gestión rápida y eficaz es la clave del éxito en el mercado actual de la IA, que evoluciona rápidamente. Nuestra capacidad para crear, iterar y organizar mensajes rápidamente es imperativa para crear valor para las empresas y los clientes.
featured image - PromptDesk: Simplificación de la gestión rápida en un panorama de IA en rápida evolución
Justin Macorin HackerNoon profile picture
0-item


Por qué comencé PromptDesk

Como ingeniero de aprendizaje automático en Seismic, la plataforma de habilitación de marketing y ventas impulsada por IA líder en el mundo, he sido testigo de primera mano del increíble ritmo al que se mueve el mercado de la IA. Esta rápida evolución, junto con la exageración y la confusión del mercado, me inspiraron a crear PromptDesk, un proyecto 100 % de código abierto para agilizar el desarrollo basado en avisos.


Diseñe, ajuste y evalúe sus indicaciones utilizando una interfaz fácil de usar con una cantidad ilimitada de modelos.


Concéntrate en una tarea, muy bien

El objetivo principal de PromptDesk es servir como componente fundamental para la mayor parte de mi LLM y mi trabajo de desarrollo basado en indicaciones. En esta industria que avanza rápidamente, nuestra capacidad para organizar las indicaciones de manera efectiva es imperativa. Las indicaciones deben ser rápidas de construir e iterar para que podamos centrarnos en la innovación y la creación de valor para las empresas y los clientes.


Acceda a registros detallados del rendimiento de sus mensajes, solicitudes de API sin procesar, respuestas y tokens para acelerar la depuración y la resolución de problemas.


Navegando por el panorama abarrotado y la expansión prematura

El espacio de gestión rápida está abarrotado, con muchos jugadores expandiéndose a RAG, Agent, capacitación/ajuste de LLM y otras áreas.


Sin embargo, mi opinión es que esta ampliación es prematura por varias razones:

  1. RAG es un proceso desafiante y específico de cada caso de uso para muchas organizaciones
  2. RAG tiene requisitos de integración complejos y diversas necesidades de fuentes de datos
  3. El aumento de las ventanas de contexto de LLM puede hacer que los enfoques basados en RAG sean innecesarios
  4. Crear un agente es excepcionalmente complejo y específico para cada caso de uso
  5. Las mejores prácticas en este espacio están en su infancia
  6. La capacitación y el ajuste de los LLM pueden volverse menos críticos a medida que mejoran el costo y la calidad del modelo.


Teniendo en cuenta estos factores, me sentiría incómodo construyendo algo que rápidamente podría quedar obsoleto.


Valor Inmediato

PromptDesk está desacoplado de los LLM comerciales, lo que permite una integración rápida con cualquier API de LLM sin esperar a que los equipos o contribuyentes creen esas integraciones. PromptDesk también es independiente del proveedor y puede alojarse internamente. Esta flexibilidad es crucial ya que se espera que las consideraciones de privacidad de los datos y la complejidad de las futuras aplicaciones de IA aumenten exponencialmente con el desarrollo de agentes de IA.


El objetivo de PromptDesk no es ser una aplicación de IA que lo abarque todo. En cambio, está diseñado para sobresalir en una cosa: el desarrollo basado en indicaciones .


PromptDesk tiene como objetivo proporcionar un valor incomparable a sus usuarios centrándose en esta funcionalidad principal.


Integre inmediatamente con una cantidad ilimitada de modelos LLM utilizando bloques de código simples y un asistente para agregar modelos.


Ejemplos de verdadero éxito

Desde que implementé PromptDesk, he experimentado una aceleración significativa en la velocidad de desarrollo e ingeniería, tanto en el trabajo como en proyectos paralelos. Los amigos y colegas que han utilizado el proyecto también han expresado su agradecimiento por cómo les ha facilitado el rápido proceso de ingeniería.


Revise, edite, modifique y regenere datos de solicitudes a gran escala para acelerar la optimización y el ajuste.


Cómo funciona

Instalación (imagen de Docker)

PromptDesk fue creado para comenzar en menos de 5 minutos. Nuestro script de instalación de 2 líneas puede ejecutar una instalación de desarrollo local o remota con un nombre de dominio/subdominio (SSL). Nuestra Guía de inicio rápido proporciona más información.

Configuración

 from promptdesk import PromptDesk # PromptDesk is only available as a self-hosted Docker image pd = PromptDesk( api_key="YOUR_LOCAL_OR_SELF_HOSTED_PROMPTDESK_API_KEY", service_url="http://localhost" ) # Check if the PromptDesk service is up and running! print(pd.ping())

Generación inmediata

 # Generate text immediately story = pd.generate("short-story", { "setting": "dark and stormy night", "character": "lonely farmer", "plot": "visited by a stranger" }) print(story)

Clasificación y almacenamiento en caché

 # Built-in Classification isHappy = pd.generate("is_positive", { "text": text }, classification={ True: ["positive", "happy", "yes"], False: ["negative", "sad", "no"] }, cache=True) if isHappy: print("I'm happy!") else: print("I'm sad!")


Por tu consideración

Si cree que PromptDesk puede mejorar su flujo de trabajo de desarrollo basado en avisos, lo invito a probarlo en github.com/promptdesk/promptdesk .


¡Tu apoyo como estrella de GitHub ⭐ sería muy apreciado!


Gracias,


justin




En un panorama de IA caracterizado por cambios rápidos y, a menudo, una expansión prematura, PromptDesk tiene como objetivo proporcionar una solución estable, enfocada y verdaderamente de código abierto para un desarrollo rápido. Únase a nosotros en nuestra misión de simplificar y acelerar la creación de aplicaciones innovadoras de IA.