PromptDesk: simplificando o gerenciamento de prompts em um cenário de IA em rápida evolução

Por que comecei o PromptDesk

Como engenheiro de aprendizado de máquina na Seismic, a plataforma líder mundial de vendas e capacitação de marketing baseada em IA, testemunhei em primeira mão o ritmo incrível em que o mercado de IA está se movendo. Essa rápida evolução, juntamente com o entusiasmo e a confusão do mercado, me inspirou a criar o PromptDesk, um projeto 100% de código aberto para agilizar o desenvolvimento baseado em prompt.

Concentre-se em uma tarefa, muito bem

O objetivo principal do PromptDesk é servir como um componente fundamental para a maior parte do meu LLM e trabalho de desenvolvimento baseado em prompt. Neste setor em ritmo acelerado, nossa capacidade de organizar solicitações de maneira eficaz é fundamental. Os prompts devem ser rápidos de construir e iterar para que possamos nos concentrar na inovação e na criação de valor para empresas e clientes.

Navegando na paisagem lotada e na expansão prematura

O espaço de gerenciamento imediato está lotado, com muitos participantes expandindo para RAG, Agente, treinamento/ajuste fino LLM e outras áreas.

No entanto, a minha opinião é que esta expansão é prematura por vários motivos:

1. RAG é um processo desafiador específico de caso de uso para muitas organizações
2. RAG tem requisitos de integração complexos e diversas necessidades de fontes de dados
3. Aumentar as janelas de contexto do LLM pode tornar desnecessárias as abordagens baseadas em RAG
4. Construir um agente é excepcionalmente complexo e específico para cada caso de uso
5. As melhores práticas neste espaço estão em sua infância
6. O treinamento e o ajuste fino dos LLMs podem se tornar menos críticos à medida que o custo e a qualidade do modelo melhoram

Dados esses fatores, eu me sentiria desconfortável em construir algo que pode rapidamente se tornar obsoleto.

Valor imediato

O PromptDesk é dissociado de LLMs comerciais, permitindo integração rápida com qualquer API LLM sem esperar que equipes ou colaboradores construam essas integrações. O PromptDesk também é independente de fornecedor e pode ser hospedado internamente. Esta flexibilidade é crucial, uma vez que se espera que as considerações de privacidade dos dados e a complexidade das futuras aplicações de IA aumentem exponencialmente com o desenvolvimento de agentes de IA.

O objetivo do PromptDesk não é ser um aplicativo de IA abrangente. Em vez disso, ele foi projetado para se destacar em uma coisa: desenvolvimento baseado em prompt .

O PromptDesk visa fornecer um valor incomparável aos seus usuários, concentrando-se nesta funcionalidade central.

Exemplos de verdadeiro sucesso

Desde a implementação do PromptDesk, experimentei uma aceleração significativa na velocidade de desenvolvimento e engenharia, tanto no trabalho quanto em projetos paralelos. Amigos e colegas que utilizaram o projeto também expressaram seu apreço pela forma como ele facilitou seu rápido processo de engenharia.

Como funciona

Instalando (imagem Docker)

O PromptDesk foi criado para começar em menos de 5 minutos. Nosso script de instalação de 2 linhas pode executar uma instalação de desenvolvimento local ou remota com um nome de domínio/subdomínio (SSL). Nosso Guia de início rápido fornece mais informações.

Configurar

 from promptdesk import PromptDesk # PromptDesk is only available as a self-hosted Docker image pd = PromptDesk( api_key="YOUR_LOCAL_OR_SELF_HOSTED_PROMPTDESK_API_KEY", service_url="http://localhost" ) # Check if the PromptDesk service is up and running! print(pd.ping())

Geração de prompt

 # Generate text immediately story = pd.generate("short-story", { "setting": "dark and stormy night", "character": "lonely farmer", "plot": "visited by a stranger" }) print(story)

Classificação e cache

 # Built-in Classification isHappy = pd.generate("is_positive", { "text": text }, classification={ True: ["positive", "happy", "yes"], False: ["negative", "sad", "no"] }, cache=True) if isHappy: print("I'm happy!") else: print("I'm sad!")

Para sua consideração

Se você acredita que o PromptDesk pode aprimorar seu fluxo de trabalho de desenvolvimento baseado em prompt, convido você a experimentá-lo em github.com/promptdesk/promptdesk .

Seu apoio como estrela do GitHub ⭐ seria muito apreciado!

Obrigado,

Justino

Em um cenário de IA caracterizado por mudanças rápidas e expansão muitas vezes prematura, o PromptDesk visa fornecer uma solução estável, focada e verdadeiramente de código aberto para desenvolvimento imediato. Junte-se a nós em nossa missão de simplificar e acelerar a criação de aplicações inovadoras de IA.