paint-brush
PromptDesk: simplificando o gerenciamento de prompts em um cenário de IA em rápida evoluçãopor@justinmacorin
239 leituras

PromptDesk: simplificando o gerenciamento de prompts em um cenário de IA em rápida evolução

por Justin Macorin3m2024/04/03
Read on Terminal Reader

Muito longo; Para ler

O gerenciamento imediato e eficaz é a chave para o sucesso no mercado atual de IA em rápida evolução. Nossa capacidade de criar, iterar e organizar prompts rapidamente é fundamental para criar valor para empresas e clientes.
featured image - PromptDesk: simplificando o gerenciamento de prompts em um cenário de IA em rápida evolução
Justin Macorin HackerNoon profile picture
0-item


Por que comecei o PromptDesk

Como engenheiro de aprendizado de máquina na Seismic, a plataforma líder mundial de vendas e capacitação de marketing baseada em IA, testemunhei em primeira mão o ritmo incrível em que o mercado de IA está se movendo. Essa rápida evolução, juntamente com o entusiasmo e a confusão do mercado, me inspirou a criar o PromptDesk, um projeto 100% de código aberto para agilizar o desenvolvimento baseado em prompt.


Projete, ajuste e avalie seus prompts usando uma interface amigável com um número ilimitado de modelos.


Concentre-se em uma tarefa, muito bem

O objetivo principal do PromptDesk é servir como um componente fundamental para a maior parte do meu LLM e trabalho de desenvolvimento baseado em prompt. Neste setor em ritmo acelerado, nossa capacidade de organizar solicitações de maneira eficaz é fundamental. Os prompts devem ser rápidos de construir e iterar para que possamos nos concentrar na inovação e na criação de valor para empresas e clientes.


Acesse registros detalhados do desempenho do seu prompt, solicitações brutas de API, respostas e tokens para acelerar a depuração e a solução de problemas.


Navegando na paisagem lotada e na expansão prematura

O espaço de gerenciamento imediato está lotado, com muitos participantes expandindo para RAG, Agente, treinamento/ajuste fino LLM e outras áreas.


No entanto, a minha opinião é que esta expansão é prematura por vários motivos:

  1. RAG é um processo desafiador específico de caso de uso para muitas organizações
  2. RAG tem requisitos de integração complexos e diversas necessidades de fontes de dados
  3. Aumentar as janelas de contexto do LLM pode tornar desnecessárias as abordagens baseadas em RAG
  4. Construir um agente é excepcionalmente complexo e específico para cada caso de uso
  5. As melhores práticas neste espaço estão em sua infância
  6. O treinamento e o ajuste fino dos LLMs podem se tornar menos críticos à medida que o custo e a qualidade do modelo melhoram


Dados esses fatores, eu me sentiria desconfortável em construir algo que pode rapidamente se tornar obsoleto.


Valor imediato

O PromptDesk é dissociado de LLMs comerciais, permitindo integração rápida com qualquer API LLM sem esperar que equipes ou colaboradores construam essas integrações. O PromptDesk também é independente de fornecedor e pode ser hospedado internamente. Esta flexibilidade é crucial, uma vez que se espera que as considerações de privacidade dos dados e a complexidade das futuras aplicações de IA aumentem exponencialmente com o desenvolvimento de agentes de IA.


O objetivo do PromptDesk não é ser um aplicativo de IA abrangente. Em vez disso, ele foi projetado para se destacar em uma coisa: desenvolvimento baseado em prompt .


O PromptDesk visa fornecer um valor incomparável aos seus usuários, concentrando-se nesta funcionalidade central.


Integre imediatamente um número ilimitado de modelos LLM usando blocos de código simples e um assistente de adição de modelo.


Exemplos de verdadeiro sucesso

Desde a implementação do PromptDesk, experimentei uma aceleração significativa na velocidade de desenvolvimento e engenharia, tanto no trabalho quanto em projetos paralelos. Amigos e colegas que utilizaram o projeto também expressaram seu apreço pela forma como ele facilitou seu rápido processo de engenharia.


Revise, edite, modifique e gere novamente dados de prompt em grande escala para acelerar a otimização e o ajuste fino.


Como funciona

Instalando (imagem Docker)

O PromptDesk foi criado para começar em menos de 5 minutos. Nosso script de instalação de 2 linhas pode executar uma instalação de desenvolvimento local ou remota com um nome de domínio/subdomínio (SSL). Nosso Guia de início rápido fornece mais informações.

Configurar

 from promptdesk import PromptDesk # PromptDesk is only available as a self-hosted Docker image pd = PromptDesk( api_key="YOUR_LOCAL_OR_SELF_HOSTED_PROMPTDESK_API_KEY", service_url="http://localhost" ) # Check if the PromptDesk service is up and running! print(pd.ping())

Geração de prompt

 # Generate text immediately story = pd.generate("short-story", { "setting": "dark and stormy night", "character": "lonely farmer", "plot": "visited by a stranger" }) print(story)

Classificação e cache

 # Built-in Classification isHappy = pd.generate("is_positive", { "text": text }, classification={ True: ["positive", "happy", "yes"], False: ["negative", "sad", "no"] }, cache=True) if isHappy: print("I'm happy!") else: print("I'm sad!")


Para sua consideração

Se você acredita que o PromptDesk pode aprimorar seu fluxo de trabalho de desenvolvimento baseado em prompt, convido você a experimentá-lo em github.com/promptdesk/promptdesk .


Seu apoio como estrela do GitHub ⭐ seria muito apreciado!


Obrigado,


Justino




Em um cenário de IA caracterizado por mudanças rápidas e expansão muitas vezes prematura, o PromptDesk visa fornecer uma solução estável, focada e verdadeiramente de código aberto para desenvolvimento imediato. Junte-se a nós em nossa missão de simplificar e acelerar a criação de aplicações inovadoras de IA.