paint-brush
PromptDesk: упрощение оперативного управления в быстро развивающейся среде искусственного интеллектак@justinmacorin
235 чтения

PromptDesk: упрощение оперативного управления в быстро развивающейся среде искусственного интеллекта

к Justin Macorin3m2024/04/03
Read on Terminal Reader

Слишком долго; Читать

Эффективное оперативное управление является ключом к успеху на современном быстро развивающемся рынке искусственного интеллекта. Наша способность быстро создавать, повторять и организовывать подсказки необходима для создания ценности для бизнеса и клиентов.
featured image - PromptDesk: упрощение оперативного управления в быстро развивающейся среде искусственного интеллекта
Justin Macorin HackerNoon profile picture
0-item


Почему я запустил PromptDesk

Будучи инженером по машинному обучению в Seismic, ведущей в мире платформе продаж и маркетинга на основе искусственного интеллекта, я своими глазами наблюдал невероятные темпы развития рынка искусственного интеллекта. Эта быстрая эволюция в сочетании с ажиотажем и неразберихой на рынке вдохновила меня на создание PromptDesk, проекта со 100% открытым исходным кодом для оптимизации разработки на основе подсказок.


Создавайте, настраивайте и оценивайте свои подсказки, используя удобный интерфейс с неограниченным количеством моделей.


Сосредоточьтесь на одной задаче, очень хорошо

Основная цель PromptDesk — служить основополагающим компонентом для большей части моей работы по LLM и разработке на основе подсказок. В этой быстро развивающейся отрасли наша способность эффективно организовывать подсказки имеет решающее значение. Подсказки должны быстро создаваться и повторяться, чтобы мы могли сосредоточиться на инновациях и создании ценности для бизнеса и клиентов.


Получите доступ к подробным журналам производительности вашего приглашения, необработанным запросам API, ответам и токенам для ускорения отладки и устранения неполадок.


Навигация по перенаселенному ландшафту и преждевременное расширение

Пространство оперативного управления переполнено, и многие игроки расширяют свою деятельность в области RAG, Agent, обучения/тонкой настройки LLM и других областей.


Однако я считаю, что такое расширение преждевременно по нескольким причинам:

  1. RAG — это сложный процесс, ориентированный на конкретный вариант использования, для многих организаций.
  2. RAG имеет сложные требования к интеграции и разнообразные потребности в источниках данных.
  3. Увеличение контекстных окон LLM может сделать ненужными подходы на основе RAG.
  4. Создание агента является исключительно сложной задачей и зависит от конкретного случая использования.
  5. Лучшие практики в этой сфере находятся в зачаточном состоянии.
  6. Обучение и тонкая настройка LLM могут стать менее важными по мере улучшения стоимости и качества модели.


Учитывая эти факторы, мне было бы неудобно создавать что-то, что может быстро устареть.


Непосредственная ценность

PromptDesk отделен от коммерческих LLM, что позволяет быстро интегрироваться с любым API LLM, не дожидаясь, пока команды или участники создадут эту интеграцию. PromptDesk также не зависит от поставщика и может размещаться внутри компании. Эта гибкость имеет решающее значение, поскольку ожидается, что вопросы конфиденциальности данных и сложность будущих приложений ИИ будут расти в геометрической прогрессии с развитием агентов ИИ.


Цель PromptDesk — не стать всеобъемлющим приложением для искусственного интеллекта. Вместо этого он предназначен для того, чтобы преуспеть в одном: разработка на основе подсказок .


PromptDesk стремится предоставить своим пользователям беспрецедентную ценность, сосредоточив внимание на этой основной функциональности.


Немедленная интеграция с неограниченным количеством моделей LLM с помощью простых блоков кода и мастера добавления моделей.


Примеры настоящего успеха

После внедрения PromptDesk я заметил значительное ускорение разработки и разработки как на работе, так и в сторонних проектах. Друзья и коллеги, воспользовавшиеся этим проектом, также выразили признательность за то, как он облегчил им быстрый процесс проектирования.


Просматривайте, редактируйте, изменяйте и восстанавливайте данные подсказок в больших масштабах для ускорения оптимизации и точной настройки.


Как это работает

Установка (образ Docker)

PromptDesk создан для того, чтобы начать работу менее чем за 5 минут. Наш двухстрочный сценарий установки может выполнить локальную или удаленную установку для разработки с использованием имени домена/субдомена (SSL). Наше краткое руководство содержит дополнительную информацию.

Настраивать

 from promptdesk import PromptDesk # PromptDesk is only available as a self-hosted Docker image pd = PromptDesk( api_key="YOUR_LOCAL_OR_SELF_HOSTED_PROMPTDESK_API_KEY", service_url="http://localhost" ) # Check if the PromptDesk service is up and running! print(pd.ping())

Быстрое создание

 # Generate text immediately story = pd.generate("short-story", { "setting": "dark and stormy night", "character": "lonely farmer", "plot": "visited by a stranger" }) print(story)

Классификация и кэширование

 # Built-in Classification isHappy = pd.generate("is_positive", { "text": text }, classification={ True: ["positive", "happy", "yes"], False: ["negative", "sad", "no"] }, cache=True) if isHappy: print("I'm happy!") else: print("I'm sad!")


На ваше рассмотрение

Если вы считаете, что PromptDesk может улучшить ваш рабочий процесс разработки на основе подсказок, я приглашаю вас попробовать его на github.com/promptdesk/promptdesk .


Ваша поддержка как звезды GitHub ⭐ будет очень признательна!


Спасибо,


Джастин




В среде искусственного интеллекта, характеризующейся быстрыми изменениями и зачастую преждевременным расширением, PromptDesk стремится предоставить стабильное, целенаправленное решение с открытым исходным кодом для оперативной разработки. Присоединяйтесь к нам в нашей миссии по упрощению и ускорению создания инновационных приложений искусственного интеллекта.