paint-brush
PromptDesk:在快速发展的人工智能环境中简化提示管理经过@justinmacorin
168 讀數

PromptDesk:在快速发展的人工智能环境中简化提示管理

经过 Justin Macorin3m2024/04/03
Read on Terminal Reader

太長; 讀書

有效的提示管理是当今快速发展的人工智能市场取得成功的关键。我们快速构建、迭代和组织提示的能力对于为企业和客户创造价值至关重要。
featured image - PromptDesk:在快速发展的人工智能环境中简化提示管理
Justin Macorin HackerNoon profile picture
0-item


我为什么创办 PromptDesk

作为 Seismic(全球领先的 AI 驱动销售和营销支持平台)的机器学习工程师,我亲眼目睹了 AI 市场发展速度之快。这种快速发展,加上市场炒作和混乱,促使我创建了 PromptDesk,这是一个 100% 开源项目,旨在简化基于提示的开发。


使用具有无限数量模型的用户友好界面来设计、微调和评估您的提示。


专注于一项任务,非常好

PromptDesk 的主要目标是成为我大部分 LLM 和基于提示的开发工作的基础组件。在这个快节奏的行业中,我们有效组织提示的能力至关重要。提示应该能够快速构建和迭代,这样我们才能专注于创新并为企业和客户创造价值。


访问提示性能、原始 API 请求、响应、令牌的详细日志,以加速调试和故障排除。


在拥挤的市场格局和过早扩张中前行

提示管理领域竞争激烈,许多参与者扩展到 RAG、代理、LLM 培训/微调和其他领域。


然而,我认为这种扩张为时过早,原因如下:

  1. 对于许多组织来说,RAG 是一个具有挑战性的用例特定过程
  2. RAG具有复杂的集成要求和多样化的数据源需求
  3. 增加 LLM 上下文窗口可能会使基于 RAG 的方法变得不再必要
  4. 构建代理非常复杂,并且针对具体用例
  5. 该领域的最佳实践尚处于起步阶段
  6. 随着模型成本和质量的提高,训练和微调 LLM 可能变得不那么重要


考虑到这些因素,我会觉得建造一些可能很快就会过时的东西很不舒服。


直接价值

PromptDesk 与商业 LLM 分离,允许快速集成任何 LLM API,而无需等待团队或贡献者构建这些集成。PromptDesk 还与供应商无关,并且可以内部托管。这种灵活性至关重要,因为随着 AI 代理的发展,数据隐私考虑和未来 AI 应用程序的复杂性预计将呈指数级增长。


PromptDesk 的目标并不是成为一款包罗万象的 AI 应用。相反,它旨在擅长一件事:基于提示的开发


PromptDesk 旨在通过专注于这一核心功能为用户提供无与伦比的价值。


使用简单的代码块和模型添加向导立即与无限数量的 LLM 模型集成。


真正的成功案例

自从实施 PromptDesk 以来,无论是在工作中还是在业余项目中,我的开发和工程速度都得到了显著的提升。使用过该项目的朋友和同事也对该项目如何促进他们的快速工程流程表示赞赏。


大规模审查、编辑、修改和重新生成提示数据,以加速优化和微调。


怎么运行的

安装(Docker 镜像)

PromptDesk 的构建旨在让您在 5 分钟内开始使用。我们的 2 行安装脚本可以使用域/子域名 (SSL) 执行本地或远程开发安装。我们的快速入门指南提供了更多信息。

设置

from promptdesk import PromptDesk # PromptDesk is only available as a self-hosted Docker image pd = PromptDesk( api_key="YOUR_LOCAL_OR_SELF_HOSTED_PROMPTDESK_API_KEY", service_url="http://localhost" ) # Check if the PromptDesk service is up and running! print(pd.ping())

提示生成

# Generate text immediately story = pd.generate("short-story", { "setting": "dark and stormy night", "character": "lonely farmer", "plot": "visited by a stranger" }) print(story)

分类和缓存

# Built-in Classification isHappy = pd.generate("is_positive", { "text": text }, classification={ True: ["positive", "happy", "yes"], False: ["negative", "sad", "no"] }, cache=True) if isHappy: print("I'm happy!") else: print("I'm sad!")


供您参考

如果您认为 PromptDesk 可以增强您的基于提示的开发工作流程,我邀请您访问github.com/promptdesk/promptdesk尝试一下。


我们将非常感激您作为 GitHub 明星 ⭐ 的支持!


谢谢你,


贾斯汀




在快速变化且扩张速度往往过快的 AI 领域,PromptDesk 旨在为即时开发提供稳定、专注且真正开源的解决方案。加入我们的使命,简化和加速创新 AI 应用程序的创建。