NhắcDesk: Đơn giản hóa việc quản lý lời nhắc trong bối cảnh AI phát triển nhanh chóng

Tại sao tôi bắt đầu nhắc nhở

Với tư cách là kỹ sư Machine Learning tại Seismic, nền tảng hỗ trợ tiếp thị và bán hàng được hỗ trợ bởi AI hàng đầu thế giới, tôi đã tận mắt chứng kiến tốc độ đáng kinh ngạc mà thị trường AI đang phát triển. Sự phát triển nhanh chóng này, cùng với sự cường điệu và nhầm lẫn của thị trường, đã truyền cảm hứng cho tôi tạo ra NhắcDesk, một dự án nguồn mở 100% để hợp lý hóa việc phát triển dựa trên lời nhắc.

Tập trung vào một nhiệm vụ, rất tốt

Mục tiêu chính của NhắcDesk là đóng vai trò là thành phần nền tảng cho hầu hết công việc phát triển LLM và dựa trên lời nhắc của tôi. Trong ngành có nhịp độ phát triển nhanh này, khả năng sắp xếp lời nhắc một cách hiệu quả của chúng ta là điều bắt buộc. Lời nhắc phải được xây dựng và lặp lại nhanh chóng để chúng tôi có thể tập trung vào đổi mới và tạo ra giá trị cho doanh nghiệp và khách hàng.

Điều hướng cảnh quan đông đúc và mở rộng sớm

Không gian quản lý nhanh chóng rất đông đúc, với nhiều người chơi mở rộng sang RAG, Đặc vụ, đào tạo/tinh chỉnh LLM và các lĩnh vực khác.

Tuy nhiên, quan điểm của tôi là việc mở rộng này là quá sớm vì một số lý do:

1. RAG là một quy trình dành riêng cho từng trường hợp sử dụng đầy thách thức đối với nhiều tổ chức
2. RAG có yêu cầu tích hợp phức tạp và nhu cầu nguồn dữ liệu đa dạng
3. Việc tăng cửa sổ ngữ cảnh LLM có thể khiến các phương pháp tiếp cận dựa trên RAG trở nên không cần thiết
4. Xây dựng một Đại lý đặc biệt phức tạp và dành riêng cho từng trường hợp sử dụng
5. Các phương pháp hay nhất trong không gian này đang ở giai đoạn sơ khai
6. Việc đào tạo và tinh chỉnh LLM có thể trở nên ít quan trọng hơn khi chi phí và chất lượng mô hình được cải thiện

Với những yếu tố này, tôi sẽ cảm thấy không thoải mái khi xây dựng một thứ gì đó có thể nhanh chóng trở nên lỗi thời.

Giá trị tức thời

NhắcDesk được tách rời khỏi LLM thương mại, cho phép tích hợp nhanh chóng với bất kỳ API LLM nào mà không cần chờ nhóm hoặc người đóng góp xây dựng các tích hợp đó. NhắcDesk cũng không phụ thuộc vào nhà cung cấp và có thể được lưu trữ nội bộ. Tính linh hoạt này rất quan trọng vì những cân nhắc về quyền riêng tư dữ liệu và độ phức tạp của các ứng dụng AI trong tương lai dự kiến sẽ tăng theo cấp số nhân cùng với sự phát triển của các tác nhân AI.

Mục tiêu của NhắcDesk không phải là một ứng dụng AI toàn diện. Thay vào đó, nó được thiết kế để vượt trội ở một thứ: phát triển dựa trên lời nhắc .

NhắcDesk nhằm mục đích cung cấp giá trị tuyệt vời cho người dùng bằng cách tập trung vào chức năng cốt lõi này.

Ví dụ về thành công thực sự

Kể từ khi triển khai NhắcDesk, tôi đã trải qua sự tăng tốc đáng kể về tốc độ phát triển và kỹ thuật, cả trong công việc và các dự án phụ. Bạn bè và đồng nghiệp đã sử dụng dự án cũng bày tỏ sự đánh giá cao về cách nó đã tạo điều kiện thuận lợi cho quá trình kỹ thuật nhanh chóng của họ.

Làm thế nào nó hoạt động

Đang cài đặt (hình ảnh Docker)

NhắcDesk được xây dựng để bắt đầu trong vòng chưa đầy 5 phút. Tập lệnh cài đặt 2 dòng của chúng tôi có thể thực thi cài đặt phát triển cục bộ hoặc từ xa bằng tên miền/tên miền phụ (SSL). Hướng dẫn bắt đầu nhanh của chúng tôi cung cấp thêm thông tin.

Cài đặt

 from promptdesk import PromptDesk # PromptDesk is only available as a self-hosted Docker image pd = PromptDesk( api_key="YOUR_LOCAL_OR_SELF_HOSTED_PROMPTDESK_API_KEY", service_url="http://localhost" ) # Check if the PromptDesk service is up and running! print(pd.ping())

Tạo lời nhắc

 # Generate text immediately story = pd.generate("short-story", { "setting": "dark and stormy night", "character": "lonely farmer", "plot": "visited by a stranger" }) print(story)

Phân loại và lưu trữ

 # Built-in Classification isHappy = pd.generate("is_positive", { "text": text }, classification={ True: ["positive", "happy", "yes"], False: ["negative", "sad", "no"] }, cache=True) if isHappy: print("I'm happy!") else: print("I'm sad!")

Để bạn cân nhắc

Nếu bạn tin rằng NhắcDesk có thể nâng cao quy trình phát triển dựa trên lời nhắc của bạn, tôi mời bạn dùng thử tại github.com/promptdesk/promptdesk .

Sự hỗ trợ của bạn với tư cách là ngôi sao GitHub ⭐ sẽ được đánh giá rất cao!

Cảm ơn,

Justin

Trong bối cảnh AI được đặc trưng bởi sự thay đổi nhanh chóng và thường mở rộng sớm, NhắcDesk đặt mục tiêu cung cấp giải pháp nguồn mở ổn định, tập trung và thực sự để phát triển dựa trên thời gian. Hãy tham gia cùng chúng tôi trong sứ mệnh đơn giản hóa và tăng tốc việc tạo ra các ứng dụng AI sáng tạo.