paint-brush
NhắcDesk: Đơn giản hóa việc quản lý lời nhắc trong bối cảnh AI phát triển nhanh chóngtừ tác giả@justinmacorin
166 lượt đọc

NhắcDesk: Đơn giản hóa việc quản lý lời nhắc trong bối cảnh AI phát triển nhanh chóng

từ tác giả Justin Macorin3m2024/04/03
Read on Terminal Reader

dài quá đọc không nổi

Quản lý kịp thời hiệu quả là chìa khóa thành công trong thị trường AI đang phát triển nhanh chóng ngày nay. Khả năng nhanh chóng xây dựng, lặp lại và sắp xếp các lời nhắc của chúng tôi là điều bắt buộc để tạo ra giá trị cho doanh nghiệp và khách hàng.
featured image - NhắcDesk: Đơn giản hóa việc quản lý lời nhắc trong bối cảnh AI phát triển nhanh chóng
Justin Macorin HackerNoon profile picture
0-item


Tại sao tôi bắt đầu nhắc nhở

Với tư cách là kỹ sư Machine Learning tại Seismic, nền tảng hỗ trợ tiếp thị và bán hàng được hỗ trợ bởi AI hàng đầu thế giới, tôi đã tận mắt chứng kiến tốc độ đáng kinh ngạc mà thị trường AI đang phát triển. Sự phát triển nhanh chóng này, cùng với sự cường điệu và nhầm lẫn của thị trường, đã truyền cảm hứng cho tôi tạo ra NhắcDesk, một dự án nguồn mở 100% để hợp lý hóa việc phát triển dựa trên lời nhắc.


Thiết kế, tinh chỉnh và đánh giá lời nhắc của bạn bằng giao diện thân thiện với người dùng với số lượng mô hình không giới hạn.


Tập trung vào một nhiệm vụ, rất tốt

Mục tiêu chính của NhắcDesk là đóng vai trò là thành phần nền tảng cho hầu hết công việc phát triển LLM và dựa trên lời nhắc của tôi. Trong ngành có nhịp độ phát triển nhanh này, khả năng sắp xếp lời nhắc một cách hiệu quả của chúng ta là điều bắt buộc. Lời nhắc phải được xây dựng và lặp lại nhanh chóng để chúng tôi có thể tập trung vào đổi mới và tạo ra giá trị cho doanh nghiệp và khách hàng.


Truy cập nhật ký chi tiết về hiệu suất của lời nhắc, yêu cầu API thô, phản hồi, mã thông báo để tăng tốc độ gỡ lỗi và khắc phục sự cố.


Điều hướng cảnh quan đông đúc và mở rộng sớm

Không gian quản lý nhanh chóng rất đông đúc, với nhiều người chơi mở rộng sang RAG, Đặc vụ, đào tạo/tinh chỉnh LLM và các lĩnh vực khác.


Tuy nhiên, quan điểm của tôi là việc mở rộng này là quá sớm vì một số lý do:

  1. RAG là một quy trình dành riêng cho từng trường hợp sử dụng đầy thách thức đối với nhiều tổ chức
  2. RAG có yêu cầu tích hợp phức tạp và nhu cầu nguồn dữ liệu đa dạng
  3. Việc tăng cửa sổ ngữ cảnh LLM có thể khiến các phương pháp tiếp cận dựa trên RAG trở nên không cần thiết
  4. Xây dựng một Đại lý đặc biệt phức tạp và dành riêng cho từng trường hợp sử dụng
  5. Các phương pháp hay nhất trong không gian này đang ở giai đoạn sơ khai
  6. Việc đào tạo và tinh chỉnh LLM có thể trở nên ít quan trọng hơn khi chi phí và chất lượng mô hình được cải thiện


Với những yếu tố này, tôi sẽ cảm thấy không thoải mái khi xây dựng một thứ gì đó có thể nhanh chóng trở nên lỗi thời.


Giá trị tức thời

NhắcDesk được tách rời khỏi LLM thương mại, cho phép tích hợp nhanh chóng với bất kỳ API LLM nào mà không cần chờ nhóm hoặc người đóng góp xây dựng các tích hợp đó. NhắcDesk cũng không phụ thuộc vào nhà cung cấp và có thể được lưu trữ nội bộ. Tính linh hoạt này rất quan trọng vì những cân nhắc về quyền riêng tư dữ liệu và độ phức tạp của các ứng dụng AI trong tương lai dự kiến sẽ tăng theo cấp số nhân cùng với sự phát triển của các tác nhân AI.


Mục tiêu của NhắcDesk không phải là một ứng dụng AI toàn diện. Thay vào đó, nó được thiết kế để vượt trội ở một thứ: phát triển dựa trên lời nhắc .


NhắcDesk nhằm mục đích cung cấp giá trị tuyệt vời cho người dùng bằng cách tập trung vào chức năng cốt lõi này.


Tích hợp ngay lập tức với số lượng mô hình LLM không giới hạn bằng cách sử dụng các khối mã đơn giản và trình hướng dẫn thêm mô hình.


Ví dụ về thành công thực sự

Kể từ khi triển khai NhắcDesk, tôi đã trải qua sự tăng tốc đáng kể về tốc độ phát triển và kỹ thuật, cả trong công việc và các dự án phụ. Bạn bè và đồng nghiệp đã sử dụng dự án cũng bày tỏ sự đánh giá cao về cách nó đã tạo điều kiện thuận lợi cho quá trình kỹ thuật nhanh chóng của họ.


Xem xét, chỉnh sửa, sửa đổi và tạo lại dữ liệu nhắc nhở ở quy mô lớn để tăng tốc độ tối ưu hóa và tinh chỉnh.


Làm thế nào nó hoạt động

Đang cài đặt (hình ảnh Docker)

NhắcDesk được xây dựng để bắt đầu trong vòng chưa đầy 5 phút. Tập lệnh cài đặt 2 dòng của chúng tôi có thể thực thi cài đặt phát triển cục bộ hoặc từ xa bằng tên miền/tên miền phụ (SSL). Hướng dẫn bắt đầu nhanh của chúng tôi cung cấp thêm thông tin.

Cài đặt

 from promptdesk import PromptDesk # PromptDesk is only available as a self-hosted Docker image pd = PromptDesk( api_key="YOUR_LOCAL_OR_SELF_HOSTED_PROMPTDESK_API_KEY", service_url="http://localhost" ) # Check if the PromptDesk service is up and running! print(pd.ping())

Tạo lời nhắc

 # Generate text immediately story = pd.generate("short-story", { "setting": "dark and stormy night", "character": "lonely farmer", "plot": "visited by a stranger" }) print(story)

Phân loại và lưu trữ

 # Built-in Classification isHappy = pd.generate("is_positive", { "text": text }, classification={ True: ["positive", "happy", "yes"], False: ["negative", "sad", "no"] }, cache=True) if isHappy: print("I'm happy!") else: print("I'm sad!")


Để bạn cân nhắc

Nếu bạn tin rằng NhắcDesk có thể nâng cao quy trình phát triển dựa trên lời nhắc của bạn, tôi mời bạn dùng thử tại github.com/promptdesk/promptdesk .


Sự hỗ trợ của bạn với tư cách là ngôi sao GitHub ⭐ sẽ được đánh giá rất cao!


Cảm ơn,


Justin




Trong bối cảnh AI được đặc trưng bởi sự thay đổi nhanh chóng và thường mở rộng sớm, NhắcDesk đặt mục tiêu cung cấp giải pháp nguồn mở ổn định, tập trung và thực sự để phát triển dựa trên thời gian. Hãy tham gia cùng chúng tôi trong sứ mệnh đơn giản hóa và tăng tốc việc tạo ra các ứng dụng AI sáng tạo.