Các ứng dụng Generative AI (   ) xây dựng bối cảnh chính xác và tránh ảo giác phải được cung cấp bởi dữ liệu mới, thời gian thực từ nhiều nguồn khác nhau. Nhưng điều này đặt ra một thách thức đáng kể đối với các nhà phát triển: làm thế nào để xây dựng các ứng dụng sẵn sàng sản xuất một cách nhanh chóng và tự tin bằng cách sử dụng các loại dữ liệu đa dạng: luồng dữ liệu được vectơ hóa, không vectơ và luồng sự kiện. Gen AI  Chúng tôi  một phần quan trọng trong việc giải quyết vấn đề này khi chúng tôi thêm khả năng tìm kiếm vectơ vào  , được thiết kế để tìm kiếm và cập nhật đồng thời trên dữ liệu phân tán và khối lượng công việc phát trực tuyến với độ trễ cực thấp, cũng như các kết quả vectơ có liên quan cao giúp loại bỏ sự dư thừa.   công bố gần đây   DataStax Astra DB  Giờ đây, chúng tôi đã thực hiện một bước quan trọng khác với việc giới thiệu LangStream, một dự án nguồn mở mới kết hợp những kiến trúc tốt nhất dựa trên sự kiện với các công nghệ Gen AI mới nhất. LangStream giúp dễ dàng điều phối dữ liệu từ nhiều nguồn khác nhau nhằm tạo ra lời nhắc chất lượng cao cho các mô hình ngôn ngữ lớn (LLM)—giúp việc xây dựng các ứng dụng AI trong thế giới thực có khả năng mở rộng, sẵn sàng sản xuất trên nhiều loại dữ liệu trở nên đơn giản hơn nhiều .  (Để tìm hiểu kỹ hơn về LangStream,  .)   đọc bài blog này  Tại sao lại là LangStream?  Nếu bạn làm việc trong lĩnh vực công nghệ, bạn sẽ biết rõ rằng Gen AI bao gồm những công nghệ đột phá nhất đang định hình thế giới của chúng ta -- và kéo theo đó là vô số thách thức mới. Đầu tiên, làm cách nào các nhà phát triển có thể nhanh chóng biến các khái niệm Gen AI của họ thành các ứng dụng trong thế giới thực? Và không chỉ bất kỳ ứng dụng nào, mà cả những ứng dụng khai thác sức mạnh của kiến trúc hướng sự kiện và có thể cung cấp phản hồi tức thời, do AI điều khiển cho người dùng theo những cách tưởng chừng như khoa học viễn tưởng một hoặc hai năm trước.  LangStream kết nối các hệ thống phát trực tuyến, dựa trên sự kiện với khả năng của Gen AI để tạo ra nội dung mới từ mọi loại dữ liệu, cả độc quyền và công khai, giúp đẩy nhanh thời gian các nhà phát triển đưa ứng dụng AI vào sản xuất. Cho dù bạn đang chuyển từ cài đặt cục bộ sang môi trường sản xuất hay tích hợp các tác vụ phức tạp như gửi dữ liệu đến cơ sở dữ liệu vectơ như Astra DB, tất cả đều được sắp xếp hợp lý.  LangStream + Astra DB: Kết hợp liền mạch dữ liệu phát trực tuyến với Gen AI  Trọng tâm của bất kỳ ứng dụng Gen AI nào là   . Hiệu quả của LLM phụ thuộc rất nhiều vào lời nhắc, về cơ bản là đầu vào theo ngữ cảnh kích hoạt AI. Bối cảnh này thường xuất phát từ dữ liệu đã có trong hệ thống của tổ chức, cho dù trong bộ nhớ đệm, cơ sở dữ liệu hay nền tảng phát trực tuyến. Đó là lúc LangStream tỏa sáng và cơ sở dữ liệu vectơ như Astra DB trở nên thiết yếu. LLM  Hãy tưởng tượng: Bạn cần thực hiện tìm kiếm ngữ nghĩa trong cơ sở dữ liệu vectơ như Astra DB. Trước đó, dữ liệu của bạn – bất kể nó đến từ đâu – cần phải được chuyển đổi thành vectơ bằng mô hình nhúng. Với LangStream, quy trình phức tạp này được rút gọn thành một tệp YAML đơn giản xác định đường dẫn dữ liệu.  Sau đó, tất cả các vectơ này được lưu trữ trong cơ sở dữ liệu Astra DB, được xây dựng trên Apache Cassandra®. Astra DB cung cấp cho các nhà phát triển một cách liền mạch để trích xuất bối cảnh có liên quan từ khối lượng lớn dữ liệu, sẵn sàng đưa vào LLM. Việc tích hợp LangStream và Astra DB đặc biệt hữu ích để xây dựng các lời nhắc chất lượng cao, giúp các tương tác Gen AI trở nên trực quan và hiệu quả hơn.  Sự dễ dàng kết nối và đồng bộ hóa tất cả dữ liệu của bạn một cách dễ dàng cũng mở rộng đến việc điền vào cơ sở dữ liệu vectơ. Để minh họa, hãy xem xét một tình huống trong đó bạn đang hợp nhất dữ liệu hành vi của người dùng theo thời gian thực với các phân tích lịch sử. Ví dụ: trong ứng dụng bán lẻ, bạn có thể muốn liên kết một vài lần nhấp chuột cuối cùng vào sản phẩm trong phiên với các tùy chọn lịch sử như mức giá phù hợp và tùy chọn phạm vi giá cho người dùng này để cung cấp các đề xuất hữu ích có liên quan trong phiên   . này  Với khả năng của LangStream trong Astra DB, hoạt động từng phức tạp này chỉ cần thực hiện bằng vài cú nhấp chuột. Xem ví dụ về hoạt động tích hợp này bằng cách xem phần trình diễn này:   https://www.youtube.com/watch?v=qqsFnD63DBo&embedable=true  Với LangStream và cơ sở dữ liệu vectơ Astra DB, các nhà phát triển ứng dụng hiện được trang bị:    Nhanh chóng biến các khái niệm Gen AI thành nguyên mẫu và sau đó thành các ứng dụng ở cấp độ sản xuất. Tạo mẫu nhanh    kết hợp liền mạch Gen AI với truyền dữ liệu, giúp ứng dụng trở nên năng động hơn. Kiến trúc hướng sự kiện    Đi sâu vào hệ sinh thái nguồn mở của LangStream, với khả năng tùy chỉnh bằng Python. Tính linh hoạt của nguồn mở    Sử dụng các tính năng tích hợp để tích hợp với nhiều dịch vụ, bao gồm   và  Tích hợp dễ dàng với các dịch vụ phổ biến OpenAI, Hugging Face Google Vertex AI.  Bạn sẽ xây dựng cái gì?  Chúng tôi tin rằng cơ sở dữ liệu không chỉ là một giải pháp lưu trữ. Nó phải là một nền tảng cho phép các nhà phát triển sáng tạo, đổi mới và mở rộng quy mô. Bằng cách kết hợp cơ sở dữ liệu vectơ như Astra DB vào các tác nhân LangStream, chúng tôi đảm bảo rằng các nhà phát triển ứng dụng có các công cụ cần thiết để dễ dàng kết nối các loại dữ liệu khác nhau với cơ sở dữ liệu vectơ. Điều này không chỉ hợp lý hóa các hoạt động dữ liệu mà còn mở đường cho các ứng dụng phong phú hơn, năng động hơn.  Hãy là một phần của hành trình biến đổi này. Thủ tục thanh toán  Hôm nay.   Suối Lang   Bởi Tiến sĩ Charna Parkey, DataStax  Cũng được xuất bản ở đây.

This writer has a vested interest be it monetary, business, or otherwise, with 1 or more of the products or companies mentioned within.

This is a PR written by or for the company mentioned within it. The writer has a vested interest in the company and products mentioned within.

DataStax Astra DB is the vector database for getting GenAI apps into production, fast. Try it for free today!

DataStax

Nghe bài viết này bằng Tiếng Anh, đọc bởi robot thông minh của HackerNoon

Giới thiệu LangStream: Giải pháp nguồn mở để tích hợp dữ liệu trong ứng dụng GenAI

About Author

BÌNH LUẬN

chuyên mục

BÀI VIẾT NÀY CŨNG CÓ MẶT TẠI

Related Stories

85 Stories To Learn About Travel

240 Stories To Learn About Astounding Stories

85 Stories To Learn About Productivity Hacks

178 Stories To Learn About Essay

85 Stories To Learn About Travel

240 Stories To Learn About Astounding Stories

85 Stories To Learn About Productivity Hacks

178 Stories To Learn About Essay

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps