Üretken yapay zeka uygulamalarının geliştirilmesi  (RAG) ve vektör veritabanları zorlayıcı olabilir. İlgili bağlamın alındığından emin olmak için vektör veritabanlarına dayanan RAG uygulamalarında sıklıkla sorun gidermeniz gerekecektir; bu kritiktir, çünkü bu bağlam daha sonra daha doğru sonuçlar sağlamak için büyük bir dil modeline yönelik bir istemde yer alır.   artırılmış nesil alma    ,  kötü sonuçlara yol açabilecek üç alanı değerlendirdi: optimal olmayan yerleştirme modelleri, verimsiz parçalama stratejileri ve meta veri filtreleme eksikliği. Bu serideki önceki makalede   vektör veritabanı  Burada, Yüksek Lisans ile gerçek etkileşime bakacağız ve kötü sonuçlara yol açabilecek birkaç yaygın sorunu inceleyeceğiz: belirsiz yönlendirmeler ve yetersiz üretim yaklaşımları.  Hızlı ayrıntılandırma  En iyi yerleştirme ve parçalama stratejileri bile kalite ihtiyacının yerini alamaz  . Bu, istemlerin daha açık, spesifik ve amaçlanan çıktıyla uyumlu hale getirilmesini içerir. RAG sürecine ince ayar yapmak için çeşitli bilgi istemi formatları, uzunlukları ve sözcük seçimleri test edilmelidir.    hızlı mühendislik  Özellikle RAG uygulamalarına yönelik istemlerinizi oluştururken göz önünde bulundurmanız gereken birkaç nokta vardır. Bunlar şunları içerir:    ChatGPT gibi Yüksek Lisans temsilcileriyle etkileşimde bulunurken, varsayılan olarak yardımcı bir sohbet robotu gibi davranacaklardır. Ancak LLM'ye belirli bir şekilde hareket etmesi talimatını vererek oluşturulacak yanıtların doğasını değiştirebilirsiniz. Örnekler arasında "taraflardan herhangi birinin bir anlaşmayı ihlal edip etmediğini değerlendiren bir avukatsınız" veya "bir internet servis sağlayıcısının müşteri hizmetleri temsilcisisiniz; göreviniz insanların internet sorunlarını gidermelerine yardımcı olmaktır” veya sizin özel durumunuz için anlamlı olan her neyse. Yüksek Lisans'a rolünü söyleyin:    : Yüksek Lisans'a bağlam sağladığınızı ve oluşturulan yanıtın bu bağlamı yansıtmasını istediğinizi açıkça belirtin. Bunu, "cevabınız aşağıdaki bağlamı dikkate almalıdır" gibi bir şey söyleyerek ve ardından bağlamı söyleyerek yapabilirsiniz. Örnekleri kullanın: Az önce bahsedilen LLM'den sözleşmeleri değerlendiren bir avukat olarak hareket etmesini isteme senaryosunda, bilgi istemine birkaç örnek eklemek isteyebilirsiniz. Örneğin, ödemenin 30 gün içinde yapılacağını ancak alıcının ödemeyi sözleşmenin imzalanmasından 40 gün sonra göndermediğini ve dolayısıyla sözleşmeyi ihlal ettiğini belirten bir sözleşme örneği verebilirsiniz. Sözleşme ihlallerini gidermeye yönelik haklara ve olası çözüm yollarına ilişkin ek örnekler sağlayabilirsiniz. Yüksek Lisans'a sağlanan bağlamı kullanmasını açıkça söyleyin    Kullanım durumunuz belirli bir çıktı gerektiriyorsa, oluşturulan çıktının uyması gereken formatı belirtebilirsiniz. LLM'ye hem nasıl yanıt vermesini istediğinizi, hem de oluşturulan yanıtta beklediğiniz önemli bilgi noktalarını açıklığa kavuşturmak için örnekler sağlamak amacıyla bu tekniği yukarıdaki ipucuyla birleştirebilirsiniz. Çıkış formatını belirtin:    : Uygun yanıtı belirlemek için akıl yürütmenin dahil olduğu kullanım durumları için, LLM'nin oluşturulan bir yanıta ulaşmak için izlemesini istediğiniz adımları açıklamaya yardımcı olması amacıyla   adı verilen bir teknik kullanmayı düşünebilirsiniz. Örneğin, yasal sözleşmeler durumunda, bir kişinin bir sözleşme şartının ihlal edilip edilmediğini belirlemek için takip edeceği mantıksal adımları LLM'ye yönlendirmek isteyebilirsiniz. Örneğin, yasal sözleşmelerle uğraşırken LLM'ye öncelikle ödeme koşullarını belirten maddeleri aramasını, ardından alıcının ödemeyi yapması gereken süreyi belirlemesini, ardından ödemenin alındığı tarih ile ödemenin yapıldığı tarih arasındaki gün sayısını hesaplamasını söyleyebilirsiniz. sözleşmenin imzalandığı tarih. Daha sonra ödemenin kararlaştırılan süreden daha uzun sürmesi durumunda alıcı anlaşmayı ihlal etmiş demektir. Düşünce zincirini kullanın düşünce zinciri  Hızlı mühendisliğinizi geliştirmek için bu tekniklerden yararlanmanız, RAG uygulamalarınızda üretebileceğiniz oluşturulan sonuçların kalitesi üzerinde önemli bir etkiye sahip olabilir. Ancak bazen kabul edilebilir bir yanıt elde etmek için LLM ile birden fazla değişimi içeren teknikleri kullanmanız gerekecektir.  Gelişmiş Desenler  FİŞEK  İleriye dönük aktif geri alma veya  , LLM'nin daha iyi bir yanıt oluşturmasına yardımcı olacak anahtar ifadeler hakkında ek sorular sunmasını isteyen isteminizdeki özel talimatlarla LLM'yi yinelemeli olarak çağırmayı içeren çoklu sorgu RAG tekniğinin bir örneğidir. LLM boşluksuz bir içeriğe sahip olduğunda, son yanıtla sona erer. Süreç, bu yinelemeleri kolaylaştırmak için LLM ile AI aracısı (şemadaki AI sohbet robotu) arasına bir döngü ekler:    FİŞEK    FLARE'in nasıl çalıştığına dair bir örnek görebilirsiniz. FLARE'in LangChain yemek kitabı örneğinde  RAG Füzyonu  Kullanıcının sorgusuna benzer sorgular oluşturarak ve hem orijinal sorgu hem de oluşturulan benzer sorgular için ilgili bağlamı alarak, doğru sonuçlar üretmek için en kullanışlı bağlamı seçme olasılığımızı artırabiliyoruz. "RAG füzyonu" adı verilen süreç şuna benzer:   Buradaki anahtar adım, bir yanıt oluşturmak için kullanılacak en ilgili bağlamı belirlemek amacıyla YSA sonuçlarını daha da hassaslaştırmak için   kullanmaktır. karşılıklı sıralama fonksiyonunu  Çözüm  RAG, başlaması kolay bir yaklaşımdır ancak çoğu zaman geliştiricilerin belirsiz nedenlerden dolayı tatmin edici olmayan sonuçlardan dolayı hayal kırıklığına uğramasına neden olur. RAG'ın etkin olduğu üretken yapay zeka uygulamalarındaki çıktıların uygunluğu çeşitli faktörlerden etkilenebilir. Gömme modellerini titizlikle seçerek, parçalama stratejilerini formüle ederek ve istemleri tasarlayarak, ChatGPT gibi LLM'ler tarafından desteklenen sistemlerde oluşturulan yanıtların kalitesini ve hassasiyetini önemli ölçüde artırabilirsiniz. Bu ipuçlarının, hedeflediğiniz deneyimi ve değeri sunan daha kullanışlı RAG uygulamaları oluşturmanıza yardımcı olacağını umuyoruz.     DataStax Astra DB'yi deneyin  . , gerçek zamanlı veriler üzerinde üretim düzeyinde yapay zeka uygulamaları oluşturmaya yönelik tek vektör veritabanıdır  Yazan: Chris Latimer, DataStax  Ayrıca   görünür. burada

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

DataStax Astra DB is the vector database for getting GenAI apps into production, fast. Try it for free today!

DataStax

Bu ses hikayenin orijinal dilinde üretilmiştir!

Ortak Erişim Artırılmış Üretim Zorluklarını Ele Alarak İlgili Yüksek Lisans Yanıtlarına Ulaşmak

About Author

YORUMLAR

ETİKETLERİ ASIN

BU YAZI

Related Stories

Başarılı Buluta Geçiş İçin Tam Kılavuz: Stratejiler ve En İyi Uygulamalar

Sulara Yelken Açmak: Data Lakes ile Üretim Sınıfında RAG Uygulamaları Geliştirme

Yapay Zekanın Gücünü Ortaya Çıkarıyoruz. En Son Tekniklerin Sistematik Bir İncelemesi: Özet ve Giriş

İş Akışınızı 10 Kat Nasıl İyileştirirsiniz: 17 Temel Uygulama

Başarılı Buluta Geçiş İçin Tam Kılavuz: Stratejiler ve En İyi Uygulamalar

Sulara Yelken Açmak: Data Lakes ile Üretim Sınıfında RAG Uygulamaları Geliştirme

Yapay Zekanın Gücünü Ortaya Çıkarıyoruz. En Son Tekniklerin Sistematik Bir İncelemesi: Özet ve Giriş

İş Akışınızı 10 Kat Nasıl İyileştirirsiniz: 17 Temel Uygulama

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps