Büyük dil modelleri bugün son derece güçlü hale geldi; en zor sorularımızdan bazılarına yanıt bulmamıza yardımcı olabilirler. Ama aynı zamanda bizi yoldan da çıkarabilirler: Halüsinasyona eğilimlidirler, bu da doğru gibi görünen ama aslında olmayan cevaplar verdikleri anlamına gelir.  eğitim veri kümelerinin parçası olmayan sorgularla karşılaştıklarında veya eğitim veri kümeleri hatalı bilgiler içerdiğinde halüsinasyon görürler (bu, yüksek lisans eğitimlerinin, hepimizin bildiği gibi her zaman güvenilemeyecek internet verileriyle eğitildiğinde meydana gelebilir) ). Yüksek Lisans'ların da belleği yoktur. Son olarak, "ince ayar" genellikle bir modeli yeni veriler üzerinde yeniden eğiterek halüsinasyonları azaltmanın bir yolu olarak kabul edilir; ancak bunun dezavantajları da vardır.   Yüksek Lisans'lar  Burada, LLM'lerin halüsinasyon görmesini engellemek için üç yönteme bakacağız: Almayla artırılmış nesil (RAG), akıl yürütme ve yinelemeli sorgulama.  Alma-artırılmış nesil  İle  , bilgi tabanına bir sorgu gelir (bu durumda bu bir sorgudur)  ) anlamsal bir vektör olarak - bir sayı dizisi. Model daha sonra benzer belgeleri veritabanından şunu kullanarak alır:  , vektörleri sorgu vektörüne yakın olan belgeleri arıyoruz.   paçavra   vektör veritabanı   vektör arama  İlgili belgeler alındıktan sonra sorgu, bu belgelerle birlikte LLM tarafından kullanıcıya verilecek yanıtı özetlemek için kullanılır. Bu şekilde, model yalnızca kendi dahili bilgisine güvenmek zorunda kalmaz, ona sağladığınız verilere doğru zamanda erişebilir. Bir anlamda Yüksek Lisans'a kendi başına sahip olmadığı “uzun süreli hafıza”yı sağlıyor. Model, vektör veritabanında saklanan özel verileri dahil ederek daha doğru ve bağlamsal olarak uygun yanıtlar sağlayabilir.   Alternatif bir RAG yaklaşımı, olgu kontrolünü içerir. LLM'den bir cevap istenir ve bu cevap daha sonra vektör veri tabanındaki verilere göre kontrol edilir ve gözden geçirilir. Vektör veri tabanından sorguya bir yanıt üretilir ve LLM de bu yanıtı, bunun bir gerçekle ilgili olup olmadığını anlamak için bir ipucu olarak kullanır.   muhakeme  LLM'ler birçok konuda çok iyidir. Giriş verilerinin farklı bölümlerine değişen derecelerde dikkat göstererek makinelerin insan dilini anlama biçimini değiştiren "dönüştürücüler"deki ilerlemeler sayesinde, bir cümledeki sonraki kelimeyi tahmin edebiliyorlar. Yüksek Lisans'lar aynı zamanda pek çok bilgiyi çok kısa bir cevaba özetlemek ve büyük miktardaki metinden aradığınız şeyi bulup çıkarmak konusunda da iyidir. Şaşırtıcı bir şekilde, LLMS aynı zamanda planlama da yapabilir; kelimenin tam anlamıyla veri toplayabilir ve sizin için bir gezi planlayabilir.  Ve belki daha da şaşırtıcı olanı, Yüksek Lisans'ların neredeyse insani bir şekilde bir cevap üretmek için akıl yürütmeyi kullanabilmesidir. İnsanlar muhakeme edebildikleri için tahminde bulunmak veya karar vermek için tonlarca veriye ihtiyaç duymazlar. Muhakeme aynı zamanda yüksek lisans öğrencilerinin halüsinasyonlardan kaçınmasına da yardımcı olur. Bunun bir örneği “  .”   düşünce zinciri teşviki  Bu yöntem, modellerin çok adımlı problemleri ara adımlara ayırmasına yardımcı olur. Düşünce zinciri yönlendirmesi ile Yüksek Lisans'lar, standart yönlendirme yöntemlerinin çözemediği karmaşık akıl yürütme sorunlarını çözebilir (ayrıntılı bir bakış için blog gönderisine göz atın)  Google'dan).   Dil Modelleri Düşünce Zinciri Yoluyla Muhakeme Gerçekleştirir  Yüksek Lisans'a karmaşık bir matematik problemi verirseniz, yanlış anlayabilir. Ancak Yüksek Lisans'a sorunu ve çözüm yöntemini sağlarsanız doğru bir yanıt üretebilir ve yanıtın ardındaki nedeni paylaşabilir. Bir vektör veritabanı, buna benzer soru örnekleri sağladığı ve bilgi istemini örnekle doldurduğu için bu yöntemin önemli bir parçasıdır.  Daha da iyisi, soruyu ve yanıtı aldıktan sonra, üretken yapay zeka uygulamalarınızın doğruluğunu ve kullanışlılığını daha da artırmak için bunu vektör veritabanına geri kaydedebilirsiniz.   Öğrenebileceğiniz başka muhakeme ilerlemeleri de vardır:  ,  ,  , Ve  .   düşünce ağacı   en azından çoğuna   öz tutarlılık   talimat ayarlama  Yinelemeli sorgulama  LLM halüsinasyonlarını azaltmaya yardımcı olan üçüncü yöntem etkileşimli sorgulamadır. Bu durumda, bir AI aracısı, bir LLM ile bir vektör veritabanı arasında ileri geri hareket eden çağrılara aracılık eder. Bu, en iyi cevaba ulaşmak için defalarca yinelenebilir. FLARE olarak da bilinen bu ileriye dönük aktif geri alma neslinin bir örneği.  Bir soru alırsınız, daha fazla benzer soru için bilgi tabanınızı sorgularsınız. Bir dizi benzer soruyla karşılaşırsınız. Daha sonra tüm soruları içeren vektör veritabanını sorgular, yanıtı özetler ve yanıtın iyi ve makul görünüp görünmediğini kontrol edersiniz. Olmazsa, gerçekleşene kadar adımları tekrarlayın.   Diğer gelişmiş etkileşimli sorgulama yöntemleri şunları içerir:  ,  , Ve  .   AutoGPT   Microsoft Jarvis'in   Solo Performans Uyarısı  Temsilci orkestrasyonu konusunda size yardımcı olabilecek birçok araç vardır.  Yüksek Lisans ve vektör veritabanı arasındaki çağrıları düzenlemenize yardımcı olan harika bir örnektir. Temel olarak yönetim görevlerinin ve LLM'lerle etkileşimlerin çoğunu otomatikleştirir ve bellek, vektör tabanlı benzerlik araması, gelişmiş bilgi istemi şablonlama soyutlaması ve diğer birçok özellik için destek sağlar. Aynı zamanda düşünce zinciri ve FLARE gibi gelişmiş yönlendirme tekniklerine de yardımcı olur ve destekler.   LangChain  Böyle bir başka araç da  DataStax tarafından, Astra DB vektör veri tabanımızın üzerine bir soyutlama olarak, verileri ve belleği birinci sınıf vatandaşlar haline getirme fikriyle geliştirildi.  . CassIO, veritabanına erişim sürecini soyutlayarak Cassandra'nın üretken yapay zeka ve diğer makine öğrenimi iş yükleriyle entegrasyonunu kusursuz hale getiren bir Python kütüphanesidir.  yetenekleri ve ek kod ihtiyacını en aza indiren bir dizi kullanıma hazır araç sunar.   CassIO   üretken yapay zeka   vektör arama  Hepsini bir araya getirmek: SkyPoint AI  yaşlı bakımı ve yaşam sektörüne yönelik veri, analiz ve yapay zeka hizmetlerinde uzmanlaşmış bir SaaS sağlayıcısıdır. Şirket, yaşlılar, bakıcılar ve yazılım sistemleri arasında doğal ve sezgisel etkileşimleri mümkün kılmak için üretken yapay zekadan yararlanıyor. Karmaşık uygulamaları basitleştirerek ve kullanıcı deneyimini kolaylaştırarak,  bilgilere ve içgörülere zahmetsizce erişmenizi sağlar, bu da bakımın iyileştirilmesine yardımcı olur.   SkyPoint AI   SkyPoint AI yaşlıları ve bakıcıları güçlendiriyor  Şirket, "Şu anda Medicare'de kaç kişi var?" gibi sorulara yapay zeka tarafından oluşturulan yanıtlar sağlamak için hem yapılandırılmış hem de yapılandırılmamış çok çeşitli verilerden yararlanıyor. SkyPoint CEO'su Tisson Mathew geçenlerde bana şunu söyledi. Bu, bakım sağlayıcıların doğru verilere dayanarak hızlı bir şekilde bilinçli kararlar almasına yardımcı olduğunu söyledi.  Ancak Mathew, bu noktaya gelmenin bir süreç olduğunu söyledi. Ekibi, standart bir yüksek lisans alıp SkyPoint verileriyle ince ayar yaparak işe başladı. "Felaket sonuçlarla ortaya çıktı; hatta rastgele sözcüklerle bile" dedi. İstemleri anlamak ve oluşturmak SkyPoint'in üstesinden gelebileceği bir şeydi ancak geniş ölçekte doğru yanıtlar üretmeyi başarmak için bir yapay zeka teknolojisi yığınına ihtiyacı vardı.  SkyPoint, elektronik sağlık hizmeti kayıtları ve maaş bordrosu verileri de dahil olmak üzere, operatörlerden ve sağlayıcılardan yapılandırılmış verileri alan bir sistem kurmayı başardı. Bu, sütunlu bir veritabanında saklanır; RAG sorgulamak için kullanılır. Politikalar, prosedürler ve eyalet düzenlemeleri gibi yapılandırılmamış veriler bir vektör veritabanında depolanır:  .   DataStax Astra DB  Tisson örnek olarak bir soru sordu: Ya bir sakin istismarcı olursa? Astra DB, eyalet düzenlemelerine, kullanıcıların bağlamına ve çeşitli farklı belgelere dayalı olarak bir araya getirilmiş bir yanıt sağlar ve  Bir yaşlı bakım tesisi çalışanının anlayabileceği doğal dilde    vektör yerleştirmeleri ,  Tisson, "Bunlar doğru olması gereken spesifik yanıtlardır" dedi. "Bu, bir kuruluşun toplulukları ve işleri için bilinçli kararlar almak için güvendiği bilgidir."  Çözüm  SkyPoint AI, AI halüsinasyonları riskini azaltmanın önemini göstermektedir; Doğru yanıtları sağlayacak yöntemler ve araçlar olmadan sonuçlar potansiyel olarak vahim olabilir.  RAG, akıl yürütme ve FLARE gibi yinelemeli sorgulama yaklaşımlarıyla, üretken yapay zeka (özellikle özel verilerle desteklendiğinde) kuruluşların müşterilerine verimli ve etkili bir şekilde hizmet vermesine yardımcı olacak giderek daha güçlü bir araç haline geliyor.  Alan Ho, DataStax tarafından     DataStax'in size nasıl yardımcı olduğu hakkında daha fazla bilgi edinin   gerçek zamanlı, üretken yapay zeka uygulamaları oluşturun .    da yayınlandı. Burada

DataStax Astra DB is the vector database for getting GenAI apps into production, fast. Try it for free today!

DataStax

Bu ses hikayenin orijinal dilinde üretilmiştir!

Yapay Zeka Halüsinasyonları Durdurulabilir mi? Bunu Yapmanın 3 Yoluna Bir Bakış

About Author

YORUMLAR

ETİKETLERİ ASIN

BU YAZI

Related Stories

Claude Sonnet 3.5 Sistem Bilgi Sızıntısı: Adli Analiz

Sulara Yelken Açmak: Data Lakes ile Üretim Sınıfında RAG Uygulamaları Geliştirme

Dijital Göçebeler Dinleyin: Tayland'ın Yeni DTV Vizesi Hakkında Bilmeniz Gerekenler

HackerNoon Kendi Ana Dilinizde 🆕 ‼️ Teknoloji Blog Yazıları için 77 Dil Ana Sayfası

Claude Sonnet 3.5 Sistem Bilgi Sızıntısı: Adli Analiz

Sulara Yelken Açmak: Data Lakes ile Üretim Sınıfında RAG Uygulamaları Geliştirme

Dijital Göçebeler Dinleyin: Tayland'ın Yeni DTV Vizesi Hakkında Bilmeniz Gerekenler

HackerNoon Kendi Ana Dilinizde 🆕 ‼️ Teknoloji Blog Yazıları için 77 Dil Ana Sayfası

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps