Vicuna: Lama, Alpaka ve ChatGPT ile Nasıl Karşılaştırılır?

Bir yapay zeka startup kurucusu olarak, ChatGPT gibi büyük dil modellerinin konuşmaya dayalı yapay zekayı geliştirmede ne kadar etkili olduğunu muhtemelen biliyorsunuzdur.

Ancak ticari lisans maliyetleri, sansür sorunları, düşük performans, gizlilik endişeleri ve kara kutular nedeniyle bu tescilli modeller birçok yeni girişim için erişilemez durumda kalıyor.

Vicuna adı verilen açık kaynaklı bir proje tam da burada devreye giriyor. Stanford gibi kurumlardan araştırmacılardan oluşan bir ekip tarafından geliştirilen Vicuna, ChatGPT kalitesinin %90'ından fazlasını başaran açık kaynaklı bir konuşma modelidir. Bu, onu GPT-4 gibi kapalı modellere heyecan verici bir alternatif haline getiriyor.

Bunun gibi daha fazla içerik için abone olun veya beni Twitter'da takip edin !

Bu makalede Vicuna'nın ne olduğunu, nasıl çalıştığını, yeteneklerini ve bir yapay zeka kurucusu olarak ondan nasıl yararlanabileceğinizi inceleyeceğiz. ChatGPT ve temel LLaMA modeli gibi rakiplerle nasıl karşılaştırılacağını göreceğiz.

Ayrıca modelin belirli yönleri hakkında daha fazla bilgi edinmek için takip edebileceğiniz bazı yararlı ipuçlarını ve kılavuzları da paylaşacağım.

Bu yazıda Vicuna-13b'ye odaklanacağız ancak deneyebileceğiniz birçok farklı boyutta Vicuna modeli var. Hadi başlayalım!

Not: Vicuna, sohbet için LLaMA'ya ince ayar yapan tek model değil. Konuşma uygulamaları için LLaMA v2 , Alpaca ve LLaMA-v2-chat kullanımına ilişkin kılavuzlarımıza göz atın .

Vicuna'ya Genel Bakış

Konuşmaya dayalı yapay zeka dünyasında, ChatGPT gibi dikkat çekici doğal dil yetenekleri sergileyen modellerde son zamanlarda şaşırtıcı ilerlemeler gördük. Ancak yukarıda açıklanan tüm sorunlara sahip özel bir model olarak ChatGPT, birçok geliştirici için kötü bir seçenek olmaya devam ediyor.

Bu nedenle, konuşmaya dayalı uygulamalarda yeniliği güçlendirebilecek daha erişilebilir ve açık modellere ihtiyaç var.

Vicuna tam da burada devreye giriyor. Stanford, Berkeley ve MBZUAI gibi önde gelen kurumlardan araştırmacılar tarafından geliştirilen Vicuna, son teknolojiye sahip açık konuşmaya dayalı yapay zekayı temsil ediyor.

Açık kaynaklı bir temel modelden transfer öğreniminin gücünü gösteren, seçilmiş diyalog verileri üzerinde LLaMA modeline ince ayar yapılarak oluşturuldu.

Boyutu ChatGPT'den daha küçük olmasına rağmen Vicuna, konuşma kalitesiyle eşleşiyor ve diğer açık modellerden önemli ölçüde daha iyi performans gösteriyor.

Ancak Vicuna'da konu sadece teknolojiyle ilgili değil. Onu gerçekten etkili kılan şey, ticari olmayan bir araştırma lisansı kapsamında mevcut olmasıdır. Bu, daha önce yalnızca büyük teknoloji şirketleriyle sınırlı olan son teknoloji ürünü, konuşabilen yapay zekaya erişim sağlıyor.

Nihayet yeni nesil sohbet robotlarına, sanal asistanlara, konuşmaya dayalı arama motorlarına ve diğer yenilikçi uygulamalara güç verebilecek açık bir modele sahibiz.

Vicuna'nın vaadi, onu güçlendiren harika projelerle zaten kanıtlandı. Örneğin MiniGPT4 , Vicuna'yı akıllı bir sanal asistan oluşturmak için kullandı, LLaVA onunla bir konuşma motoru oluşturdu ve ToolLLaMA, Vicuna'nın doğal dil içeriği oluşturma yeteneklerinden yararlandı.

Ve elbette bir gün siz de bu listeye kendi projenizi ekleyebilirsiniz!

Yapay zeka geliştiricileri ve start-up'lar için Vicuna heyecan verici yeni bir fırsatı temsil ediyor. Yüksek kapasitesi, ücretsiz kullanılabilirliği ve geniş kapsamlı araştırma lisansı, konuşma uygulamalarının hızlı bir şekilde prototiplenmesine olanak tanır.

Tescilli modellere erişimle sınırlanmak yerine, yeni kurulan şirketler artık ürünleri en son konuşma yapay zekasıyla doğrulayabilir ve geliştirebilir. Oyun alanı yeni düzleştirildi.

Özet olarak Vicuna, üst düzey konuşma zekasına erişimi demokratikleştirmeyi vaat ediyor. Ortaya çıkışı, yeniliği güçlendiren açık yapay zeka modellerinin oluşturulmasında önemli bir kilometre taşını temsil ediyor.

Konuşmaya dayalı yapay zekadan yararlanmak isteyen herhangi bir girişim için Vicuna kesinlikle dikkate alınmaya değer bir projedir!

Vikunya Nasıl Yaratıldı? Onu Özel Kılan Nedir?

Vicuna'nın hikayesi, Meta AI tarafından geliştirilen açık kaynaklı bir dil modeli olan LLaMA ile başlıyor. Yetenekli olmasına rağmen, LLaMA'nın hiçbir doğal konuşma yeteneği yoktu ve konuşma sanatı yerine esas olarak dilin kendisine odaklanıyordu.

Stanford, Berkeley ve MBZUAI gibi kurumlardan araştırmacılar bunu değiştirmek için yola çıktı. Amaçları, ChatGPT gibi tescilli sohbet robotlarına rakip olacak açık kaynaklı bir konuşma modeli yaratmaktı.

Bu arada, metni işlemek ve analiz etmek için eğitilmiş bir yapay zeka modeli (LLaMA gibi) ile sohbet için uzmanlaşmış bir yapay zeka modeli (Vicuna gibi) arasındaki fark nedir? İkisini birbirinden ayıran birkaç temel faktör vardır:

• Mimari - Vicuna gibi etkileşimli modeller, diyalog için optimize edilmiş bir kodlayıcı-kod çözücü yapısına sahiptir. Kodlayıcı, konuşma geçmişini ve mevcut kullanıcı girişini bağlamsallaştırır. Kod çözücü daha sonra ilgili bir yanıt üretir. LLaMA gibi genel dil modelleri bu özel mimariden yoksundur.

• Eğitim Hedefi - Vicuna gibi modeller, özellikle konuşma görevlerinde performansı en üst düzeye çıkaracak şekilde ince ayarlanmıştır. Bu, konuşma ölçümlerini optimize etmek için diyalog veri kümeleri üzerine eğitimi içerir. LLaMA diyalog için özelleştirilmemiş, daha genel olarak metin için eğitilmiştir.

• Çok Dönüşlü Yetenekler - Konuşma modellerinin, çok dönüşlü konuşmaları yönetmesi, birden çok değişimde bağlamı ve tutarlılığı koruması gerekir. Genel metin modelleri aynı anda bir girişi değerlendirir.

• Etkileşim - Konuşmaya dayalı yapay zekanın kullanıcılarla akıcı bir şekilde etkileşime girmesi, takip sorularına ve açıklamalara yanıt vermesi gerekir. Metin değerlendirmesi daha pasiftir ve kullanıcı etkileşiminden yoksundur.

• Değerlendirme - Konuşmaya dayalı modeller, metin ölçümlerinin ötesinde daha karmaşık bir değerlendirme gerektirir; tutarlılık, nüans ve uygunsuz yanıtları incelikle ele alma yeteneği gibi nitelikleri test eder.

LLaMA gibi genel bir dil modeli, diyalog aracılarına özgü gereksinimler olmaksızın metin analizine ve oluşturmaya daha fazla odaklanırken, konuşmaya dayalı yapay zekanın amacı temelde pasif metin değerlendirmesinden daha karmaşıktır.

Bu amaçla, Vicuna'yı yaratan araştırmacılar, LLaMA'yı 70.000'den fazla insan-ChatGPT diyalog alışverişinde ince ayar yaparak, modeli konuşma için uzmanlaştırdı ve ona konuşma bağlamlarındaki metnin doğal özelliklerini öğretti.

Bu ince ayar, LLaMA versiyonlarına daha önce eksik olan konuşma zekasını kazandırmak açısından çok önemliydi. Diyalog verileri üzerinde yinelemeli eğitim yoluyla LLaMA, çok turlu konuşmalar için optimize edilmiş bir kodlayıcı-kod çözücü transformatörü olan Vicuna'ya dönüştürüldü.

Çabaları ne kadar işe yaradı?

Into the Arena: Vicuna'nın Alternatif Sohbet Yapay Zeka Modellerine Karşı Değerlendirilmesi

Vicuna'nın yeteneklerini değerlendirmek için araştırmacılar onu 200 farklı konuşma ipucu üzerinde test etti. Daha ileri bir değerlendirme için GPT-4 modelinin Vicuna'nın yanıtlarını karşılaştırmalı olarak değerlendirmesini sağladılar.

Sonuçlar, Vicuna'nın, boyutları daha küçük olmasına rağmen konuşma yeteneğinde ChatGPT'nin kalitesinin %90'ından fazlasını elde ettiğini gösterdi. Orijinal LLaMA modelinden önemli ölçüde daha iyi performans gösterdi.

Araştırmacılar, mimari optimizasyonları insan diyalog verileri üzerinde özel ince ayarlarla birleştirerek LLaMA'yı, tescilli sohbet robotlarıyla aynı seviyede açık kaynaklı bir konuşma modeline başarıyla geliştirdiler.

Örnek olarak resmi proje sitesinden alınan bire bir teste bakalım.

Vicuna ve rakip modeller arasındaki başa baş mücadeleye örnek; bu durumda ChatGPT-3.5'in potansiyel bir alternatif olarak kullanılması.

Proje sahasında hem Vicuna-13b hem de rakip modellerin birbirleriyle rekabet etmesinin istendiği bir dizi örnek görev bulunmaktadır. GPT-4 modeli daha sonra her modeli puanlamak ve gerekçesini belirtmek için bir yargıç olarak kullanılır.

Bu gerçekten aydınlatıcı karşılaştırmalar ortaya çıkarıyor. Yukarıdaki görselde bir örnek verilmiştir. Bir diğeri aşağıda gösterilen bu zorluktur:

• Kategori: Rol Oyunu
• Soru: Kendinizi bir kraliyet ziyafetinde bir ortaçağ şövalyesi olarak nasıl tanıtırsınız?

LLaMA-13b'nin yanıtı:

"Ben krala sadık, yiğit bir şövalyeyim. Onun onurunu savunmak ve ülkesini korumak için elimden geleni yapacağım. (Topal! GPT-4'ten 7/10 puan aldım, bence çok cömert.)"

Vicuna-13b:

**"**Bir ortaçağ şövalyesi olarak, bir kraliyet ziyafetinde derin bir selamla ve saygılı bir konuşmayla kendimi tanıtır, mütevazı kökenlerimi ve taca olan bağlılığımı kabul ederdim. Şöyle bir şey söylerdim:

"Lordlarım ve leydilerim, ben mütevazı bir şövalyeyim, diyarı hizmet etmeye ve korumaya yemin ettim. Nesiller boyunca bu krallığı savunmak için savaşan uzun bir savaşçı soyundan geliyorum. Bugün burada, huzurunda bulunmaktan onur duyuyorum. Böylesine saygın bir topluluğa, yaptıklarım ve yaptıklarımla güveninizi ve saygınızı kazanmayı umuyorum. Kılıcımı, kalkanımı ve hayatımı kralımın ve halkımın hizmetine adıyorum."

Daha sonra benden daha iyi olanların bilge öğütlerini dinlemeye, onlardan öğrenmeye ve onlara elimden gelen her şekilde hizmet etmeye hazır olarak ziyafetteki yerime otururdum."

Vay! Vicuna'dan çok daha iyi yanıt. İşte GPT-4'ün Vicuna'yı LLaMA'ya üstün bir alternatif haline getiren şeyin ne olduğunu açıklayan mantığı.

Asistan 1 [LLaMA] kısa ve konuyla ilgili bir yanıt verdi, ancak bir ortaçağ şövalyesinin girişinden beklenen ayrıntı ve formaliteden yoksundu. Öte yandan Asistan 2 [Vicuna] , şövalyenin alçakgönüllülüğünü, sadakatini ve krallığa olan bağlılığını sergileyen saygılı bir konuşma da dahil olmak üzere daha kapsamlı ve iyi yapılandırılmış bir yanıt sundu. Bu yanıt, kraliyet ziyafeti bağlamına daha uygundu ve ortaçağ şövalyesinin rolünün ve görgü kurallarının daha iyi anlaşıldığını gösterdi.

Yüksek Lisans'lar diğer Yüksek Lisans'ların yanılmaz yargıçları olmasa da insanlar da değildir. Yapay zekayı yargılamak ve değerlendirmek için yapay zeka kullanımının, hangi alternatiflerin en iyi olduğuna karar vermenin oldukça ölçeklenebilir ve tutarlı bir yolu olduğunu düşünüyorum.

LMSYS.org sitesindeki diğer rakiplerin cevaplarından ve görevlerinden bazılarına göz atmalısınız.

Haydi Kendimiz Deneyelim: Vicuna ile Temel Bir Chatbot Nasıl Oluşturulur

Artık modelin bazı alternatiflerle karşılaştırıldığında nasıl bir performans sergilediğini gördüğümüze göre, komut satırımızdan etkileşim kurabileceğimiz basit bir sohbet robotunu nasıl oluşturabileceğimizi görelim. Burada verilen kılavuzdaki adımlar daha da genişletilebilir, böylece devam edebilir ve AI projeniz için kendi sohbet robotunuzu oluşturabilirsiniz!

1. Adım: Kurulum

Node.js'yi yükleyin : Sisteminizde Node.js'nin kurulu olduğundan emin olun.

Proje Dizini Oluşturun : Terminalinizde aşağıdakileri çalıştırın:

 mkdir my-chatbot cd my-chatbot npm init -y npm install replicate

API Simgenizi Ayarlayın : your_api_token_here gerçek API belirteciniz ile değiştirin:

 export REPLICATE_API_TOKEN=your_api_token_here

Adım 2: Chatbot Kodunu Yazma

chatbot.js adlı bir dosya oluşturun ve aşağıdaki kodu ekleyin:

 const Replicate = require("replicate"); const replicate = new Replicate({ auth: process.env.REPLICATE_API_TOKEN, }); async function generateResponse(prompt) { const output = await replicate.run( "replicate/vicuna-13b:version_hash_here", { input: { prompt: prompt }, } ); return output.items[0]; } const readline = require('readline'); const rl = readline.createInterface({ input: process.stdin, output: process.stdout }); function askQuestion() { rl.question('You: ', async (userInput) => { const botResponse = await generateResponse(userInput); console.log(`Bot: ${botResponse}`); askQuestion(); }); } askQuestion();

version_hash_here değerini Vicuna 13b modeli için doğru sürüm karma değeriyle değiştirin.

3. Adım: Chatbot'u Çalıştırma

Aşağıdakileri yürüterek chatbot'u çalıştırın:

 node chatbot.js

Artık komut satırı aracılığıyla chatbotunuza mesaj gönderebilirsiniz!

Kendi chatbot'unuzu oluşturmak istemiyor musunuz? Vicuna'nın nasıl performans gösterdiğini değerlendirmek için bu demoyu kullanabilirsiniz.

Vicuna-13b-v1.3'ün model ayrıntıları sayfası, modelle oynamak için kullanabileceğiniz birkaç demo içerir. İşte denemeniz için gömülü bir tane (aşağıdaki bağlantıda mevcut değilse, erişmek için bu bağlantıyı da kullanabilirsiniz).

Zeno-ml tarafından oluşturulan bu demo, sıcaklık veya diğer parametreleri değiştirirken Vicuna'nın LLaMA, GPT2 ve MPT gibi rakiplere karşı ne kadar iyi performans gösterdiğini görmek için modelleri ve ek parametreleri karşılaştırmanıza olanak tanır.

Vicuna'nın Sınırlamaları

Konuşma teknolojileri hızla gelişirken modeller hâlâ önemli zorluklarla karşı karşıyadır.

• Sorunlardan biri bilginin temellendirilmesidir. Konuşma aracıları gerçek bilgiye dayalı yeterli temelden yoksundur, bu da onları makul görünen ancak yanlış yanıtlara yatkın hale getirir. Gerçek dünyaya daha fazla dayanmak doğruluğu artırabilir.

• Muhakeme yetenekleri geliştirilecek başka bir alandır. Mantıksal akıl yürütme, nedensel çıkarım ve matematiksel işlemleri gerçekleştirmek chatbotlar için hala zor. Muhakeme yetenekleri hala sınırlıdır.

• Yapay zeka sistemlerinin konuşma kalitesini geniş ölçekte değerlendirmek de zorluklara yol açıyor. Ayrı bir yapay zeka hakimine başvurmak gibi mevcut çözümlerin kusurları var. Titiz değerlendirme çerçeveleri geliştirmek açık bir sorundur.

• Ek olarak, kusurlu eğitim verilerine dayanılması nedeniyle önyargılar ve güvenlik sorunları devam etmektedir. Konuşma modelleri bazen uygunsuz veya güvensiz davranabilir. Daha iyi eğitim verileri iyileştirmesi önemlidir.

• Sohbet robotlarını belirli kullanıcılara ve kullanım durumlarına uyarlamak da halen zorludur. Farklı alanlar için daha fazla kişiselleştirme ve özelleştirmeye ihtiyaç vardır. Bunu kutunun dışında kolayca yapamazsınız.

Büyük ilerleme kaydedilmiş olsa da, bu sınırlamalar iyileştirilmesi gereken temel alanları vurgulamaktadır.

Bilgiyi temellendirme, akıl yürütme, değerlendirme, eğitim verileri, özelleştirme ve dağıtım verimliliğinin geliştirilmesi, Vicuna gibi modellerle bir sonraki konuşma zekası seviyesine olanak sağlayabilir.

Sonuç: Vicuna AI'yı ChatGPT, LLaMA ve Diğer LLM'lere Açık Kaynak Alternatifi Olarak Kullanmak

Vicuna'nın gelişimi, açık kaynaklı konuşma yapay zekasının geliştirilmesinde umut verici bir ilerleme olduğunu gösteriyor.

Araştırmacılar, LLaMA model mimarisine ve eğitim metodolojisine özellikle diyalog uygulamaları için ince ayar yaparak, önde gelen tescilli alternatiflerle rekabet edebilen, ücretsiz olarak kullanılabilen bir konuşma aracısı yaratmayı başardılar.

Ancak akıl yürütme, değerlendirme, kişiselleştirme ve diğer alanlardaki sınırlamaları ele almak için yapılması gereken çalışmalar devam etmektedir. Vicuna gibi modeller birçok kıyaslamada güçlü sonuçlar elde etse de, kapsamlı insan konuşmasını tam olarak taklit edemiyorlar.

Bu modellerin hizalanması konusunda devam eden araştırmalar önemli olacaktır.

Bununla birlikte Vicuna, en son teknolojiye sahip konuşma zekasına erişimin demokratikleştirilmesinde ileriye doğru atılan değerli bir adımı temsil ediyor.

Sohbet robotları, asistanlar ve diğer uygulamalar geliştiren yeni başlayanlar ve geliştiriciler için Vicuna gibi açık kaynak seçenekleri, kısıtlayıcı ticari lisanslama olmadan hoş geldiniz özellikleri sağlar.

Vicuna'nın kökenleri ve teknik ayrıntıları, konuşmaya dayalı yapay zeka için özel eğitim yaklaşımlarına ilişkin yararlı bilgiler sunuyor. Araştırmalar devam ettikçe bu yöntemleri temel alan daha fazla yenilik görmeyi bekleyebiliriz.

Vicuna'nın arkasındaki yazarlar, böylesine yetenekli bir diyalog aracısının açık kaynak olarak kullanılmasına önemli bir katkıda bulundular.

Hala daha fazla ilerlemeye ihtiyaç duyulmasına rağmen Vicuna, açık konuşma modellerinin geliştirilmesinden elde edilebilecek anlamlı sonuçları gösteriyor. Yapay zeka topluluğu için bu, nihai hedefi değil umut verici bir adımı temsil ediyor.

Bu teknolojileri geliştirmeye yönelik devam eden çalışmalarla önümüzdeki potansiyel heyecan verici olmaya devam ediyor.

Bunun gibi daha fazla içerik için abone olun veya beni Twitter'da takip edin !

İlave Okumalar ve Kaynaklar

Yeni ürününüz veya projeniz için en iyi sohbet robotunu oluşturma arayışınızda bu diğer makaleleri yararlı bulabilirsiniz.

• Vicuna-13b model ayrıntıları - Temel model bilgileriyle Vicuna'ya genel bakış
• Vicuna-13B ile sohbet robotları oluşturma - Sohbet robotları oluşturmak için Vicuna'nın kullanılmasına ilişkin bir makale
• Sohbet için Yüksek Lisans'ların karşılaştırılması: LLaMA v2 vs Vicuna - LLaMA'nın yeni sürüm 2 ile Vicuna arasında bir karşılaştırma
• LangChain sohbet modelleri: genel bakış - LangChain, sohbet uygulamaları oluşturmak için popüler bir çerçevedir

Burada da yayınlandı