Upshot'tan Zhenyang'a, Giza'dan Fran'e, Neuronets'ten Ashely'ye, Valence'den Matt'e ve Pond'dan Dylan'a değerli katkıları ve geri bildirimleri için teşekkür ederiz.
Bu araştırma, yapay zekadaki bu alandaki geliştiricileri ilgilendiren kritik alanları açığa çıkarmayı ve Web3 ile yapay zeka teknolojilerinin yakınsaması sırasında ortaya çıkan potansiyel fırsatları keşfetmeyi amaçlıyor.
Yapay zeka merkezli merkezi olmayan uygulamalardaki (DApp'ler) mevcut gelişmeler, çeşitli araçsal araçları ve kavramları ön plana çıkarıyor:
Web3 ve yapay zekanın birleşimi, geliştiricilerin kripto alanı için özel olarak tasarlanmış yapay zeka altyapısını titizlikle keşfetmesi nedeniyle kripto alanında büyük bir ilgi yaratıyor. Amaç, akıllı sözleşmelere, veri işleme, model hassasiyeti, hesaplama ihtiyaçları, dağıtım karmaşıklıkları ve blockchain entegrasyonu konularında titizlikle dikkat gerektiren gelişmiş zeka işlevleri kazandırmaktır.
Web3 öncüleri tarafından oluşturulan ilk çözümler şunları kapsamaktadır:
Gelişen altyapıya rağmen DApp'lerdeki gerçek yapay zeka uygulaması sınırlı kalıyor. Yaygın eğitimler yalnızca ön uç ortamlardaki temel OpenAI API etkileşimlerini göstererek, blockchain'in benzersiz merkeziyetsizlik ve doğrulanabilirlik olanaklarından tam anlamıyla yararlanmaksızın yalnızca yüzeysel bir çalışmadır.
Ortam geliştikçe, önümüzdeki aylarda birçok kripto-yerel yapay zeka altyapısının test ağlarından tam operasyonel duruma geçmesiyle birlikte önemli gelişmeler bekliyoruz.
Bu dinamik bağlamda, araştırmamız kripto-yerel yapay zeka altyapısında mevcut olan araç cephaneliğini derinlemesine inceleyerek geliştiricileri kripto dünyasında çığır açan GPT-3.5 anlarına benzer yakın gelişmelere hazırlayacak.
OpenAI'nin GPT-4-vision, GPT-4-turbo ve GPT-4o gibi güçlü modellerinden yararlanmak, son teknoloji AI DApp'leri geliştirmeyi hedefleyenler için cazip avantajlar sunuyor. Bu güçlü araçlar, gelişen AI x Web3 ortamında gelişmiş uygulamalara ve çözümlere öncülük etmek için gereken temel yetenekleri sağlar.
OpenAI'yi merkezi olmayan uygulamalara (dApp'ler) entegre etmek, OpenAI API'sini oracle'lardan veya ön uçlardan çağırabilen geliştiriciler arasında sıcak bir konudur. RedPill, toplu bir API hizmeti sunarak en iyi yapay zeka modellerine erişimi demokratikleştirdiği için bu entegrasyonun ön saflarında yer alıyor. Bu hizmet, çeşitli OpenAI API katkılarını birleştirir ve bunları tek bir çatı altında sunarak, OpenAI'nin tipik olarak ortaya koyduğu kısıtlamalar olmadan, daha uygun fiyat, daha iyi hız ve kapsamlı küresel erişim gibi faydalar sağlar.
Dakika başına sınırlı token (TPM) veya coğrafi sınırlar nedeniyle kısıtlı model erişimi gibi kripto para birimi geliştiricilerinin sıklıkla karşılaştığı doğal sorunlar, önemli engellere yol açabilir. RedPill, geliştiricilerin isteklerini kendi ağlarındaki bireysel katkıda bulunanlara yönlendirerek ve OpenAI'nin doğrudan kısıtlamalarını etkili bir şekilde atlayarak bu endişeleri doğrudan giderir. Aşağıdaki tabloda RedPill ve OpenAI arasındaki yetenekler ve maliyetler arasındaki keskin farklar özetlenmektedir:
| Kırmızı Hap | OpenAI |
---|---|---|
TPM | Sınırsız | Çoğu kullanıcı için 30k - 450k |
Fiyat | 10 milyon istek başına 5 ABD Doları artı jeton teşvikleri | 10 milyon istek başına 5 ABD doları |
RPM (Dakika Başına İstek) | Sınırsız | Çoğu kullanıcı için 500 - 5k |
Geliştiriciler, OpenAI API'yi kullanmanın yanı sıra, modellerini merkezi olmayan GPU ağlarında barındırabilir ve çalıştırabilir. io.net , Aethir ve Akash gibi popüler platformlar, geliştiricilerin GPU kümelerini oluşturup yönetmelerine olanak tanıyarak, ister özel ister açık kaynak olsun, en etkili modelleri dağıtmalarına olanak tanır.
Bu merkezi olmayan GPU ağları, bireysel katkıda bulunanlardan veya küçük veri merkezlerinden gelen bilgi işlem gücünden yararlanarak çeşitli makine özellikleri, daha fazla sunucu konumu ve daha düşük maliyetler sağlar. Bu benzersiz yapı, geliştiricilerin yönetilebilir bir bütçe dahilinde iddialı yapay zeka deneyleri yürütmesine destek oluyor. Ancak, merkezi olmayan yapı, aşağıdaki karşılaştırmada da gösterildiği gibi sınırlı özelliklere, çalışma süresi güvenilirliğine ve veri gizliliğine neden olabilir:
| GPU Ağı | Merkezi GPU Sağlayıcısı |
---|---|---|
SLA (Çalışma Süresi) | Değişken | %99,99+ |
Entegrasyon ve Otomasyon SDK'ları | Sınırlı | Mevcut |
Depolama Hizmetleri | Sınırlı | Kapsamlı (Yedekleme, Dosya, Nesne, Blok depolama ve Kurtarma stratejileri) |
Veritabanı Hizmetleri | Sınırlı | Yaygın olarak kullanılan |
Kimlik ve Erişim Yönetimi | Sınırlı | Mevcut |
Güvenlik duvarı | Sınırlı | Mevcut |
İzleme/Yönetim/Uyarı Hizmetleri | Sınırlı | Mevcut |
GDPR, CCPA (Veri Gizliliği) ile uyumluluk | Sınırlı | Kısmi uyumluluk |
GPU ağlarına olan ilginin son zamanlarda artması, Bitcoin madenciliği çılgınlığını bile gölgede bırakıyor. Bu olguya katkıda bulunan birkaç temel faktör vardır:
Yapay zeka ve merkezi olmayan bilişim ortamı gelişmeye devam ederken, RedPill ve merkezi olmayan GPU ağları gibi araçlar, geliştiricilerin geleneksel engelleri aşma ve yapay zeka geliştirmede yeni olanakların kilidini açma konusunda devrim yaratıyor.
Öneri : io.net, özellikle Web2 geliştiricilerine uygun, basit bir kullanıcı deneyimi sunar. Hizmet düzeyi anlaşmalarınız (SLA'lar) konusunda esnekseniz io.net , göz önünde bulundurulması gereken bütçe dostu bir seçenek olabilir.
Bir çıkarım ağı, verileri işlemede ve akıllı tahminler veya kararlar almada yapay zeka modellerini desteklemek için tasarlanmış, kriptoya özgü yapay zeka altyapısının omurgasını oluşturur. Gelecekte milyarlarca yapay zeka çıkarım işlemini gerçekleştirmeye hazır. Birçok blockchain katmanı (Katman 1 veya Katman 2), geliştiricilerin yapay zeka çıkarım işlemlerini doğrudan zincir üzerinde başlatma yeteneğini zaten sağlıyor. Bu pazarın liderleri arasında Ritual, Vanna ve Fetch.ai gibi platformlar yer alıyor.
Bu ağlar, genel geliştirici deneyiminin yanı sıra performans (gecikme, hesaplama süresi), desteklenen modeller, doğrulanabilirlik ve fiyat (tüketim ve çıkarım maliyetleri) gibi çeşitli faktörlere göre değişiklik gösterir.
İdeal bir senaryoda geliştiriciler, çeşitli kanıtlar için kapsamlı destek ve minimum entegrasyon çabasıyla özelleştirilmiş yapay zeka çıkarım yeteneklerini herhangi bir uygulamaya sorunsuz bir şekilde entegre edebilmelidir.
Çıkarım ağı, isteğe bağlı kanıt oluşturma ve doğrulama, çıkarım hesaplama, çıkarım aktarımı, Web2 ve Web3 uç noktaları, tek tıklamayla model dağıtımı, izleme, zincirler arası birlikte çalışabilirlik, entegrasyon senkronizasyonu gibi geliştiricilerin ihtiyaç duyduğu tüm gerekli altyapı unsurlarını sağlar. planlanmış yürütme.
Bu yetenekler sayesinde geliştiriciler çıkarımları blockchain projelerine zahmetsizce entegre edebilirler. Örneğin, merkezi olmayan finans (DeFi) ticaret botları geliştirilirken, ticaret çiftleri için satın alma ve satış fırsatlarını belirlemek ve Base DEX'te stratejiler uygulamak için makine öğrenimi modelleri kullanılabilir.
İdeal olarak, tüm altyapının bulutta barındırılması, geliştiricilerin model stratejilerini Torch gibi popüler formatlarda yüklemelerine ve saklamalarına olanak tanır. Çıkarım ağı, Web2 ve Web3 sorgularına yönelik modellerin hem depolanmasını hem de sunulmasını yönetecektir.
Model dağıtımı tamamlandıktan sonra geliştiriciler, Web3 API istekleri veya doğrudan akıllı sözleşmeler aracılığıyla model çıkarımını tetikleyebilir. Çıkarım ağı sürekli olarak ticaret stratejilerini çalıştırır ve sonuçları temel akıllı sözleşmelere geri gönderir. Önemli miktarda topluluk fonu yönetiyorsanız, çıkarımın doğruluğunu kanıtlamak gerekli olabilir. Çıkarım sonuçlarının alınmasının ardından akıllı sözleşmeler, bu sonuçlara göre otomatik olarak işlemleri yürütür.
Eşzamansız yürütme teorik olarak daha iyi performans sunsa da geliştirici deneyimini karmaşıklaştırabilir.
Asenkron modelde, geliştiriciler başlangıçta işlerini akıllı sözleşmeler aracılığıyla çıkarım ağına gönderir. İş tamamlandığında ağın akıllı sözleşmesi sonucu döndürür. Bu, programlamayı iki aşamaya ayırır: çıkarımın çağrılması ve sonuçlarının işlenmesi.
Bu ayırma, özellikle iç içe çıkarım çağrıları veya kapsamlı mantıksal işlemlerde karmaşıklıklara yol açabilir.
Üstelik asenkron modellerin mevcut akıllı sözleşmelerle entegrasyonu zor olabilir; ek kodlama, kapsamlı hata yönetimi ve ilave bağımlılıklar gerektirir.
Senkronizasyonun geliştiriciler tarafından uygulanması genellikle daha basittir ancak gecikme ve blockchain tasarımıyla ilgili zorlukları da beraberinde getirir. Örneğin, blok süresi veya piyasa fiyatları gibi hızla değişen girdi verileriyle uğraşırken, işleme tamamlandığında veriler güncelliğini yitirebilir. Bu senaryo, özellikle güncel olmayan fiyatlara dayalı takas gibi işlemler gerçekleştirilirken akıllı sözleşme uygulamalarının geri alınmasına neden olabilir.
Valence, eş zamanlı olmayan şekilde çalışan yapay zeka altyapısına odaklanarak bu zorlukların üstesinden geliyor.
Mevcut ortamda, Ritual Network gibi yeni çıkarım ağlarının çoğu hala test aşamalarından geçiyor ve kamuya açık belgelerine göre sınırlı işlevsellik sunuyor. Zincir içi yapay zeka hesaplamaları için bir bulut altyapısı sağlamak yerine, kendi kendini barındıran yapay zeka hesaplamaları ve ardından sonuçların blok zincirine aktarılması için bir çerçeveyi desteklerler.
AIGC NFT'yi çalıştırmak için kullanılan tipik bir mimari aşağıda verilmiştir: Difüzyon modeli, NFT'yi oluşturur ve onu Arweave'e yükler. Çıkarım ağı daha sonra Arweave adresini alır ve NFT'yi zincir üzerinde üretmeye devam eder.
Bu model, geliştiricilerin altyapının çoğunu bağımsız olarak dağıtmasını ve barındırmasını gerektirir; buna özelleştirilmiş hizmet mantığı, istikrarlı yayılma düğümleri ve NFT akıllı sözleşmelerle Ritüel Düğümlerin yönetilmesi de dahildir.
Öneri : Mevcut çıkarım ağları, özel modelleri entegre etmek ve dağıtmak açısından karmaşıktır. Birçoğu bu aşamada doğrulanabilirlik sunmadığı için ön uçta yapay zekayı dağıtmak, geliştiriciler için daha basit bir seçenek olabilir. Doğrulanabilirliğe ihtiyaç duyanlar için Sıfır Bilgi Makine Öğrenimi sağlayıcısı Giza umut verici bir alternatif sunuyor.
Aracı ağları, aracıların kullanıcılar için özelleştirilmesini kolaylaştırır. Bu ağlar, görevleri yerine getirebilen ve birbirleriyle ve blok zinciriyle otonom olarak etkileşime girebilen özerk varlıklardan veya akıllı sözleşmelerden oluşur. Şu anda daha çok, Ethereum'u anlamak için özel olarak tasarlanmış GPT sohbet robotları gibi büyük dil modellerine (LLM'ler) odaklanıyorlar. Ancak bu sohbet robotlarının kapasiteleri şu anda sınırlı olduğundan geliştiricilerin bunların üzerine karmaşık uygulamalar oluşturması kısıtlanıyor.
İleriye bakıldığında, aracı ağları, aracılara harici API erişimi ve yürütme işlevleri de dahil olmak üzere gelişmiş araçlar sağlayarak yeteneklerini geliştirmeye hazırdır. Geliştiriciler, işbirliğini kolaylaştırmak için istemleri ve bağlamları kullanarak protokol tasarımı, Solidity geliştirme, kod güvenliği incelemeleri ve sözleşme dağıtımına odaklananlar gibi birden fazla uzman aracıyı birbirine bağlayarak iş akışlarını düzenleyebilecek.
Temsilci ağlarına örnek olarak Flock.ai , Myshell ve Theoriq verilebilir.
Öneri : Mevcut aracı teknolojileri hala geliştikçe ve sınırlı işlevlere sahip olduğundan, geliştiriciler, Web2 alanındaki Langchain veya Llamaindex gibi daha olgun düzenleme araçlarını kendi ihtiyaçları için daha etkili bulabilirler.
Hem aracı ağlar hem de çıkarım ağları, blok zincirindeki yetenekleri ve etkileşimleri geliştirmeye hizmet ederken, temel işlevleri ve operasyonel odakları büyük ölçüde farklılık gösterir. Temsilci ağları, etkileşimleri otomatikleştirmeye ve akıllı sözleşmelerin faydasını otonom aracılar aracılığıyla genişletmeye yöneliktir. Bunun aksine, çıkarım ağları öncelikle yapay zeka odaklı veri analizlerinin blok zincirine entegre edilmesi ve yönetilmesiyle ilgilidir. Her biri, blockchain ve yapay zeka entegrasyonunun farklı yönlerine göre uyarlanmış benzersiz bir amaca hizmet eder.
Aracı ağları öncelikle büyük dil modellerine (LLM'ler) odaklanır ve bu aracıların entegrasyonunu kolaylaştırmak için Langchain gibi düzenleme araçları sağlar. Geliştiriciler için bu, kendi makine öğrenimi modellerini sıfırdan geliştirmeye gerek olmadığı anlamına gelir. Bunun yerine, model geliştirme ve konuşlandırmanın karmaşıklığı, çıkarım ağı tarafından ortadan kaldırılarak, uygun araçlar ve bağlamlar kullanılarak aracıların kolayca bağlanmasına olanak sağlanır. Çoğu durumda, son kullanıcılar bu aracılarla doğrudan etkileşime girerek kullanıcı deneyimini basitleştirir.
Bunun tersine, çıkarım ağı, aracı ağının operasyonel omurgasını oluşturarak geliştiricilere daha düşük düzeyde erişim sağlar. Aracı ağlardan farklı olarak çıkarım ağları, son kullanıcılar tarafından doğrudan kullanılmaz. Geliştiricilerin, LLM'lerle sınırlı olmayan modellerini dağıtmaları gerekir ve bu modellere zincir dışı veya zincir içi noktalar aracılığıyla erişebilirler.
İlginç bir şekilde, aracı ağları ve çıkarım ağları bazı durumlarda birleşmeye başlıyor ve hem aracı hem de çıkarım işlevlerini sunan dikey olarak entegre ürünler ortaya çıkıyor. Her iki işlev de benzer bir altyapı omurgasını paylaştığından bu entegrasyon mantıklıdır.
Çıkarım ve Aracı Ağlarının Karşılaştırılması:
| Çıkarım Ağı | Temsilci Ağı |
---|---|---|
Müşterileri Hedefleyin | Geliştiriciler | Son kullanıcılar/Geliştiriciler |
Desteklenen Modeller | Yüksek Lisans, Sinir Ağları, Geleneksel ML modelleri | Öncelikle Yüksek Lisans |
Altyapı | Çeşitli modelleri destekler | Öncelikle popüler Yüksek Lisans Programlarını destekler |
Özelleştirilebilirlik | Geniş model uyarlanabilirliği | İstemler ve araçlarla yapılandırılabilir |
Popüler Projeler | Ritüel, Değerlik | Sürü, Myshell, Theoriq, Olas |
Model geliştirme sürecini daha derinlemesine araştırdıkça web3 alanlarında çok sayıda fırsat ortaya çıkıyor:
Ağların tek bir hesaplama katmanından kapsamlı, çok işlevli makine öğrenimi çözümleri sağlamaya çalıştığı dikey entegrasyona yönelik eğilim açıkça görülmektedir. Bu yaklaşım, Web3 ML geliştiricileri için kolaylaştırılmış, hepsi bir arada bir çözüm vaat ederek yapay zeka ve blockchain teknolojilerinin entegrasyonunu ileriye taşıyor.
Zincir üstü çıkarım, olağanüstü doğrulanabilirlik ve akıllı sözleşmeler gibi arka uç sistemlerle kusursuz entegrasyon sunarken, maliyetli ve yavaş olmaya devam ediyor. Gelecekte hibrit bir yaklaşım hayal ediyorum. Verimlilik için bazı çıkarım görevlerinin ön uçta zincir dışında gerçekleştirildiği, kritik, karar merkezli çıkarım görevlerinin ise zincir üzerinde gerçekleştirilmeye devam edildiği bir karışım görmemiz muhtemel. Bu paradigma halihazırda mobil cihazlarda uygulanmaktadır. Mobil yeteneklerin avantajından yararlanarak, daha küçük modeller hızlı yanıtlar için yerel olarak çalıştırılırken, daha karmaşık hesaplamalar daha büyük Dil Modellerinden (LLM'ler) yararlanılarak buluta aktarılır.