Üretken Yapay Zekanın Gerçek Fiyatı Nedir?

TL;DR

• Üretken yapay zekayı iş dünyasında uygulamanın maliyeti, ince ayarlı bir açık kaynak modeline dayalı, özel üretim bir yapay zeka çözümü için ayda birkaç yüz dolardan 190.000 dolara (ve giderek de artıyor) kadar değişebilir.
• Bu üretken yapay zeka maliyet farkı, geliştirmek istediğiniz görevler, bu görevlere en uygun model ve seçilen uygulama yaklaşımı gibi çeşitli faktörlerden kaynaklanmaktadır.
• İlgili giderleri optimize etmek için proje gereksinimlerinizi dikkatli bir şekilde değerlendirmeniz, şirket içi ve bulut altyapı giderlerini değerlendirmeniz ve şirket içi yapay zeka yeteneğini işe almakla projeyi üçüncü tarafa dış kaynak olarak kullanmak arasında seçim yapmanız gerekir.

Üretken yapay zekanın (Gen AI) geleneksel yapay zekayla nasıl karşılaştırıldığını ve teknolojinin ne gibi avantaj ve dezavantajlara sahip olduğunu size daha önce anlatmıştık. ITRex üretken yapay zeka danışmanlık ekibi ayrıca sağlık hizmetleri , perakende ve tedarik zincirleri de dahil olmak üzere çeşitli sektörlerde Gen Yapay Zeka'nın kullanım örneklerini de inceledi.

Ek olarak, yapay zeka sistemleri, altyapı ve tümünü oluşturmanın maliyetini değerlendirdik ve makine öğrenimi (ML) maliyetlerini yakından inceledik; eğitim verilerinin hazırlanması, modellerde ince ayar yapılması ve ML destekli çözümlerin dağıtılmasıyla ilgili masrafları hesapladık. .

Artık iş dünyasında üretken yapay zeka uygulamasının maliyetini çözmenin zamanı geldi.

Projenizin ayrıntıları henüz bizim için bilinmediğinden bu analiz zorlayıcı olabilir.

Bununla birlikte, Gen Yapay Zeka hizmetlerinin fiyatlandırmasını araştırmak ve Yapay Zeka Kuşağı proje maliyetlerinin ardındaki temel faktörleri sıralamak için üretken yapay zeka danışmanlık uzmanlığımızdan yararlanabiliriz. Bu şekilde, sizi bilinçli kararlar vermeniz için gereken bilgiyle donatacağız ve hızla gelişen bu teknoloji ortamında işinize önemli ölçüde zaman ve kaynak tasarrufu sağlama potansiyeline sahip olacağız.

İlgili? O halde hemen dalalım!

Bir modelin seçimi ve uygulama yaklaşımı, üretken yapay zekanın maliyetini etkileyen temel faktörlerdir.

Üretken yapay zekayı şirketinizin teknoloji yığınına dahil etmeyi düşünürken aşağıdakileri dikkate almak kritik öneme sahiptir:

• Üretken yapay zeka ile hangi iş görevlerini geliştireceksiniz?
• Bu görevler için hangi model yeterli olacaktır?

Üretken yapay zeka çözümlerinin kalbinde temel modeller, yani muazzam miktarda veriyle eğitilmiş büyük modeller yer alır. Temel modeller, temel olarak, ısmarlama Nesil Yapay Zeka çözümleri oluşturmak, geliştirme sürecini basitleştirmek ve üretken Yapay Zeka maliyetlerini düşürmek için bir temel görevi görüyor. Yetenekleri genellikle doğal dil işlemeyi (NLP), bilgisayarla görmeyi (CV) ve içerik oluşturmayı içerir.

Temel modellerin bilişsel yetenekleri büyük ölçüde eğitildikleri parametrelerin sayısına bağlıdır. Bu bağlamda parametreler, bir sinir ağındaki ağırlıklar gibi eğitim verilerinden öğrenilen model öğelerini ifade eder. Bu parametreler modelin kararlar almasına ve tahminlerde bulunmasına yardımcı olur. Aşağıdaki tablo, parametre sayısı (esasen bu karar verme öğelerinin hacmi) ile modelin bilişsel yetenekleri arasındaki ilişkiyi göstermektedir.

Ancak temel modellerinin yeteneklerini etkileyen tek faktör parametre sayısı değildir. Eğitim verilerinin kalitesi ve çeşitliliği de aynı derecede önemlidir. Eğitim verileri, modelin yeni verileri anlamasına ve yorumlamasına yardımcı olan çok çeşitli örnekleri kapsayan, öğrenilecek modele beslenen bilgilerdir. Ek olarak, modelin verilerden ne kadar etkili bir şekilde öğrendiğini belirleyen modelin mimarisi (yani parametrelerin ve verilerin nasıl etkileşime girdiğinin yapısal tasarımı) ve öğrenme algoritmalarının verimliliği kritik roller oynar. Sonuç olarak, bazı görevlerde daha az parametreye sahip ancak daha iyi eğitim verisine sahip veya daha verimli bir mimariye sahip bir model, daha büyük bir modelden daha iyi performans gösterebilir.

Şirketiniz hem etkili hem de üretken yapay zekanın maliyetine ilişkin beklentilerinizi karşılayan bir temel modelini nasıl seçebilir?

Mevcut tüm üretken yapay zeka modelleri kabaca iki türe ayrılabilir:

• Kapalı kaynaklı modeller Google, Meta, Microsoft ve OpenAI gibi büyük teknoloji şirketleri tarafından geliştirilmektedir. Kaynak kodları, mimarileri ve uygulama programlama arayüzleri (API'ler) tamamen özel mülkiyette olabilir veya üçüncü tarafların kullanımına sunulabilir (genellikle bir ücret karşılığında, bu da aslında üretken yapay zeka çözümünün maliyetidir). Bazı durumlarda verilerinizi kullanarak kapalı kaynak modellerin performansına ince ayar yapabilirsiniz. Bu makalenin amacı doğrultusunda kapalı kaynak modellerden ticari olarak temin edilebilen üretken yapay zeka çözümleri olarak bahsedeceğiz. Bu tür modellerin en büyük avantajı bulut altyapısıyla birlikte gelmesi ve bakımının tamamen orijinal geliştirici tarafından yapılmasıdır.
• Açık kaynaklı modellerin kaynak kodları, eğitim teknikleri ve hatta bazen eğitim verileri bile halkın kullanımına ve modifikasyonuna açıktır. Şirketiniz bu modelleri "olduğu gibi" kullanabilir veya daha iyi doğruluk ve performans elde etmek için bunları kendi verileriniz üzerinde yeniden eğitebilir. Ancak modelin çalışabilmesi için şirket içi veya bulut altyapısı kurmanız gerekir. Dolayısıyla bu tür üretken yapay zeka modellerinin maliyeti, bilgi işlem maliyetlerini ve Gen Yapay Zeka çözümünü geliştirmeyi seçerseniz model eğitimiyle ilgili masrafları da içerecektir.

Kapalı kaynak ve açık kaynak modellerin özelliklerine hızlı bir genel bakış için aşağıdaki tabloya göz atın.

Özetleyelim.

Şirketiniz üretken yapay zekayı uygulamayı düşünüyorsa bunu yapmanın dört temel yolu vardır:

1. Özelleştirme olmadan kapalı kaynak modellerin kullanılması . Üretken yapay zeka öncüleri, OpenAI'nin ChatGPT, Google Bard, Claude ve Synthesia gibi kullanıma hazır ürünlerini API'leri kullanarak uygulamalarına entegre edebilir. Entegrasyon süreci oldukça basittir ve üretken yapay zeka fiyatlandırması da öyle (bu konuya daha sonra değineceğiz). Ticari olarak satılan ürünler sıklıkla güncellenmekte ve yapay zeka geliştiricileri için kapsamlı belgeler sağlamaktadır. Dezavantajı mı? Kişiselleştirme seçenekleriniz sınırlı olacak ve müşteri desteği sorgularını yönetmek veya görsel içerik üretmek gibi hayati iş görevleri için büyük ölçüde harici bir şirkete bağlı kalacaksınız.
2. Ticari olarak mevcut çözümleri kurumsal verileriniz üzerinde yeniden eğitmek . Bu senaryoda şirket içi yapay zeka ekibiniz, OpenAI gibi belirli bir satıcı tarafından geliştirilen mevcut bir üretken yapay zeka ürününü seçecek ve kendi verilerinizi kullanarak bu üründe ince ayar yapacaktır. Özelleştirilmiş Nesil Yapay Zeka çözümleri, kullanıcı sorularını daha iyi anlayacak ve daha doğru yanıtlar üretecektir. Ancak satıcı, sorgularınızı çalıştırmak için yine de küçük bir ücret talep edecektir; dolayısıyla, nihai üretken yapay zeka maliyeti, hem operasyonel hem de özelleştirme giderlerinden oluşacaktır.
3. Açık kaynaklı temel modellerini "olduğu gibi" kullanmak. Abartılı bir şekilde, şirketiniz RoBERTa, GPT-2, GPT-Neo veya başka herhangi bir açık kaynak modelini seçebilir ve bunu daha fazla eğitim gerektirmeden müşteri e-postalarını yanıtlama gibi iş görevlerine uygulayabilir. Ancak üretken yapay zekanın maliyeti, modelin tükettiği bilgi işlem kaynaklarına göre belirlenecek. Ayrıca Gen AI çözümünüz, alışılmadık veriler ve görevlerle karşılaştığında düşük performans gösterebilir.
4. Açık kaynak modellerini verileriniz üzerinde yeniden eğitme . Bu durumda, Gen AI model eğitimi için belirli verileri edinip hazırlamanız, model eğitimi ve operasyonları için şirket içi veya bulut sunucuları sağlamanız ve görevleriniz geliştikçe modelde ince ayar yapmaya ve güncellemeye devam etmeniz gerekecektir. Bu özel yaklaşım üstün model performansını garanti ederken aynı zamanda daha yüksek üretken yapay zeka maliyetlerini de beraberinde getiriyor.

Artık uygulama seçeneklerinizi bildiğinize göre, bu seçeneklerin gerektirdiği üretken yapay zekanın maliyetine yakından bakalım.

Uygulama senaryosuna dayalı olarak üretken yapay zeka fiyatlandırmasına ilişkin içgörü

Ticari olarak satılan Nesil Yapay Zeka araçlarının maliyeti

Metin işlemeyi ve oluşturmayı kolaylaştıran kullanıma hazır hizmetler, genellikle giriş veya çıkış metnindeki karakter veya belirteç sayısına (yani noktalama işaretlerinden kelimelere ve diğer sözdizimi öğelerine kadar değişebilen temel metin birimleri) göre ücretlendirme yapar. .

Bunun pratikte nasıl işlediği aşağıda açıklanmıştır:

1. Karakter tabanlı faturalandırma Google'ın Vertex AI tarafından desteklenen Gen AI araçları gibi bazı çözümler, kullanıcıları giriş ve çıkış metnindeki karakter sayısına göre faturalandırır. Her harfi, rakamı, boşluğu ve noktalama işaretini bir karakter olarak sayarlar. Örneğin Vertex tarafından desteklenen PaLM 2 for Text modelinin üretken yapay zeka fiyatlandırması, giriş ve çıkış metni için (ayrıca faturalandırılır) 1.000 karakter başına 0,0005 ABD dolarından başlar.

2. Jeton bazlı faturalandırma Daha gelişmiş Nesil Yapay Zeka araçları, metni karakterler yerine belirteçlere ayırma eğilimindedir. Modelin eğitim ve işleme yöntemlerine bağlı olarak bir simge, bir noktalama işareti, bir sözcük veya bir sözcüğün parçası olabilir. Örneğin OpenAI, bir jetonu yaklaşık dört karakterden oluşan bir grup olarak tanımlar. "Tom Jill'e çiçek getirdi" gibi basit bir cümle. "getirildi" ve "çiçekler" kelimeleri dört karakterlik eşiği biraz aştığı için sekiz jetondan oluşacaktır. Bu tür üretken yapay zeka çözümlerinin maliyeti büyük ölçüde seçtiğiniz dil modeline bağlıdır. Piyasadaki en gelişmiş araçlardan biri olan OpenAI'nin GPT-4 Turbo'su, giriş metni için 1.000 jeton başına 0,01 ABD Doları ve çıktı metni için 1.000 jeton başına 0,03 ABD Doları ücret alır. Eski sürümü olan GPT-3.5 Turbo için fiyatlar önemli ölçüde daha düşük olup, giriş metni için 1.000 jeton başına 0,001 ABD Doları ile çıktı metni için 1.000 jeton başına 0,002 ABD Doları arasında değişmektedir.

   Farklı üretken yapay zeka sağlayıcılarının farklı karakter ve simge kavramlarına sahip olduğu unutulmamalıdır. En uygun maliyetli seçeneği seçmek için belgelerini ve planlarını incelemeli ve hangi ürünün benzersiz iş gereksinimlerinize en uygun olduğunu düşünmelisiniz. Örneğin, görevleriniz analiz yerine metin oluşturma etrafında dönüyorsa, daha düşük çıktı oranlarına sahip üretken bir yapay zeka hizmeti daha uygun olacaktır.

Bu arada, görsel içerik oluşturmaya yönelik Nesil Yapay Zeka hizmetleri, kullanıcılardan oluşturulan görüntü başına ücret alma eğilimindedir; ücretler görüntü boyutuna ve kalitesine bağlıdır. DALL·E 3 tarafından standart kalitede üretilen 1024 x 1024 piksellik tek bir görüntünün maliyeti 0,04 ABD dolarıdır. Daha büyük görseller (1024×1792 piksel) ve yüksek çözünürlüklü görseller için fiyat, adet başına 0,08-0,12 dolara kadar çıkacak.

Fiyatlandırma konusunda daha geleneksel bir yaklaşım benimseyen Synthesia.io gibi anahtar teslim Nesil Yapay Zeka platformlarını da unutmayın. Pazarlama ekibiniz video oluşturma sürecini hızlandırmak istiyorsa, aracı yılda 804 $ gibi düşük bir ücret karşılığında deneyebilirsiniz.

Ticari olarak satılan Nesil Yapay Zeka ürünlerini özelleştirmenin maliyeti

Önceki bölümde görebileceğiniz gibi, hazır Nesil Yapay Zeka ürünlerinin çoğunluğu kullandıkça öde para kazanma stratejisinden yararlanıyor.

Fiyatlandırma modelleri ilk bakışta oldukça basit görünse de, özellikle çeşitli departmanlarda birden fazla üretken yapay zeka kullanım senaryosunu keşfetmeye çalışıyorsanız, çalışanlarınızın kaç sorgu çalıştıracağını tahmin etmek zor olabilir.

Bu, bulut bilişimin ilk günlerinde olduğu gibi, Gen AI araçlarının fiyatlandırması ve toplam sahip olma maliyeti konusunda kafa karışıklığına neden oluyor.

Ticari Nesil Yapay Zeka çözümlerini kullanmanın bir diğer dezavantajı ise ChatGPT gibi genel amaçlı ürünlerin, şirketinizin yapısına, ürünlerine ve hizmetlerine aşinalık gibi bağlamsal bilgilerin eksik olmasıdır. Bu, istem mühendisliğinde uzmanlaşsanız bile müşteri desteği ve rapor oluşturma gibi operasyonları yapay zeka yetenekleriyle güçlendirmeyi zorlaştırır.

McKinsey Kıdemli Ortağı Eric Lamarre'ye göre bu sorunu çözmek için kuruluşların " model tarafından tüketilebilecek bir veri ortamı yaratması gerekiyor. Başka bir deyişle, ticari olarak mevcut olan Nesil Yapay Zeka araçlarını kurumsal verileriniz ve API'ler aracılığıyla harici kaynaklardan alınan bilgiler üzerinde yeniden eğitmeniz gerekecek.

Hedefe ulaşmanın iki yolu vardır ve her senaryoda üretken yapay zekanın maliyetini etkileyecek çeşitli faktörler vardır:

• Üretken yapay zeka yetenekleriyle hizmet olarak yazılım (SaaS) platformlarını kullanma . SAP, TIBCO Spotfire ve Salesforce dahil olmak üzere birçok önde gelen SaaS satıcısı, müşteri verileri kullanılarak ince ayar yapılabilecek üretken yapay zeka hizmetlerini kullanıma sunuyor. Örneğin Salesforce, müşteri sorularına kişiselleştirilmiş yanıtlar oluşturmak için Salesforce Veri Bulutu'ndan özel verileri çeken, etkileşimli bir yapay zeka asistanı olan Einstein Copilot'u piyasaya sürdü. Akıllı asistanın kullandığı bilgiler arasında Slack konuşmaları, telemetri, kurumsal içerik ve diğer yapılandırılmış ve yapılandırılmamış veriler yer alıyor. Salesforce müşterileri ayrıca Einstein Copilot Studio'nun kodsuz Prompt Builder ve Model Builder araçlarını kullanarak özel yapay zeka modelleri, becerileri ve istemleri oluşturabilir. Şu an itibariyle, ikinci araç OpenAI'nin büyük dil modellerini (LLM'ler) destekliyor ancak ürünü Amazon Bedrock ve Vertex AI dahil diğer üçüncü taraf çözümlerle entegre etme planları var. Einstein Copilot hala pilot aşamasında olduğundan (kelime oyunu değil), üretken yapay zeka fiyatlandırma bilgileri henüz açıklanmadı. Ancak üretken AI Satış GPT asistanının şu anda kullanıcı başına aylık toplam 50 ABD doları tutarındaki maliyeti, size ne bekleyeceğiniz konusunda genel bir fikir verebilir.
• Kurumsal yazılımınızı API'ler üzerinden Gen AI çözümleriyle entegre etme ve verileriniz üzerindeki modelleri yeniden eğitme . Üretken yapay zeka uygulamasının maliyetini azaltmak için, uygulamalarınızı doğrudan API düzeyinde ticari Nesil Yapay Zeka çözümleriyle birleştirerek aracı SaaS araçlarını ortadan kaldırabilirsiniz. Örneğin, müşteri desteği sohbet robotunuzu Gen AI yetenekleriyle güçlendirmek istiyorsanız, OpenAI API'yi kullanarak onu OpenAI modellerinden biriyle (örneğin, GPT-3.5 veya GPT-4) senkronize edebilirsiniz. Daha sonra, verilerinizi makine öğrenimi için hazırlamanız , verileri OpenAI'ye yüklemeniz ve OpenAI CLI aracını ve Open AI Python Kitaplığını kullanarak ince ayar sürecini yönetmeniz gerekir. Modelin ince ayarını yaparken sizden 1.000 jeton (GPT-3.5) başına 0,008 ABD doları ücret alınacaktır. Modeliniz üretime girdiğinde girdi ve çıktı oranları sırasıyla 1.000 token başına 0,003 ABD Doları ve bin token başına 0,006 ABD Doları olacaktır. Verilerinizi OpenAI sunucularında barındırmayı seçmeniz koşuluyla, üretken yapay zekanın genel maliyeti depolama maliyetlerini de içerecektir. Veri depolama giderleri, nihai tahmine günde 1 GB veri başına 0,2 ABD doları ekleyebilir . Veri hazırlama ve modelde ince ayar yapma çabalarını da unutmayın. BT departmanınız gerekli becerilere sahip olmadığı sürece güvenilir bir yapay zeka geliştirme hizmetleri şirketiyle ortaklık yapmanız gerekecektir.

Açık kaynaklı Nesil Yapay Zeka modellerini "olduğu gibi" kullanmanın maliyeti

Yasal Uyarı : Sıfırdan ChatGPT'ye benzer özel bir temel modeli oluşturmanızı önermiyoruz; bu , 540 milyon dolarlık kayıplarını dengelemek için OpenAI'nin Microsoft desteği gibi önemli desteğe sahip olanlara bırakılması en iyi girişimdir.

GPT-3 gibi daha temel temel modeller bile başlangıç eğitim ve dağıtım maliyetlerini 4 milyon doları aşabilir. Üstelik bu temel modellerinin karmaşıklığı son yıllarda şaşırtıcı bir oranda arttı.

Büyük yapay zeka modellerini eğitmek için gereken bilgi işlem kaynaklarının miktarı her 3,5 ayda bir iki katına çıkıyor . Temel modellerin karmaşıklığı da değişiyor. Örneğin 2016 yılında Bert-Large 340 milyon parametreyle eğitildi. Karşılaştırıldığında, OpenAI'nin GPT-3 modeli yaklaşık 175 milyar parametreyle eğitildi .

İyi haber şu ki, temel modeller zaten mevcut ve bu da işletmelerin üretken yapay zeka uygulama maliyetlerini optimize ederken onlarla denemeler yapmasını nispeten kolaylaştırıyor.

Temel modellere yapay zeka yazılım mühendisleri için bir araç seti gözüyle bakabiliriz, çünkü bunlar karmaşık sorunları çözmek için bir başlangıç noktası sağlarken özelleştirmeye de yer bırakır.

Mevcut temel modellerini kabaca üç kategoriye ayırabiliriz:

• Dil modelleri metin çevirisi, oluşturma ve soru yanıtlama görevlerini yerine getirmek üzere tasarlanmıştır
• Bilgisayarla görme modelleri görüntü sınıflandırma, nesne algılama ve yüz tanıma konularında üstündür
• Üçüncü kategori olan üretken yapay zeka modelleri, bir modelin tükettiği verilere benzeyen içerik oluşturur. Bu içerik yeni görseller, simülasyonlar veya bazı durumlarda metinsel bilgiler içerebilir.

İhtiyaçlarınıza en uygun açık kaynak modelini seçtikten sonra bunu API'leri kullanarak yazılımınıza entegre edebilir ve kendi sunucu altyapınızı kullanabilirsiniz.

Bu yaklaşım aşağıdaki üretken yapay zeka maliyetlerini içerir:

1. Donanım maliyetleri . Yapay zeka modellerini, özellikle de büyük olanları çalıştırmak, önemli hesaplama kaynakları gerektirir. Şirketinizde uygun donanım yoksa güçlü GPU'lara veya CPU'lara yatırım yapmanız gerekebilir ve bu da pahalı olabilir. Modeliniz nispeten küçükse NVIDIA RTX 3080 veya benzeri gibi üst düzey bir GPU yeterli olabilir. Böyle bir GPU'nun maliyeti 700 ila 1.500 dolar arasında değişebilir. GPT-2 veya benzeri büyük modeller için birden fazla üst düzey GPU'ya ve hatta özel yapay zeka hızlandırıcılara ihtiyacınız var. Örneğin tek bir NVIDIA A100 GPU'nun maliyeti 10.000 ila 20.000 ABD Doları arasında olabilir. Bu nedenle, birden fazla GPU içeren bir kurulumun maliyeti 30.000 ila 50.000 ABD Doları arasında olabilir.
2. Bulut bilişim maliyetleri . Donanım satın almaya alternatif olarak bulut bilişim kaynaklarını Amazon Web Services (AWS), Google Cloud Platform (GCP) veya Microsoft Azure gibi sağlayıcılardan kiralayabilirsiniz. Bu hizmetler kullanıma göre ücretlendirilir; dolayısıyla maliyetler, bilgi işlem süresi ve depolama açısından kaynaklarını ne kadar kullandığınıza bağlı olacaktır. Örneğin, AWS'deki GPU bulut sunucularının (P3 veya P4 gibi) maliyeti, bulut sunucusu türüne bağlı olarak saat başına 3 ila 24 ABD doları arasında olabilir.
3. Elektrik ve bakım . Kendi donanımınızı kullanırsanız, makinelerin ve muhtemelen ek soğutma sistemlerinin çalıştırılması için elektrik maliyetlerine maruz kalırsınız. Donanımın bakım maliyetleri de artabilir.
4. Entegrasyon ve dağıtım . Yapay zeka modelini mevcut sistemlerinize entegre etmek ve (özellikle üretim ortamında) dağıtmak, ek yazılım geliştirme çabaları gerektirebilir ve bu da işçilik maliyetlerine neden olabilir. Yapay zeka geliştirmeyi bir yazılım geliştirme şirketine dış kaynak olarak sağlamanın maliyeti saatte 50 ila 200 dolar arasında değişebilir; toplam giderler ise birkaç bin ila onbinlerce dolar arasında değişebilir.
5. Veri depolama ve yönetimi . Modelin kullandığı verileri depolamak ve yönetmek, özellikle büyük veri kümeleriyle uğraşırken veya bulut depolama çözümleri kullanırken maliyetli olabilir. Yerinde kurulumlar için, üretken yapay zeka verilerini depolamanın maliyeti, eğitim veri kümesinin boyutuna ve yedeklilik ihtiyaçlarına bağlı olarak 1.000 ila 10.000 ABD Doları arasında değişebilir. AWS S3 gibi bulut tabanlı veri depolama çözümlerinin ücretleri, operasyonlar ve veri aktarımı için ekstra maliyetlerle birlikte GB başına aylık 0,021 ABD Doları ile 0,023 ABD Doları arasında değişebilir.

Sonuç olarak, üretken bir yapay zeka temel modelini "olduğu gibi" benimsemenin ve bunu kendi altyapınıza yerleştirmenin şirketinize maliyeti ne kadar olabilir?

Şirket içi GPT-2 gibi orta derecede büyük bir modeli kullanmayı hedefleyen orta ölçekli bir kuruluş için ilgili üretken yapay zeka maliyetleri aşağıdakileri kapsayabilir:

• Donanım : 20.000 ABD Doları – 50.000 ABD Doları (birkaç üst düzey GPU veya temel çoklu GPU kurulumu için)
• Elektrik ve bakım : Yılda yaklaşık 2.000 ila 5.000 ABD Doları
• Entegrasyon ve dağıtım : 10.000 ABD Doları – 30.000 ABD Doları (orta düzeyde entegrasyon karmaşıklığı varsayılarak)
• Veri depolama ve yönetimi : 5.000 ABD Doları – 15.000 ABD Doları (veri boyutuna göre değişir)

Üretken bir yapay zeka çözümü kurmanın ve çalıştırmanın toplam maliyeti aşağıdakileri içerecektir:

• İlk dağıtım giderleri : Yaklaşık 37.000 ila 100.000 ABD Doları (donanım + ilk entegrasyon ve depolama kurulumu)
• Tekrarlayan harcamalar : 7.000 ila 20.000 ABD Doları (elektrik, bakım, devam eden entegrasyon ve veri yönetimi maliyetleri dahil)

Bu basketbol sahası tahminleri, belirli gereksinimlere, konuma ve pazar koşullarına göre önemli ölçüde değişiklik gösterebilir. Daha kişisel ve doğru bir tahmin için bir uzmana danışmak her zaman en iyisidir. Ayrıca, en güncel fiyatlar için donanım ve bulut hizmetlerine yönelik mevcut piyasa oranlarını kontrol etmek iyi bir fikirdir.

Verilerinizi kullanarak açık kaynaklı Nesil Yapay Zeka çözümlerini yeniden eğitmenin maliyeti

Şirketiniz açık kaynaklı bir temel modelini ayarlamayı düşünüyorsa üretken yapay zeka uygulama maliyetini etkileyebilecek faktörleri dikkate almak önemlidir.

Bu faktörler şunları kapsar:

1. Modeli boyutu . GPT-3 gibi daha büyük modellerde ince ayar yapmak ve dağıtmak için daha fazla kaynak gerekir. Sonuç olarak, üretken yapay zekanın maliyeti, modelin boyutu ve karmaşıklığı arttıkça artar. Bu arada GPT-2, XLNet ve StyleGAN2 gibi daha basit açık kaynak temel modelleri aynı düzeyde tutarlılık ve alaka düzeyine sahip içerik üretemez.
2. Hesaplamalı kaynaklar . Şirketinizin verilerini kullanarak bir temel modeli yeniden eğitmek, önemli düzeyde bilgi işlem gücü gerektirir. Dolayısıyla üretken bir yapay zeka çözümünün maliyeti, kendi donanımınızı mı yoksa bulut hizmetlerinizi mi kullandığınıza bağlıdır; ikincisinin fiyatı ise bulut sağlayıcısına ve operasyonlarınızın ölçeğine göre değişir. Daha basit bir modeli seçip şirket içinde dağıtırsanız, üretken yapay zeka çözümüne ince ayar yapmak için GPU maliyetlerinde 10.000-30.000 ABD doları harcamanız beklenir. Bulut bilişimde, bulut sunucusu türüne bağlı olarak masraflar saat başına 1 ila 10 ABD Doları arasında değişebilir. GPT-3 benzeri açık kaynaklı modeller, 50.000 ila 100.000 ABD Doları arasında daha gelişmiş bir GPU kurulumu gerektirir. İlgili bulut bilişim giderleri, ileri teknoloji GPU örnekleri için saat başına 10 ila 24 ABD Doları arasında değişebilir.
3. Veri Hazırlama . Temel modellerde ince ayar yapmak için verilerinizi toplama, temizleme ve hazırlama süreci kaynak açısından yoğun olabilir. Bu nedenle, üretken yapay zeka uygulamasının maliyeti, şirketinizde kendi verileriniz yoksa veya güvenlik ve gizlilik nedenleriyle bunları kullanamıyorsa, veri depolama, işleme ve muhtemelen eğitim veri kümelerinin satın alınmasıyla ilgili masrafları içerecektir.
4. Geliştirme süresi ve uzmanlık . Yapay zeka yeteneği ucuza gelmiyor. ABD merkezli bir şirket içi yapay zeka mühendisinin şirketinize yıllık 70.000 ila 200.000 ABD Doları, artı işe alma, maaş bordrosu, sosyal güvenlik ve diğer idari giderlere maliyeti olacaktır . Yapay zeka geliştirme uzmanlığına sahip bir offshore yazılım mühendisliği şirketiyle ortaklık kurarak üretken yapay zeka maliyetlerini azaltabilirsiniz. Konuma bağlı olarak, bu tür şirketlerin Orta Avrupa ve Latin Amerika gibi önemli dış kaynak kullanım yerlerindeki üst düzey geliştirme yetenekleri için saatlik ücretleri 62 ila 95 ABD Doları arasında değişebilmektedir .
5. Bakım maliyetleri . Sürekli çaba ve makine öğrenimi mühendisliği ve operasyon (MLOps) uzmanlığı gerektiren modelin bakımını yapmak, güncellemek ve sorun gidermekten yalnızca siz sorumlu olacaksınız.

Yukarıda belirtilen faktörler göz önüne alındığında, hazır bir temel modele dayalı özelleştirilmiş bir üretken yapay zeka çözümü oluşturmanın gerçekçi maliyeti nedir?

GPT-2 gibi orta büyüklükte bir modele ince ayar yapmak isteyen orta ölçekli bir kuruluş için ilgili üretken yapay zeka uygulama maliyetleri aşağıdakileri kapsayabilir:

• Donanım : 20.000-30.000 ABD Doları (orta düzey bir GPU kurulumu için)
• Geliştirme : Şirket içi ve dış kaynaklı yeteneklerin bir karışımıyla altı aylık bir geliştirme süresi varsayıldığında:
  • Şirket içi: 35.000 ABD Doları – 100.000 ABD Doları (yarı yıllık maaş)
  • Dış kaynak kullanımı: 20.000 ABD Doları – 40.000 ABD Doları (ortalama 75 ABD Doları/saat oranında 400 saat varsayılmaktadır)
• Veri hazırlama : 5.000$–20.000$ (veri boyutuna ve karmaşıklığına göre değişir)
• Bakım : Yıllık 5.000-15.000 ABD Doları (sürekli giderler)

Üretken bir yapay zeka çözümü kurmanın ve çalıştırmanın toplam maliyeti aşağıdakileri içerecektir:

• İlk dağıtım giderleri : Yaklaşık 80.000 ila 190.000 ABD Doları (donanım, geliştirme ve veri hazırlama maliyetleri dahil)
• Tekrarlanan giderler : 5.000 ila 15.000 ABD Doları (bakım ve devam eden maliyetler)

Gerçek Nesil Yapay Zeka geliştirme ve uygulama maliyetleri, belirli proje gereksinimlerine, eğitim verilerinin ve şirket içi yapay zeka yeteneğinin kullanılabilirliğine ve dış kaynak ortağınızın konumuna bağlı olarak değişiklik gösterebilir. En doğru ve güncel fiyatlandırma için doğrudan profesyonellere veya hizmet sağlayıcılara danışmanız tavsiye edilir.

Üretken bir yapay zeka sistemi için 190.000 ABD doları makul olmayan bir şekilde pahalı görünse de, açık kaynaklı temel modelleri kullanarak üretken bir yapay zeka çözümü oluşturmanın maliyeti, ticari olarak mevcut bir aracı tercih etmekten daha düşük olabilir.

ChatGPT dikkat çekmeden önce, AI Dungeon adlı yapay zeka tabanlı macera oyunundan sorumlu öncü girişim Latitude, metin oluşturmak için OpenAI'nin GPT modelini kullanıyordu .

Kullanıcı tabanları büyüdükçe OpenAI'nin faturaları ve Amazon altyapı giderleri de arttı. Bir noktada şirket, artan kullanıcı sorgularının üstesinden gelmek için ilgili maliyetler olarak ayda 200.000 ABD doları ödüyordu.

Yeni bir üretken yapay zeka sağlayıcısına geçtikten sonra şirket, işletme maliyetlerini ayda 100.000 ABD dolarına düşürdü ve para kazanma stratejisini ayarlayarak gelişmiş yapay zeka destekli özellikler için aylık bir abonelik başlattı.

Üretken yapay zeka fiyatlandırmasını optimize ederken doğru uygulama yaklaşımını seçmek için proje gereksinimlerinizi önceden kapsamlı bir şekilde analiz etmek önemlidir. İşte bu nedenle müşterilerimizi her zaman yapay zeka geliştirme girişimlerini bir keşif aşamasıyla başlatmaya teşvik ediyoruz.

Nesil Yapay Zekayı iş hayatında uygularken dikkate alınması gerekenler

Artık üretken yapay zekadan maliyet açısından ne bekleyeceğinizi bildiğinize göre, teknolojinin uygulanmasındaki tuzaklar ve dikkat edilmesi gereken noktalar hakkında konuşmanın zamanı geldi:

• Temel modeller, özellikle de büyük dil modelleri, halüsinasyona neden olabilir ve kullanıcı sorularına görünüşte meşru ancak tamamen yanlış yanıtlar üretebilir. Şirketiniz, eğitim verilerini iyileştirerek, farklı model mimarileri deneyerek ve etkili kullanıcı geri bildirim döngüleri sunarak bu senaryonun önüne geçebilir.
• Nesil yapay zeka çözümleri, hızla geçerliliğini yitiren büyük miktarda veri kullanılarak eğitilir. Sonuç olarak modelinizi düzenli olarak yeniden eğitmeniz gerekecek ve bu da üretken yapay zeka uygulamasının maliyetini artıracaktır.
• Elektronik sağlık kaydı (EHR) girişleri gibi belirli veriler üzerinde eğitilen temel modeller, kendi acil uzmanlıklarının dışında geçerli içerik üretmede zorluk yaşayabilir. Genel amaçlı modeller ise alana özgü kullanıcı sorgularıyla mücadele ediyor. Bu sorunu çözmenin bazı yolları arasında hibrit modeller oluşturmak, transfer öğrenme tekniklerinden yararlanmak ve kullanıcı geri bildirimleri yoluyla modellere ince ayar yapmak yer alır.
• Nesil yapay zeka çözümleri doğası gereği kara kutudur; yani neden belirli sonuçları ürettikleri ve doğruluklarının nasıl değerlendirileceği nadiren açıktır. Bu anlayış eksikliği, geliştiricilerin modellerde ince ayar yapmasını engelleyebilir. Üretken yapay zeka modeli eğitimi sırasında model yorumlanabilirlik tekniklerini, dikkat mekanizmalarını ve denetim izlerini tanıtmak gibi açıklanabilir yapay zeka ilkelerini takip ederek modelin karar verme süreci hakkında bilgi edinebilir ve performansını optimize edebilirsiniz.

Ayrıca, üretken yapay zeka uygulamasına başlamadan önce şirketinizin yanıtlaması gereken birkaç soru vardır:

• Şirketinizin üretici yapay zekayı yalnızca teknolojinin satıcıya bağlılığı önleyerek farklılaştırıcı olacağı işlevlerde benimsediğini doğrulamak için sağlam bir satın alma ve oluşturma stratejisi var mı? Bu strateji, değişiklik yönetimi ve Gen AI ölçeklendirmesine yönelik ayrıntılı bir yol haritasıyla ve ihtiyaç duyulması halinde tüm iş süreçlerinin yeniden tasarlanmasına yönelik hükümlerle güçlendirilmelidir.
• Şirket içi BT departmanınız, karmaşık makine öğrenimi modellerinin ve eğitim verilerinin kalitesini test etmek, ince ayar yapmak ve sürdürmek için yeterli MLOps becerilerine sahip mi? Değilse, bu görevleri yerine getirmesi için zaten güvenilir bir yapay zeka geliştirme şirketi seçtiniz mi?
• Hem bulutta hem de uçta önemli miktarda bilgi işlem kaynağınız var mı? Ayrıca, BT altyapınızın ölçeklenebilirliğinin yanı sıra Gen AI modellerini farklı görevler, süreçler ve birimlerde yeniden kullanma olasılığını değerlendirmek de önemlidir.
• Şirketiniz veya yapay zeka geliştirme ortağınız , konsept kanıtı (PoC) yoluyla Gen Yapay Zeka'nın fizibilitesini test etme ve deneylerinizi kontrollü sanal alan ortamının dışına ölçeklendirme becerisine sahip mi?
• Son olarak, kuruluşunuz hassas bilgileri korumak ve sektöre ve bölgeye özgü düzenlemelere uyumu sağlamak için etkili gizlilik ve güvenlik mekanizmalarına sahip mi?

İyi düşünülmüş bir uygulama planına sahip olmak, yalnızca teknolojiyi risksiz bir şekilde benimsemenize ve avantajlardan daha hızlı yararlanmanıza yardımcı olmakla kalmayacak, aynı zamanda üretken yapay zekanın maliyetini de azaltacaktır.

Nesil Yapay Zekanın iş süreçlerini yenilemenize, doğru Nesil Yapay Zeka uygulama yaklaşımını seçmenize ve üretken Yapay Zeka maliyetlerini optimize etmenize yardımcı olup olmayacağını anlamak için üretken Yapay Zeka danışmanlık hizmetlerimizden yararlanın. Topu yuvarlamak için bize yazın !

Burada da yayınlandı.