জেনারেটিভ এআই এর আসল দাম কত?

টিএল; ডিআর

• ব্যবসায় জেনারেটিভ এআই বাস্তবায়নের খরচ প্রতি মাসে কয়েকশ ডলার থেকে শুরু করে $190,000 (এবং গণনা) হতে পারে একটি সূক্ষ্ম-টিউনড ওপেন-সোর্স মডেলের উপর ভিত্তি করে একটি বেসপোক জেনারেটিভ এআই সমাধানের জন্য।
• এই জেনারেটিভ AI খরচের পার্থক্যটি বিভিন্ন কারণের দ্বারা চালিত হয়, যার মধ্যে আপনি যে কাজগুলিকে উন্নত করতে চাইছেন, সেই কাজগুলির জন্য সবচেয়ে উপযুক্ত মডেল এবং নির্বাচিত বাস্তবায়ন পদ্ধতি।
• সংশ্লিষ্ট খরচগুলি অপ্টিমাইজ করার জন্য, আপনাকে আপনার প্রকল্পের প্রয়োজনীয়তাগুলিকে সাবধানে বিবেচনা করতে হবে, অন-প্রিমিসেস এবং ক্লাউড পরিকাঠামোর ব্যয়গুলি মূল্যায়ন করতে হবে এবং ইন-হাউস AI প্রতিভা নিয়োগ এবং তৃতীয় পক্ষের কাছে প্রকল্পটি আউটসোর্সিংয়ের মধ্যে বেছে নিতে হবে।

আমরা ইতিমধ্যেই আপনাকে বলেছি কিভাবে জেনারেটিভ আর্টিফিশিয়াল ইন্টেলিজেন্স (জেন এআই) ঐতিহ্যবাহী এআই-এর সাথে তুলনা করে এবং প্রযুক্তির কী কী সুবিধা এবং অসুবিধা রয়েছে ৷ আইটিআরএক্স জেনারেটিভ এআই কনসাল্টিং টিম স্বাস্থ্যসেবা , খুচরা এবং সাপ্লাই চেইন সহ বিভিন্ন শিল্পে জেনারেল এআই-এর ব্যবহারের ক্ষেত্রেও অনুসন্ধান করেছে।

উপরন্তু, আমরা কৃত্রিম বুদ্ধিমত্তা সিস্টেম, পরিকাঠামো, এবং সমস্ত নির্মাণের খরচ মূল্যায়ন করেছি এবং মেশিন লার্নিং (ML) খরচের উপর জুম করেছি, প্রশিক্ষণের ডেটা, সূক্ষ্ম-টিউনিং মডেল, এবং ML-চালিত সমাধানগুলি স্থাপনের সাথে যুক্ত খরচ গণনা করেছি। .

এখন, ব্যবসায় জেনারেটিভ এআই বাস্তবায়নের খরচ বোঝার সময় এসেছে।

এই বিশ্লেষণটি চ্যালেঞ্জিং হতে পারে, কারণ আপনার প্রকল্পের সুনির্দিষ্ট বিষয়গুলি এখনও আমাদের কাছে অজানা।

যাইহোক, আমরা আমাদের জেনারেটিভ এআই কনসাল্টিং দক্ষতার ব্যবহার করতে পারি জেন এআই পরিষেবার মূল্য নির্ধারণের জন্য এবং জেনারেল এআই প্রকল্পের খরচের পিছনে মূল কারণগুলি গণনা করতে। এইভাবে, আমরা আপনাকে এই দ্রুত বিকশিত প্রযুক্তিগত ল্যান্ডস্কেপে আপনার ব্যবসার যথেষ্ট সময় এবং সম্পদ সাশ্রয় করে জ্ঞাত সিদ্ধান্ত নেওয়ার জ্ঞান দিয়ে সজ্জিত করব।

আগ্রহী? আসুন সরাসরি ভিতরে ডুব দেওয়া যাক!

একটি মডেল এবং বাস্তবায়ন পদ্ধতির পছন্দ হল জেনারেটিভ এআই-এর খরচ প্রভাবিত করার মূল কারণ

আপনার কোম্পানির প্রযুক্তি স্ট্যাকের মধ্যে জেনারেটিভ কৃত্রিম বুদ্ধিমত্তা অন্তর্ভুক্ত করার বিষয়ে চিন্তা করার সময়, নিম্নলিখিতগুলি বিবেচনা করা গুরুত্বপূর্ণ:

• জেনারেটিভ এআই দিয়ে আপনি কোন ব্যবসায়িক কাজগুলিকে উন্নত করতে যাচ্ছেন?
• এই কাজের জন্য কি মডেল যথেষ্ট হবে?

জেনারেটিভ এআই সমাধানের কেন্দ্রবিন্দুতে রয়েছে ফাউন্ডেশন মডেল—অর্থাৎ, প্রচুর পরিমাণে ডেটার উপর প্রশিক্ষিত বড় মডেল। মূলত, ফাউন্ডেশন মডেলগুলি বেসপোক জেন এআই সলিউশন তৈরি, ডেভেলপমেন্ট প্রক্রিয়াকে সহজ করে এবং জেনারেটিভ এআই খরচ কমিয়ে আনার ভিত্তি হিসেবে কাজ করে। তাদের ক্ষমতার মধ্যে সাধারণত প্রাকৃতিক ভাষা প্রক্রিয়াকরণ (এনএলপি), কম্পিউটার ভিশন (সিভি) এবং সামগ্রী তৈরি করা অন্তর্ভুক্ত থাকে।

ফাউন্ডেশন মডেলের জ্ঞানীয় ক্ষমতা মূলত নির্ভর করে কতগুলো প্যারামিটারের উপর তারা প্রশিক্ষিত হয়েছে। এই প্রসঙ্গে, প্যারামিটারগুলি মডেল উপাদানগুলিকে বোঝায় যা প্রশিক্ষণ ডেটা থেকে শেখা হয়, যেমন একটি নিউরাল নেটওয়ার্কে ওজন। এই প্যারামিটারগুলি মডেলকে সিদ্ধান্ত এবং ভবিষ্যদ্বাণী করতে সাহায্য করে। নিম্নলিখিত সারণীটি পরামিতিগুলির সংখ্যার মধ্যে পারস্পরিক সম্পর্ককে ব্যাখ্যা করে - মূলত, এই সিদ্ধান্ত গ্রহণের উপাদানগুলির আয়তন - এবং মডেলের জ্ঞানীয় ক্ষমতা৷

প্যারামিটারের সংখ্যা, তবে, একমাত্র ফ্যাক্টর নয় যা ভিত্তি মডেলের ক্ষমতাকে প্রভাবিত করে। প্রশিক্ষণ তথ্যের গুণমান এবং বৈচিত্র্য সমানভাবে গুরুত্বপূর্ণ। প্রশিক্ষণ ডেটা হল মডেলের মধ্যে দেওয়া তথ্য যা থেকে শেখার জন্য, বিস্তৃত উদাহরণগুলিকে অন্তর্ভুক্ত করে যা মডেলটিকে নতুন ডেটা বুঝতে এবং ব্যাখ্যা করতে সহায়তা করে। উপরন্তু, মডেলের আর্কিটেকচার-অর্থাৎ, প্যারামিটার এবং ডেটা কীভাবে ইন্টারঅ্যাক্ট করে তার কাঠামোগত নকশা-এবং শেখার অ্যালগরিদমের দক্ষতা, যা নির্ধারণ করে যে মডেলটি ডেটা থেকে কতটা কার্যকরভাবে শেখে, গুরুত্বপূর্ণ ভূমিকা পালন করে। ফলস্বরূপ, কিছু কাজের ক্ষেত্রে, কম প্যারামিটার কিন্তু ভালো প্রশিক্ষণ ডেটা বা আরও দক্ষ আর্কিটেকচার সহ একটি মডেল একটি বড় মডেলকে ছাড়িয়ে যেতে পারে।

আপনার কোম্পানী কিভাবে একটি ফাউন্ডেশন মডেল নির্বাচন করতে পারে যা উভয়ই কার্যকর এবং জেনারেটিভ এআই এর খরচ সম্পর্কিত আপনার প্রত্যাশা পূরণ করে?

সমস্ত বিদ্যমান জেনারেটিভ এআই মডেলগুলিকে আলগাভাবে দুটি প্রকারে শ্রেণীবদ্ধ করা যেতে পারে:

• ক্লোজড-সোর্স মডেলগুলি বৃহৎ প্রযুক্তি সংস্থাগুলি যেমন গুগল, মেটা, মাইক্রোসফ্ট এবং ওপেনএআই দ্বারা তৈরি করা হয়। তাদের সোর্স কোড, আর্কিটেকচার, এবং অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেস (APIs) সম্পূর্ণ মালিকানা হতে পারে বা তৃতীয় পক্ষের কাছে উপলব্ধ করা যেতে পারে (সাধারণত একটি ফি দিয়ে, যা মূলত জেনারেটিভ AI সমাধানের খরচ)। কিছু ক্ষেত্রে, আপনি আপনার ডেটা ব্যবহার করে ক্লোজড-সোর্স মডেলের কর্মক্ষমতা সূক্ষ্ম-টিউন করতে পারেন। এই নিবন্ধের উদ্দেশ্যে, আমরা বাণিজ্যিকভাবে উপলব্ধ জেনারেটিভ এআই সমাধান হিসাবে বন্ধ-উৎস মডেলগুলিকে উল্লেখ করব। এই ধরনের মডেলগুলির প্রধান সুবিধা হল তারা একটি ক্লাউড অবকাঠামো সহ আসে এবং মূল বিকাশকারী দ্বারা সম্পূর্ণরূপে রক্ষণাবেক্ষণ করা হয়।
• ওপেন-সোর্স মডেলগুলিতে তাদের সোর্স কোড, প্রশিক্ষণ কৌশল এবং কখনও কখনও এমনকি জনসাধারণের ব্যবহার এবং পরিবর্তনের জন্য উপলব্ধ প্রশিক্ষণ ডেটা থাকে। আপনার কোম্পানি এই ধরনের মডেলগুলিকে "যেমন আছে" ব্যবহার করতে পারে বা আরও সঠিকতা এবং কার্যকারিতা অর্জনের জন্য আপনার নিজের ডেটাতে সেগুলিকে পুনরায় প্রশিক্ষণ দিতে পারে৷ যাইহোক, মডেলটি চালানোর জন্য আপনাকে একটি অন-প্রিমিসেস বা ক্লাউড অবকাঠামো সেট আপ করতে হবে। এই ধরনের জেনারেটিভ এআই মডেলের খরচের মধ্যে থাকবে কম্পিউটিং খরচ এবং, আপনি যদি জেন এআই সলিউশন বাড়ানো বেছে নেন, তাহলে মডেল প্রশিক্ষণের সাথে যুক্ত খরচ।

ক্লোজড-সোর্স এবং ওপেন-সোর্স মডেলের বৈশিষ্ট্যগুলির একটি দ্রুত ওভারভিউয়ের জন্য নীচের টেবিলটি দেখুন।

আসুন সংক্ষিপ্ত করা যাক।

আপনার কোম্পানি যদি জেনারেটিভ এআই বাস্তবায়নের কথা বিবেচনা করে, তাহলে এটি করার চারটি প্রাথমিক উপায় রয়েছে:

1. কাস্টমাইজেশন ছাড়াই ক্লোজড সোর্স মডেল ব্যবহার করা । জেনারেটিভ AI অগ্রগামীরা APIs ব্যবহার করে তাদের অ্যাপ্লিকেশনগুলির সাথে OpenAI এর ChatGPT, Google Bard, Claude এবং Synthesia-এর মতো অফ-দ্য-শেল্ফ পণ্যগুলিকে একীভূত করতে পারে। ইন্টিগ্রেশন প্রক্রিয়া মোটামুটি সহজবোধ্য, এবং তাই জেনারেটিভ এআই মূল্য (পরবর্তীতে আরও)। বাণিজ্যিকভাবে উপলব্ধ পণ্যগুলি ঘন ঘন আপডেট করা হয় এবং এআই বিকাশকারীদের জন্য ব্যাপক ডকুমেন্টেশন সরবরাহ করে। খারাপ দিক? আপনার কাস্টমাইজেশন বিকল্পগুলি সীমিত হবে, এবং গ্রাহক সহায়তার প্রশ্নগুলি পরিচালনা করা বা ভিজ্যুয়াল সামগ্রী তৈরি করার মতো গুরুত্বপূর্ণ ব্যবসায়িক কাজের জন্য আপনি একটি বহিরাগত কোম্পানির উপর অনেক বেশি নির্ভর করবেন৷
2. আপনার কর্পোরেট ডেটাতে বাণিজ্যিকভাবে উপলব্ধ সমাধানগুলিকে পুনরায় প্রশিক্ষণ দেওয়া । এই পরিস্থিতিতে, আপনার অভ্যন্তরীণ AI টিম একটি নির্দিষ্ট বিক্রেতার দ্বারা বিকাশিত একটি বিদ্যমান জেনারেটিভ AI পণ্য নির্বাচন করবে, যেমন OpenAI, এবং আপনার নিজস্ব ডেটা ব্যবহার করে এটিকে সূক্ষ্ম-টিউন করবে৷ কাস্টমাইজড জেন এআই সমাধানগুলি ব্যবহারকারীর প্রশ্নগুলি আরও ভালভাবে বুঝবে এবং আরও সঠিক প্রতিক্রিয়া নিয়ে আসবে। যাইহোক, আপনার প্রশ্নগুলি চালানোর জন্য বিক্রেতা এখনও একটি ছোট ফি চার্জ করবে, তাই চূড়ান্ত জেনারেটিভ এআই খরচ অপারেশনাল এবং কাস্টমাইজেশন খরচ উভয়ই অন্তর্ভুক্ত করবে।
3. ওপেন সোর্স ফাউন্ডেশন মডেল ব্যবহার করা হচ্ছে "যেমন আছে।" অতিরঞ্জিতভাবে, আপনার কোম্পানী RoBERta, GPT-2, GPT-Neo, বা অন্য কোন ওপেন-সোর্স মডেল বেছে নিতে পারে এবং আরও প্রশিক্ষণ ছাড়াই গ্রাহকের ইমেলের উত্তর দেওয়ার মতো ব্যবসায়িক কাজে এটি প্রয়োগ করতে পারে। যাইহোক, জেনারেটিভ এআই-এর খরচ মডেল দ্বারা ব্যবহৃত কম্পিউটিং সংস্থান দ্বারা নির্ধারিত হবে। এছাড়াও, অপরিচিত ডেটা এবং কাজের মুখোমুখি হলে আপনার জেনারেল এআই সমাধান কম পারফর্ম করতে পারে।
4. আপনার ডেটাতে ওপেন সোর্স মডেলগুলিকে পুনরায় প্রশিক্ষণ দেওয়া । এই ক্ষেত্রে, আপনাকে জেনারেল AI মডেল প্রশিক্ষণের জন্য নির্দিষ্ট ডেটা প্রাপ্ত এবং প্রস্তুত করতে হবে, মডেল প্রশিক্ষণ এবং অপারেশনগুলির জন্য অন-প্রিমিস বা ক্লাউড সার্ভার সরবরাহ করতে হবে এবং আপনার কাজগুলি বিকশিত হওয়ার সাথে সাথে মডেলটিকে সূক্ষ্ম-টিউন এবং আপডেট করতে হবে। যদিও এই বেসপোক পদ্ধতি উচ্চতর মডেল পারফরম্যান্সের গ্যারান্টি দেয়, এটি উচ্চতর জেনারেটিভ এআই খরচও অন্তর্ভুক্ত করে।

এখন যেহেতু আপনি আপনার বাস্তবায়নের বিকল্পগুলি জানেন, আসুন এই বিকল্পগুলিকে অন্তর্ভুক্ত করে জেনারেটিভ AI-এর খরচের উপর জুম ইন করা যাক।

বাস্তবায়নের দৃশ্যের উপর ভিত্তি করে জেনারেটিভ এআই মূল্যের অন্তর্দৃষ্টি

বাণিজ্যিকভাবে উপলব্ধ Gen AI টুলের খরচ

অফ-দ্য-শেল্ফ পরিষেবাগুলি যা পাঠ্য প্রক্রিয়াকরণ এবং প্রজন্মকে সহজতর করে সাধারণত অক্ষর বা টোকেনের সংখ্যার উপর ভিত্তি করে এন্টারপ্রাইজগুলিকে চার্জ করে—অর্থাৎ, পাঠ্যের মৌলিক একক, যা বিরাম চিহ্ন থেকে শব্দ এবং সিনট্যাক্সের অন্যান্য উপাদান পর্যন্ত হতে পারে-ইনপুট বা আউটপুট পাঠ্যে .

অনুশীলনে এটি কীভাবে কাজ করে তা এখানে:

1. অক্ষর ভিত্তিক বিলিং । কিছু সমাধান, যেমন Google এর Vertex AI দ্বারা চালিত Gen AI টুল, ইনপুট এবং আউটপুট পাঠ্যের অক্ষরের সংখ্যার উপর ভিত্তি করে ব্যবহারকারীদের বিল দেয়। তারা প্রতিটি অক্ষর, সংখ্যা, স্থান এবং বিরাম চিহ্নকে একটি অক্ষর হিসাবে গণনা করে। ভার্টেক্স দ্বারা সমর্থিত টেক্সট মডেলের জন্য PaLM 2-এর জেনারেটিভ AI মূল্য, উদাহরণস্বরূপ, ইনপুট এবং আউটপুট পাঠ্যের জন্য প্রতি 1,000 অক্ষরের জন্য $0.0005 থেকে শুরু হয় (আলাদাভাবে বিল করা হয়)।

2. টোকেন-ভিত্তিক বিলিং । আরও উন্নত Gen AI সরঞ্জামগুলি অক্ষরের পরিবর্তে টোকেনগুলিতে পাঠ্যকে ভেঙে দেয়। একটি মডেলের প্রশিক্ষণ এবং প্রক্রিয়াকরণ পদ্ধতির উপর নির্ভর করে, একটি টোকেন একটি বিরাম চিহ্ন, একটি শব্দ বা একটি শব্দের অংশ হতে পারে। উদাহরণস্বরূপ, OpenAI একটি টোকেনকে প্রায় চারটি অক্ষরের একটি গ্রুপ হিসাবে সংজ্ঞায়িত করে। একটি সহজ বাক্য যেমন "টম জিল ফুল এনেছে।" এইভাবে আটটি টোকেন থাকবে যেহেতু "আনো" এবং "ফুল" শব্দগুলি চার-অক্ষরের থ্রেশহোল্ডকে সামান্য অতিক্রম করেছে৷ যখন এই ধরনের জেনারেটিভ এআই সলিউশনের খরচের কথা আসে, তখন এটি মূলত আপনার নির্বাচিত ভাষার মডেলের উপর নির্ভর করে। OpenAI-এর GPT-4 Turbo, বাজারের সবচেয়ে অত্যাধুনিক টুলগুলির মধ্যে একটি, ইনপুট টেক্সটের জন্য প্রতি 1,000 টোকেনে $0.01 এবং আউটপুট টেক্সটের জন্য প্রতি 1,000 টোকেনে $0.03 চার্জ করে। GPT-3.5 Turbo, এর পুরানো সংস্করণের জন্য, দামগুলি উল্লেখযোগ্যভাবে কম, ইনপুট টেক্সটের জন্য প্রতি 1,000 টোকেনে $0.001 থেকে শুরু করে আউটপুট টেক্সটের জন্য প্রতি 1,000 টোকেনে $0.002 পর্যন্ত।

   এটি লক্ষ করা উচিত যে বিভিন্ন জেনারেটিভ এআই প্রদানকারীদের অক্ষর এবং টোকেনগুলির বিভিন্ন ধারণা রয়েছে। সবচেয়ে সাশ্রয়ী বিকল্প নির্বাচন করতে, আপনার তাদের ডকুমেন্টেশন এবং পরিকল্পনাগুলি অধ্যয়ন করা উচিত এবং বিবেচনা করা উচিত কোন পণ্যটি আপনার অনন্য ব্যবসার প্রয়োজনের সাথে সবচেয়ে উপযুক্ত। উদাহরণস্বরূপ, যদি আপনার কাজগুলি বিশ্লেষণের পরিবর্তে পাঠ্য প্রজন্মের চারপাশে ঘোরে, তবে নিম্ন আউটপুট হার সহ একটি জেনারেটিভ এআই পরিষেবা আরও উপযুক্ত হবে।

ভিজ্যুয়াল কন্টেন্ট তৈরির জন্য Gen AI পরিষেবাগুলি, ইতিমধ্যে, তৈরি করা ইমেজ প্রতি ব্যবহারকারীদের কাছ থেকে চার্জ করার প্রবণতা রয়েছে, ছবির আকার এবং গুণমানের সাথে ফি যুক্ত। স্ট্যান্ডার্ড কোয়ালিটিতে DALL·E 3 দ্বারা উত্পাদিত একটি 1024 বাই 1024 পিক্সেল চিত্রের জন্য আপনার খরচ হবে $0.04৷ বড় ছবিগুলির জন্য (1024×1792 পিক্সেল), সেইসাথে হাই-ডেফিনিশন ইমেজ, মূল্য $0.08-0.12 পর্যন্ত যাবে।

এবং Synthesia.io-এর মতো টার্ন-কি Gen AI প্ল্যাটফর্মগুলি সম্পর্কে ভুলবেন না, যা মূল্য নির্ধারণের ক্ষেত্রে আরও ঐতিহ্যগত পদ্ধতি গ্রহণ করে। যদি আপনার বিপণন দল ভিডিও তৈরির প্রক্রিয়াটিকে দ্রুততর করতে চায়, তাহলে আপনি প্রতি বছর $804-এর মতো কম খরচে টুলটি ব্যবহার করে দেখতে পারেন।

বাণিজ্যিকভাবে উপলব্ধ Gen AI পণ্য কাস্টমাইজ করার খরচ

আপনি পূর্ববর্তী বিভাগ থেকে দেখতে পাচ্ছেন, বেশিরভাগ রেডিমেড জেন এআই পণ্যগুলি পে-অ্যাজ-ইউ-গো নগদীকরণ কৌশলটি লাভ করে।

যদিও তাদের মূল্যের মডেলগুলি প্রথম নজরে মোটামুটি সোজা দেখায়, আপনার কর্মীরা কতগুলি প্রশ্ন চালাবে তা ভবিষ্যদ্বাণী করা চ্যালেঞ্জিং হতে পারে, বিশেষ করে যদি আপনি বিভিন্ন বিভাগে একাধিক জেনারেটিভ এআই ব্যবহারের ক্ষেত্রে অনুসন্ধান করতে চান।

এটি ক্লাউড কম্পিউটিং- এর প্রথম দিকের মতোই Gen AI টুলের মূল্য এবং মালিকানার মোট খরচ সম্পর্কে বিভ্রান্তি নিয়ে আসে।

বাণিজ্যিক Gen AI সমাধানগুলি ব্যবহার করার আরেকটি অসুবিধা হল যে ChatGPT-এর মতো সাধারণ-উদ্দেশ্যের পণ্যগুলিতে প্রাসঙ্গিক জ্ঞান নেই, যেমন আপনার কোম্পানির কাঠামো, পণ্য এবং পরিষেবাগুলির সাথে পরিচিতি। আপনি প্রম্পট ইঞ্জিনিয়ারিং আয়ত্ত করলেও এটি গ্রাহক সহায়তা এবং AI ক্ষমতার সাথে রিপোর্ট তৈরির মতো ক্রিয়াকলাপগুলিকে বাড়ানো কঠিন করে তোলে।

ম্যাককিন্সির সিনিয়র পার্টনার এরিক ল্যামারের মতে, এই সমস্যাটি সমাধান করার জন্য , সংস্থাগুলিকে " এমন একটি ডেটা পরিবেশ তৈরি করতে হবে যা মডেলটি ব্যবহার করতে পারে৷ ” অন্য কথায়, আপনাকে আপনার কর্পোরেট ডেটাতে বাণিজ্যিকভাবে উপলব্ধ Gen AI সরঞ্জামগুলিকে পুনরায় প্রশিক্ষণ দিতে হবে, সেইসাথে API এর মাধ্যমে বহিরাগত উত্স থেকে প্রাপ্ত তথ্য।

লক্ষ্য অর্জনের দুটি উপায় রয়েছে - এবং বেশ কয়েকটি কারণ যা প্রতিটি পরিস্থিতিতে জেনারেটিভ এআই-এর খরচকে প্রভাবিত করবে:

• জেনারেটিভ এআই ক্ষমতা সহ সফ্টওয়্যার-এ-এ-সার্ভিস (SaaS) প্ল্যাটফর্ম ব্যবহার করা । SAP, TIBCO Spotfire, এবং Salesforce সহ অনেক বিশিষ্ট SaaS বিক্রেতারা জেনারেটিভ AI পরিষেবাগুলি চালু করছে যেগুলি গ্রাহকের ডেটা ব্যবহার করে সূক্ষ্ম সুর করা যেতে পারে। সেলসফোর্স, উদাহরণস্বরূপ, আইনস্টাইন কপিলট চালু করেছে, একটি কথোপকথনমূলক এআই সহকারী যা গ্রাহকের প্রশ্নের ব্যক্তিগতকৃত প্রতিক্রিয়া তৈরি করতে সেলসফোর্স ডেটা ক্লাউড থেকে মালিকানা ডেটা টেনে আনে। বুদ্ধিমান সহকারীর দ্বারা ব্যবহৃত তথ্যের মধ্যে রয়েছে স্ল্যাক কথোপকথন, টেলিমেট্রি, এন্টারপ্রাইজ সামগ্রী এবং অন্যান্য কাঠামোগত এবং অসংগঠিত ডেটা । সেলসফোর্স ক্লায়েন্টরা আইনস্টাইন কপিলট স্টুডিওর নো-কোড প্রম্পট বিল্ডার এবং মডেল বিল্ডার ব্যবহার করে কাস্টম এআই মডেল, দক্ষতা এবং প্রম্পট তৈরি করতে পারে। এখন পর্যন্ত, পরবর্তী যন্ত্রটি OpenAI এর বড় ভাষা মডেল (LLMs) সমর্থন করে, কিন্তু Amazon Bedrock এবং Vertex AI সহ অন্যান্য তৃতীয় পক্ষের সমাধানগুলির সাথে পণ্যটিকে একীভূত করার পরিকল্পনা রয়েছে৷ যেহেতু আইনস্টাইন কপিলট এখনও তার পাইলট পর্যায়ে রয়েছে (কোন শ্লেষের উদ্দেশ্য নয়), জেনারেটিভ এআই মূল্যের তথ্য এখনও উন্মোচন করা হয়নি। যাইহোক, জেনারেটিভ এআই সেলস জিপিটি অ্যাসিস্ট্যান্টের খরচ, যা বর্তমানে প্রতি মাসে প্রতি ব্যবহারকারীর মোট $50 , আপনাকে কী আশা করতে হবে তার একটি সাধারণ ধারণা দিতে পারে।
• আপনার কর্পোরেট সফ্টওয়্যারকে এপিআই-এর উপর Gen AI সমাধানগুলির সাথে একীভূত করা এবং আপনার ডেটাতে মডেলগুলিকে পুনরায় প্রশিক্ষণ দেওয়া ৷ জেনারেটিভ AI বাস্তবায়নের খরচ কমাতে, আপনি মধ্যস্থতাকারী SaaS টুলগুলিকে সরিয়ে দিতে পারেন, আপনার অ্যাপগুলিকে সরাসরি API স্তরে বাণিজ্যিক Gen AI সমাধানগুলির সাথে মার্জ করতে পারেন৷ উদাহরণস্বরূপ, আপনি যদি আপনার গ্রাহক সহায়তা চ্যাটবটকে Gen AI ক্ষমতার সাথে সুপারচার্জ করতে চান, তাহলে আপনি OpenAI এর মডেলগুলির একটির সাথে সিঙ্ক করতে পারেন—যেমন, GPT-3.5 বা GPT-4 — OpenAI API ব্যবহার করে। এর পরে, আপনাকে মেশিন লার্নিংয়ের জন্য আপনার ডেটা প্রস্তুত করতে হবে , OpenAI-তে ডেটা আপলোড করতে হবে এবং OpenAI CLI টুল এবং Open AI Python Library ব্যবহার করে ফাইন-টিউনিং প্রক্রিয়া পরিচালনা করতে হবে। মডেলটি ফাইন-টিউন করার সময়, আপনাকে প্রতি 1,000 টোকেন (GPT-3.5) প্রতি $0,008 চার্জ করা হবে। একবার আপনার মডেল উৎপাদনে গেলে, ইনপুট এবং আউটপুট হার যথাক্রমে প্রতি 1,000 টোকেনে $0,003 এবং প্রতি হাজার টোকেনে $0,006 হবে। জেনারেটিভ এআই-এর সামগ্রিক খরচের মধ্যে স্টোরেজ খরচও অন্তর্ভুক্ত থাকবে, যদি আপনি OpenAI সার্ভারে আপনার ডেটা হোস্ট করতে চান। ডেটা স্টোরেজ খরচ চূড়ান্ত অনুমানে প্রতিদিন প্রতি 1GB ডেটার জন্য $0.2 যোগ করতে পারে । এবং ডেটা প্রস্তুতি এবং মডেল ফাইন-টিউনিং প্রচেষ্টা ভুলবেন না। আপনার আইটি বিভাগের প্রয়োজনীয় দক্ষতা না থাকলে, আপনাকে একটি নির্ভরযোগ্য AI উন্নয়ন পরিষেবা সংস্থার সাথে অংশীদার হতে হবে৷

ওপেন-সোর্স জেনারেল এআই মডেল ব্যবহার করার খরচ "যেমন আছে"

দাবিত্যাগ : আমরা আপনাকে ChatGPT-এর মতো একটি কাস্টম ফাউন্ডেশন মডেল তৈরি করার পরামর্শ দিচ্ছি না—যাদের জন্য যথেষ্ট সমর্থন রয়েছে, যেমন তাদের $540 মিলিয়ন ক্ষতি পূরণ করতে Microsoft থেকে OpenAI-এর সমর্থনের মতো একটি উদ্যোগ।

জিপিটি-৩ এর মতো আরও মৌলিক ফাউন্ডেশন মডেলগুলি প্রাথমিক প্রশিক্ষণ এবং স্থাপনার খরচ $4 মিলিয়ন ছাড়িয়ে যেতে পারে। অধিকন্তু, এই ফাউন্ডেশন মডেলগুলির জটিলতা সাম্প্রতিক বছরগুলিতে একটি আশ্চর্যজনক হারে বেড়েছে।

বড় AI মডেলের প্রশিক্ষণের জন্য প্রয়োজনীয় কম্পিউটিং সংস্থানগুলির পরিমাণ প্রতি 3.5 মাসে দ্বিগুণ হয় ৷ ফাউন্ডেশন মডেলের জটিলতাও পরিবর্তিত হচ্ছে। উদাহরণস্বরূপ, 2016 সালে, বার্ট-লার্জকে 340 মিলিয়ন প্যারামিটারের সাথে প্রশিক্ষণ দেওয়া হয়েছিল। তুলনায়, OpenAI এর GPT-3 মডেলটি প্রায় 175 বিলিয়ন প্যারামিটারের সাথে প্রশিক্ষিত ছিল ।

সুসংবাদটি হল যে ফাউন্ডেশন মডেলগুলি ইতিমধ্যেই রয়েছে, যা ব্যবসায়িকদের জন্য জেনারেটিভ এআই বাস্তবায়ন খরচ অপ্টিমাইজ করার সময় তাদের সাথে পরীক্ষা শুরু করা তুলনামূলকভাবে সহজ করে তোলে।

মূলত, আমরা ফাউন্ডেশন মডেলগুলিকে AI সফ্টওয়্যার ইঞ্জিনিয়ারদের টুলকিট হিসাবে বিবেচনা করতে পারি কারণ তারা এখনও কাস্টমাইজেশনের জন্য জায়গা রেখে জটিল সমস্যা সমাধানের জন্য একটি সূচনা বিন্দু প্রদান করে।

আমরা বিদ্যমান ফাউন্ডেশন মডেলগুলিকে তিনটি বিভাগে বিভক্ত করতে পারি:

• ভাষার মডেলগুলি পাঠ্য অনুবাদ, প্রজন্ম এবং প্রশ্ন-উত্তর কার্যগুলি পরিচালনা করার জন্য ডিজাইন করা হয়েছে
• কম্পিউটার ভিশন মডেল ইমেজ ক্লাসিফিকেশন, অবজেক্ট ডিটেকশন, এবং ফেসিয়াল রিকগনিশনে পারদর্শী
• তৃতীয় বিভাগ, জেনারেটিভ এআই মডেল, এমন সামগ্রী তৈরি করে যা একটি মডেলের ব্যবহার করা ডেটার মতো। এই বিষয়বস্তুতে নতুন ছবি, সিমুলেশন বা, কিছু ক্ষেত্রে, পাঠ্য তথ্য অন্তর্ভুক্ত থাকতে পারে।

একবার আপনি একটি ওপেন-সোর্স মডেল বেছে নিলে যা আপনার প্রয়োজনের জন্য সবচেয়ে উপযুক্ত, আপনি API ব্যবহার করে আপনার সফ্টওয়্যারের সাথে এটিকে একীভূত করতে পারেন এবং আপনার নিজস্ব সার্ভার অবকাঠামো ব্যবহার করতে পারেন।

এই পদ্ধতিতে নিম্নলিখিত জেনারেটিভ এআই খরচ জড়িত:

1. হার্ডওয়্যার খরচ . AI মডেলগুলি চালানোর জন্য, বিশেষ করে বড়গুলির, উল্লেখযোগ্য গণনামূলক সংস্থানগুলির প্রয়োজন। আপনার কোম্পানির উপযুক্ত হার্ডওয়্যারের অভাব থাকলে, আপনাকে শক্তিশালী GPU বা CPU-তে বিনিয়োগ করতে হতে পারে, যা ব্যয়বহুল হতে পারে। যদি আপনার মডেল তুলনামূলকভাবে ছোট হয়, তাহলে NVIDIA RTX 3080 বা অনুরূপ একটি উচ্চ-শেষের GPU যথেষ্ট হতে পারে। এই ধরনের একটি GPU-এর দাম $700 থেকে $1,500 পর্যন্ত হতে পারে। GPT-2 বা অনুরূপ বড় মডেলগুলির জন্য, আপনার একাধিক হাই-এন্ড GPU বা এমনকি বিশেষায়িত AI এক্সিলারেটর প্রয়োজন। একটি একক NVIDIA A100 GPU, উদাহরণস্বরূপ, $10,000 থেকে $20,000 এর মধ্যে খরচ হতে পারে৷ একাধিক GPU সহ একটি সেটআপের জন্য এইভাবে $30,000 থেকে $50,000 খরচ হতে পারে।
2. ক্লাউড কম্পিউটিং খরচ । হার্ডওয়্যার কেনার বিকল্প হিসেবে, আপনি Amazon Web Services (AWS), Google ক্লাউড প্ল্যাটফর্ম (GCP), বা Microsoft Azure-এর মতো প্রদানকারীদের কাছ থেকে ক্লাউড কম্পিউটিং সংস্থান ভাড়া নিতে পারেন। এই পরিষেবাগুলি ব্যবহারের উপর ভিত্তি করে চার্জ করে, তাই খরচগুলি নির্ভর করবে আপনি কম্পিউটিং সময় এবং স্টোরেজ পরিপ্রেক্ষিতে তাদের সংস্থানগুলি কতটা ব্যবহার করেন তার উপর। উদাহরণস্বরূপ, দৃষ্টান্তের প্রকারের উপর নির্ভর করে, AWS-এ GPU দৃষ্টান্তগুলির (যেমন P3 বা P4) প্রতি ঘন্টায় $3 থেকে $24 পর্যন্ত খরচ হতে পারে।
3. বিদ্যুৎ এবং রক্ষণাবেক্ষণ । আপনি যদি নিজের হার্ডওয়্যার ব্যবহার করেন, তাহলে মেশিন এবং সম্ভবত অতিরিক্ত কুলিং সিস্টেম চালানোর জন্য আপনাকে বিদ্যুৎ খরচ বহন করতে হবে। হার্ডওয়্যারের জন্য রক্ষণাবেক্ষণ খরচও যোগ করতে পারে।
4. ইন্টিগ্রেশন এবং স্থাপনা । আপনার বিদ্যমান সিস্টেমে এআই মডেলকে একীভূত করা এবং এটি স্থাপন করার জন্য (বিশেষত একটি উত্পাদন পরিবেশে) অতিরিক্ত সফ্টওয়্যার বিকাশের প্রচেষ্টার প্রয়োজন হতে পারে, যার জন্য শ্রম খরচ হতে পারে। একটি সফ্টওয়্যার ডেভেলপমেন্ট কোম্পানিতে AI ডেভেলপমেন্ট আউটসোর্স করার খরচ প্রতি ঘন্টায় $50 থেকে $200 হতে পারে, যার মোট খরচ কয়েক হাজার থেকে কয়েক হাজার ডলার পর্যন্ত হতে পারে।
5. ডেটা স্টোরেজ এবং ম্যানেজমেন্ট । মডেল দ্বারা ব্যবহৃত ডেটা সংরক্ষণ করা এবং পরিচালনা করা ব্যয়বহুল হতে পারে, বিশেষ করে যখন বড় ডেটাসেটগুলির সাথে কাজ করা বা ক্লাউড স্টোরেজ সমাধানগুলি ব্যবহার করা হয়। অন-সাইট ইনস্টলেশনের জন্য, প্রশিক্ষণ ডেটাসেটের আকার এবং অপ্রয়োজনীয় চাহিদার উপর নির্ভর করে জেনারেটিভ AI ডেটা সংরক্ষণের খরচ $1,000 থেকে $10,000 হতে পারে। ক্লাউড-ভিত্তিক ডেটা স্টোরেজ সলিউশনের জন্য চার্জ, যেমন AWS S3, অপারেশন এবং ডেটা স্থানান্তরের জন্য অতিরিক্ত খরচ সহ প্রতি মাসে প্রতি GB প্রতি $0.021 থেকে $0.023 পর্যন্ত পরিবর্তিত হতে পারে।

শেষ পর্যন্ত, আপনার কোম্পানির একটি জেনারেটিভ এআই ফাউন্ডেশন মডেল "যেমন আছে" গ্রহণ করতে কত খরচ হতে পারে, এটি আপনার নিজস্ব অবকাঠামোতে স্থাপন করা?

একটি মাঝারি আকারের এন্টারপ্রাইজের জন্য একটি মাঝারি আকারের বড় মডেল যেমন GPT-2 অন-প্রিমিসেস ব্যবহার করার লক্ষ্যে, সংশ্লিষ্ট জেনারেটিভ AI খরচগুলি বিস্তৃত হতে পারে:

• হার্ডওয়্যার : $20,000–$50,000 (কয়েকটি হাই-এন্ড GPU বা একটি মৌলিক মাল্টি-GPU সেটআপের জন্য)
• বিদ্যুৎ এবং রক্ষণাবেক্ষণ : প্রতি বছর প্রায় $2,000-$5,000
• একীকরণ এবং স্থাপনা : $10,000–$30,000 (মাঝারি একীকরণ জটিলতা ধরে নিয়ে)
• ডেটা স্টোরেজ এবং ম্যানেজমেন্ট : $5,000–$15,000 (ডেটা আকারের সাথে পরিবর্তিত)

একটি জেনারেটিভ এআই সলিউশন সেট আপ এবং পরিচালনার মোট খরচের মধ্যে নিম্নলিখিতগুলি অন্তর্ভুক্ত থাকবে:

• প্রাথমিক স্থাপনার খরচ : প্রায় $37,000 থেকে $100,000 (হার্ডওয়্যার + প্রাথমিক ইন্টিগ্রেশন এবং স্টোরেজ সেটআপ)
• পুনরাবৃত্ত খরচ : $7,000 থেকে $20,000 (বিদ্যুৎ, রক্ষণাবেক্ষণ, চলমান একীকরণ, এবং ডেটা ব্যবস্থাপনা খরচ সহ)

এই বলপার্ক অনুমানগুলি নির্দিষ্ট প্রয়োজনীয়তা, অবস্থান এবং বাজারের অবস্থার উপর ভিত্তি করে উল্লেখযোগ্যভাবে পরিবর্তিত হতে পারে। আরও ব্যক্তিগতকৃত এবং সঠিক অনুমানের জন্য একজন পেশাদারের সাথে পরামর্শ করা সর্বদা ভাল। উপরন্তু, হার্ডওয়্যার এবং ক্লাউড পরিষেবাগুলির জন্য বর্তমান বাজারের হারগুলি সবচেয়ে আপ-টু-ডেট দামের জন্য পরীক্ষা করা একটি ভাল ধারণা৷

আপনার ডেটা ব্যবহার করে ওপেন সোর্স Gen AI সমাধানগুলিকে পুনরায় প্রশিক্ষণের খরচ৷

যদি আপনার কোম্পানি একটি ওপেন-সোর্স ফাউন্ডেশন মডেল সামঞ্জস্য করার কথা ভাবছে, তাহলে জেনারেটিভ AI বাস্তবায়নের খরচকে প্রভাবিত করতে পারে এমন কারণগুলি বিবেচনা করা গুরুত্বপূর্ণ।

এই জাতীয় কারণগুলি অন্তর্ভুক্ত করে:

1. মডেলের আকার । বৃহত্তর মডেল, যেমন GPT-3, সূক্ষ্ম সুর এবং স্থাপনের জন্য আরও সংস্থান প্রয়োজন। ফলস্বরূপ, মডেলের আকার এবং জটিলতার সাথে জেনারেটিভ এআই-এর খরচ বৃদ্ধি পায়। GPT-2, XLNet, এবং StyleGAN2 এর মতো সহজ ওপেন-সোর্স ফাউন্ডেশন মডেলগুলি একই স্তরের সমন্বয় এবং প্রাসঙ্গিকতার সাথে সামগ্রী তৈরি করতে পারে না।
2. কম্পিউটেশনাল রিসোর্স । আপনার কোম্পানির ডেটা ব্যবহার করে একটি ফাউন্ডেশন মডেলকে পুনরায় প্রশিক্ষণ দেওয়ার জন্য যথেষ্ট কম্পিউটিং শক্তির চাহিদা রয়েছে। একটি জেনারেটিভ এআই সলিউশনের খরচ এইভাবে নির্ভর করে আপনি আপনার নিজের হার্ডওয়্যার বা ক্লাউড পরিষেবাগুলি ব্যবহার করছেন কিনা তার উপর, ক্লাউড প্রদানকারীর এবং আপনার অপারেশনগুলির স্কেলের উপর ভিত্তি করে পরবর্তীটির দাম পরিবর্তিত হয়। আপনি যদি একটি সহজ মডেল বেছে নেন এবং এটিকে প্রাঙ্গনে স্থাপন করেন, তাহলে জেনারেটিভ AI সমাধানটি সূক্ষ্ম-টিউন করতে আপনি GPU খরচে $10,000–30,000 খরচ করবেন বলে আশা করা হচ্ছে। ক্লাউড কম্পিউটিং এর সাথে, উদাহরণের প্রকারের উপর নির্ভর করে খরচ প্রতি ঘন্টায় $1 এবং $10 এর মধ্যে হতে পারে। GPT-3-এর মতো ওপেন-সোর্স মডেলগুলির জন্য আরও উন্নত GPU সেটআপ প্রয়োজন, $50,000–$100,000 এর উপরে। হাই-এন্ড GPU দৃষ্টান্তগুলির জন্য সংশ্লিষ্ট ক্লাউড কম্পিউটিং খরচ প্রতি ঘন্টায় $10 থেকে $24 পর্যন্ত হতে পারে।
3. ডেটা প্রস্তুতি । ফাইন-টিউনিং ফাউন্ডেশন মডেলের জন্য আপনার ডেটা সংগ্রহ, পরিষ্কার এবং প্রস্তুত করার প্রক্রিয়াটি সম্পদ-নিবিড় হতে পারে। জেনারেটিভ এআই বাস্তবায়নের খরচ, তাই, ডেটা স্টোরেজ, প্রসেসিং এবং সম্ভবত প্রশিক্ষণ ডেটাসেট কেনার সাথে সম্পর্কিত খরচগুলি অন্তর্ভুক্ত করবে যদি আপনার কোম্পানিতে আপনার নিজস্ব ডেটার অভাব থাকে বা নিরাপত্তা এবং গোপনীয়তার কারণে এটি ব্যবহার করতে না পারে।
4. উন্নয়ন সময় এবং দক্ষতা . কৃত্রিম বুদ্ধিমত্তার প্রতিভা সস্তায় আসে না। একজন ইউএস-ভিত্তিক ইন-হাউস এআই ইঞ্জিনিয়ারের জন্য আপনার কোম্পানির বার্ষিক $70,000-$200,000 খরচ হবে , পাশাপাশি নিয়োগ, বেতন, সামাজিক নিরাপত্তা এবং অন্যান্য প্রশাসনিক খরচ। আপনি AI উন্নয়ন দক্ষতা সহ একটি অফশোর সফ্টওয়্যার ইঞ্জিনিয়ারিং কোম্পানির সাথে অংশীদারিত্ব করে জেনারেটিভ AI খরচ কমাতে পারেন। অবস্থানের উপর নির্ভর করে, সেন্ট্রাল ইউরোপ এবং ল্যাটিন আমেরিকার মতো গুরুত্বপূর্ণ আউটসোর্সিং লোকেশনে সিনিয়র ডেভেলপমেন্ট ট্যালেন্টদের জন্য এই ধরনের কোম্পানির প্রতি ঘণ্টার হার $62 থেকে $95 হতে পারে ।
5. রক্ষণাবেক্ষণ খরচ . আপনি মডেলটি রক্ষণাবেক্ষণ, আপডেট এবং সমস্যা সমাধানের জন্য এককভাবে দায়ী থাকবেন, যার জন্য চলমান প্রচেষ্টা এবং মেশিন লার্নিং ইঞ্জিনিয়ারিং এবং অপারেশন (MLOps) দক্ষতা প্রয়োজন।

উপরে উল্লিখিত বিষয়গুলি বিবেচনা করে, একটি সহজলভ্য ফাউন্ডেশন মডেলের উপর ভিত্তি করে একটি কাস্টমাইজড জেনারেটিভ এআই সমাধান তৈরি করার বাস্তবসম্মত খরচ কত?

একটি মাঝারি আকারের এন্টারপ্রাইজের জন্য যারা GPT-2-এর মতো একটি মাঝারি আকারের বড় মডেল তৈরি করতে চায়, সংশ্লিষ্ট জেনারেটিভ এআই বাস্তবায়নের খরচগুলি বিস্তৃত হতে পারে:

• হার্ডওয়্যার : $20,000–$30,000 (একটি মাঝারি GPU সেটআপের জন্য)
• উন্নয়ন : অভ্যন্তরীণ এবং আউটসোর্সড প্রতিভার মিশ্রণের সাথে ছয় মাসের বিকাশের সময় ধরে নেওয়া:
  • ইন-হাউস: $35,000–$100,000 (অর্ধ-বছরের বেতন)
  • আউটসোর্সিং: $20,000–$40,000 (গড়ে $75/ঘন্টা হারে 400 ঘন্টা ধরে)
• ডেটা প্রস্তুতি : $5,000–$20,000 (ডেটা আকার এবং জটিলতার সাথে পরিবর্তিত)
• রক্ষণাবেক্ষণ : প্রতি বছর $5,000-$15,000 (চলমান খরচ)

একটি জেনারেটিভ এআই সলিউশন সেট আপ এবং পরিচালনার মোট খরচের মধ্যে নিম্নলিখিতগুলি অন্তর্ভুক্ত থাকবে:

• প্রাথমিক স্থাপনার খরচ : প্রায় $80,000 থেকে $190,000 (হার্ডওয়্যার, ডেভেলপমেন্ট এবং ডেটা প্রস্তুতি খরচ সহ)
• পুনরাবৃত্ত খরচ : $5,000 থেকে $15,000 (রক্ষণাবেক্ষণ এবং চলমান খরচ)

প্রকৃত জেনারেল এআই ডেভেলপমেন্ট এবং বাস্তবায়ন খরচ নির্দিষ্ট প্রকল্পের প্রয়োজনীয়তা, প্রশিক্ষণের তথ্যের প্রাপ্যতা এবং অভ্যন্তরীণ এআই প্রতিভা এবং আপনার আউটসোর্সিং অংশীদারের অবস্থানের উপর ভিত্তি করে পরিবর্তিত হতে পারে। সবচেয়ে সঠিক এবং বর্তমান মূল্যের জন্য, পেশাদার বা পরিষেবা প্রদানকারীদের সাথে সরাসরি পরামর্শ করার পরামর্শ দেওয়া হয়।

যদিও একটি জেনারেটিভ এআই সিস্টেমের জন্য $190,000 অযৌক্তিকভাবে ব্যয়বহুল বলে মনে হতে পারে, ওপেন-সোর্স ফাউন্ডেশন মডেলগুলি ব্যবহার করে একটি জেনারেটিভ এআই সলিউশন তৈরি করার খরচ বাণিজ্যিকভাবে উপলব্ধ টুল বেছে নেওয়ার চেয়ে কম হতে পারে।

চ্যাটজিপিটি মনোযোগ আকর্ষণ করার আগে, অক্ষাংশ, AI-ভিত্তিক অ্যাডভেঞ্চার গেমের জন্য দায়ী AI Dungeon নামে একটি অগ্রগামী স্টার্টআপ, পাঠ্য তৈরির জন্য OpenAI-এর GPT মডেল ব্যবহার করে আসছিল ।

তাদের ব্যবহারকারীর সংখ্যা বৃদ্ধির সাথে সাথে ওপেনএআই এর বিল এবং অ্যামাজন পরিকাঠামোর ব্যয়ও বেড়েছে। কিছু সময়ে, কোম্পানিটি ব্যবহারকারীর প্রশ্নের ক্রমবর্ধমান সংখ্যা পরিচালনা করার জন্য সংশ্লিষ্ট খরচে প্রতি মাসে $200,000 প্রদান করছিল।

একটি নতুন জেনারেটিভ এআই প্রদানকারীর সাথে স্যুইচ করার পরে, কোম্পানিটি প্রতি মাসে অপারেটিং খরচ কমিয়ে $100,000 করেছে এবং তার নগদীকরণ কৌশল সামঞ্জস্য করেছে, উন্নত এআই-চালিত বৈশিষ্ট্যগুলির জন্য একটি মাসিক সাবস্ক্রিপশন প্রবর্তন করেছে।

জেনারেটিভ এআই প্রাইসিং অপ্টিমাইজ করার সময় সঠিক বাস্তবায়ন পদ্ধতি নির্বাচন করার জন্য, আপনার প্রকল্পের প্রয়োজনীয়তাগুলি আগে থেকেই পুঙ্খানুপুঙ্খভাবে বিশ্লেষণ করা গুরুত্বপূর্ণ। আর সেই কারণেই আমরা সবসময় আমাদের ক্লায়েন্টদের তাদের এআই ডেভেলপমেন্ট উদ্যোগগুলিকে একটি আবিষ্কারের পর্যায়ে নিয়ে যেতে উৎসাহিত করি।

ব্যবসায় Gen AI প্রয়োগ করার সময় যে বিষয়গুলি বিবেচনা করতে হবে৷

এখন যেহেতু আপনি জানেন যে জেনারেটিভ AI থেকে খরচ-ভিত্তিক কী আশা করা যায়, এখন সময় এসেছে প্রযুক্তির বাস্তবায়নের ত্রুটি এবং বিবেচনার বিষয়ে কথা বলার:

• ফাউন্ডেশন মডেল, বিশেষ করে বৃহৎ ভাষার মডেল, হ্যালুসিনেট করতে পারে, যা ব্যবহারকারীর প্রশ্নের আপাতদৃষ্টিতে বৈধ কিন্তু সম্পূর্ণ ভুল উত্তর তৈরি করে। আপনার কোম্পানী প্রশিক্ষণ ডেটা উন্নত করে, বিভিন্ন মডেল আর্কিটেকচারের সাথে পরীক্ষা করে এবং কার্যকর ব্যবহারকারীর প্রতিক্রিয়া লুপ প্রবর্তন করে এই পরিস্থিতি এড়াতে পারে।
• Gen AI সমাধানগুলিকে প্রচুর পরিমাণে ডেটা ব্যবহার করে প্রশিক্ষণ দেওয়া হয় যা দ্রুত পুরানো হয়ে যায়। ফলস্বরূপ, আপনাকে নিয়মিতভাবে আপনার মডেলকে পুনরায় প্রশিক্ষণ দিতে হবে, যা জেনারেটিভ এআই বাস্তবায়নের খরচ বাড়ায়।
• ইলেকট্রনিক হেলথ রেকর্ড (EHR) এন্ট্রির মতো নির্দিষ্ট ডেটার উপর প্রশিক্ষিত ফাউন্ডেশন মডেলগুলি তাদের তাত্ক্ষণিক দক্ষতার বাইরে বৈধ সামগ্রী তৈরি করতে সংগ্রাম করতে পারে। সাধারণ-উদ্দেশ্য মডেল, অন্যদিকে, ডোমেন-নির্দিষ্ট ব্যবহারকারীর প্রশ্নের সাথে লড়াই করে। এই সমস্যাটি সমাধান করার কিছু উপায়ের মধ্যে রয়েছে হাইব্রিড মডেল তৈরি করা, ট্রান্সফার শেখার কৌশলগুলিতে ট্যাপ করা এবং ব্যবহারকারীর প্রতিক্রিয়ার মাধ্যমে মডেলগুলিকে সূক্ষ্ম-টিউন করা।
• Gen AI সলিউশনগুলি প্রকৃতিগতভাবে ব্ল্যাক-বক্স, যার অর্থ এটা খুব কমই স্পষ্ট যে কেন তারা নির্দিষ্ট ফলাফল তৈরি করে এবং কীভাবে তাদের নির্ভুলতা মূল্যায়ন করা যায়। এই বোঝার অভাব ডেভেলপারদের মডেলগুলিকে টুইক করা থেকে আটকাতে পারে। জেনারেটিভ এআই মডেল প্রশিক্ষণের সময় ব্যাখ্যাযোগ্য AI নীতিগুলি অনুসরণ করে, যেমন মডেল ব্যাখ্যাযোগ্যতা কৌশল, মনোযোগের প্রক্রিয়া এবং অডিট ট্রেলগুলি প্রবর্তন করে, আপনি মডেলের সিদ্ধান্ত নেওয়ার প্রক্রিয়ার অন্তর্দৃষ্টি পেতে পারেন এবং এর কার্যকারিতা অপ্টিমাইজ করতে পারেন।

এছাড়াও, জেনারেটিভ এআই বাস্তবায়নের সাথে শুরু করার আগে আপনার কোম্পানিকে বেশ কয়েকটি প্রশ্নের উত্তর দিতে হবে:

• আপনার কোম্পানী শুধুমাত্র যে ফাংশনগুলিতে জেনারেটিভ এআই গ্রহণ করে যেখানে প্রযুক্তি ভেন্ডর লক-ইন প্রতিরোধ করার সময় একটি পার্থক্যকারী হয়ে উঠবে তা যাচাই করার জন্য কি একটি কঠিন ক্রয় বনাম বিল্ড কৌশল আছে? এই কৌশলটি পরিবর্তন ব্যবস্থাপনা এবং জেনারেল এআই স্কেলিং-এর জন্য একটি বিশদ রোডম্যাপ সহ বাড়ানো উচিত - এবং প্রয়োজন দেখা দিলে পুরো ব্যবসায়িক প্রক্রিয়াগুলিকে পুনরায় ডিজাইন করার বিধান।
• আপনার ইন-হাউস আইটি ডিপার্টমেন্টে কি জটিল এমএল মডেল এবং তাদের প্রশিক্ষণ ডেটার গুণমান পরীক্ষা, সূক্ষ্ম সুর এবং বজায় রাখার জন্য পর্যাপ্ত MLOps দক্ষতা রয়েছে? যদি না হয়, আপনি কি ইতিমধ্যেই এই কাজগুলির যত্ন নেওয়ার জন্য একটি নির্ভরযোগ্য এআই ডেভেলপমেন্ট কোম্পানি নির্বাচন করেছেন?
• আপনার কি ক্লাউড এবং প্রান্ত উভয় ক্ষেত্রেই যথেষ্ট পরিমাণে কম্পিউটিং সংস্থান আছে? এছাড়াও, আপনার আইটি পরিকাঠামোর স্কেলেবিলিটি মূল্যায়ন করা গুরুত্বপূর্ণ এবং সেইসাথে বিভিন্ন কাজ, প্রক্রিয়া এবং ইউনিট জুড়ে জেনারেল এআই মডেলগুলি পুনরায় ব্যবহার করার সম্ভাবনা।
• আপনার কোম্পানি বা আপনার এআই ডেভেলপমেন্ট পার্টনারের কি কনসেপ্ট প্রুফ (PoC) এর মাধ্যমে Gen AI-এর সম্ভাব্যতা পরীক্ষা করার এবং নিয়ন্ত্রিত স্যান্ডবক্স পরিবেশের বাইরে আপনার পরীক্ষাগুলিকে স্কেল করার দক্ষতা আছে?
• শেষ কিন্তু অন্তত নয়, আপনার সংস্থার কি সংবেদনশীল তথ্য রক্ষা করার জন্য কার্যকর গোপনীয়তা এবং নিরাপত্তা ব্যবস্থা আছে এবং শিল্প- এবং অঞ্চল-নির্দিষ্ট প্রবিধানগুলির সাথে সম্মতি নিশ্চিত করা আছে?

একটি সুচিন্তিত বাস্তবায়ন পরিকল্পনা থাকা আপনাকে শুধুমাত্র ঝুঁকিমুক্ত উপায়ে প্রযুক্তি গ্রহণ করতে এবং দ্রুত সুবিধাগুলি কাটাতে সাহায্য করবে না বরং জেনারেটিভ এআই-এর খরচ কমাতেও সাহায্য করবে।

Gen AI আপনাকে ব্যবসায়িক প্রক্রিয়াগুলিকে পুনরুদ্ধার করতে, সঠিক Gen AI বাস্তবায়ন পদ্ধতি নির্বাচন করতে এবং জেনারেটিভ AI খরচগুলিকে অপ্টিমাইজ করতে সাহায্য করবে কিনা তা বের করতে আমাদের জেনারেটিভ AI পরামর্শ পরিষেবাগুলিতে আলতো চাপুন৷ বল রোলিং পেতে আমাদের লিখুন !

এছাড়াও এখানে প্রকাশিত.