AI এর 100 দিন, দিন 16: 5 NVIDIA এর aI ডেভেলপার ইভেন্ট থেকে মূল টেকওয়ে

যদি AI একটি গোল্ড রাশ হয়, Nvidia হল চূড়ান্ত পিক এবং শোভেল কোম্পানি৷ সমস্ত জিনিস AI এনভিডিয়ার মধ্য দিয়ে যায় কারণ একমাত্র সংস্থা হিসাবে এর আধিপত্যের কারণে যেটি গণনাগতভাবে ব্যয়বহুল বৃহৎ ভাষার মডেলগুলি স্থাপন করার জন্য প্রয়োজনীয় চিপস (GPUs) তৈরি করে। মডেল স্কেল হিসাবে, এটি আরও শক্তিশালী জিপিইউগুলির প্রয়োজনীয়তা বাড়ায় এবং সমগ্র বিশ্ব তাদের সরবরাহ করার জন্য এনভিডিয়ার উপর নির্ভর করছে। এটা বলা অত্যুক্তি নয় যে এনভিডিয়া সমস্ত জিনিসের মূলে রয়েছে এআই এবং তারা সম্প্রতি তাদের অর্ধ-বার্ষিক বিকাশকারী সম্মেলন জিটিসি (মার্চ 18-21) করেছে। এই পোস্টে আমি এই বিশেষ GTC কনফারেন্স থেকে আমার মূল টেকওয়েগুলি এবং জেনার এআই স্পেসের জন্য এর অর্থ কী তা সংক্ষিপ্ত করতে যাচ্ছি।

টেকওয়ে 1: AI শুধুমাত্র প্রযুক্তি খাতে সীমাবদ্ধ নয়

জেনার এআই কী করতে পারে এবং সরবরাহ করতে পারে তার শক্তি নন-টেক সেক্টরে হারিয়ে যায়নি। অর্থনীতির সমস্ত সেক্টর জুড়ে কোম্পানিগুলি মনে করে যে তাদের এআই গ্রহণ করা এবং অংশীদারি করার, কার্যকর করা এবং এগিয়ে থাকার উপায় খুঁজে নেওয়া দরকার। এখানে প্রমাণ হল কতগুলি নন-টেক সেক্টর কোম্পানি এনভিডিয়ার সাথে অংশীদারিত্ব করেছে। খুচরা, অটোমোবাইল, নির্মাণ, নকশা এবং অন্য সব কিছুর কোম্পানি এনভিডিয়ার সাথে অংশীদারিত্ব ঘোষণা করেছে।

টেকঅ্যাওয়ে 2: আমাদের অনেক বড় জিপিইউ দরকার

ট্রান্সফরমার আবিষ্কৃত হওয়ার পর থেকে আমরা প্রতি ৬ মাসে এলএলএম-এর স্কেল দ্বিগুণ করছি। উদাহরণস্বরূপ, নীচের ওপেন এআই মডেলগুলির পরামিতি গণনাটি দেখুন।

শুধুমাত্র GPT-3 সিরিজে পরামিতি গণনা 125M থেকে 175B পর্যন্ত। এবং ওপেন এআই থেকে বেরিয়ে আসার প্রত্যাশিত সাম্প্রতিক মডেলগুলির পরামিতি সংখ্যা ট্রিলিয়নের উপরে এবং শীঘ্রই দুই বছরেরও কম সময়ে ট্রিলিয়ন ছুঁতে পারে, যদি স্কেলিং হার অব্যাহত থাকে। এলএলএম-এর ক্রমবর্ধমান স্কেলকে সমর্থন করার জন্য আমাদের কম্পিউটেশনাল শক্তির প্রয়োজন। বাজার ধরার জন্য, Nvidia GPU-এর একটি নতুন সিরিজ চালু করছে যার নাম ব্ল্যাকওয়েল, যা পরিসংখ্যানবিদ ও গণিতবিদ ডেভিড ব্ল্যাকওয়েলের নামে নামকরণ করা হয়েছে। ব্ল্যাকওয়েল হল একটি নতুন সিরিজ জিপিইউ (GB200) তবে এটি একটি নতুন সুপার কম্পিউটার প্ল্যাটফর্ম।

এখানে নতুন ব্ল্যাকওয়েল জিপিইউ এর আগের প্রজন্মের জিপিইউ হপারের সাথে পারফরম্যান্সের তুলনা করা হল।

Takeaway 3: পুনরুদ্ধার থেকে প্রজন্মের দিকে সরানো

বর্তমান প্রজন্মের কম্পিউটিংয়ে, সবকিছুই হল বিভিন্ন ফরম্যাটে সংরক্ষিত ডেটার একটি অংশ পুনরুদ্ধার করা এবং ব্যবহারকারীর জন্য উপযোগী এমনভাবে উপস্থাপন করা। কিন্তু কম্পিউটিং এবং অ্যাপের আসন্ন প্রজন্মে, আমরা ব্যবহারকারীর অনুরোধে আরও কিছু জিনিস তৈরি করতে এবং ব্যবহারকারীকে ফেরত দিতে দেখতে পাচ্ছি। উদাহরণস্বরূপ, chat-gpt-এর ক্ষেত্রে, আপনি যে উত্তরটি পাচ্ছেন তা আগে থেকে কিছু ডাটাবেসে সংরক্ষিত নয়, তবে ব্যবহারকারীর প্রশ্ন পরিবেশন করার জন্য রিয়েল টাইমে তৈরি করা হচ্ছে। আমরা পাঠ্য, ছবি, ভিডিও, রাসায়নিক, প্রোটিন এবং আরও অনেক কিছুর প্রজন্ম দেখতে চলেছি।

টেকওয়ে 4: অনুমান আরও ভাল হচ্ছে

ইনফরেন্সিং হল যখন আপনি চ্যাট-জিপিটি একটি প্রশ্ন জিজ্ঞাসা করেন, মডেলটি টোকেন জেনারেশন আকারে উত্তরটি বের করে এবং টোকেন আকারে উত্তরটি ফেরত দেয়। যদি অনুমান যথেষ্ট দ্রুত না হয়, তাহলে ভোক্তারা কোনো AI অ্যাপ্লিকেশন ব্যবহার করতে পারবে না। অনুমান করা বিশেষত কঠিন কারণ LLMগুলি বড় থেকে বড় হচ্ছে এবং সেগুলি একটি GPU-তে ফিট করে না, তাই GPU গুলি জুড়ে অনুমানকে সমান্তরাল করা একটি কঠিন কাজ এবং একাধিক অপ্টিমাইজেশান কৌশল ব্যবহার করার জন্য এনভিডিয়া জিপিইউ প্রোগ্রামিং জড়িত৷ ব্ল্যাকওয়েল জিপিইউগুলির সাথে, এনভিডিয়া 30x দ্রুত অনুমান গতি অর্জন করতে সক্ষম।

টেকঅ্যাওয়ে 5: আসল মেটাভার্স হল এনভিডিয়ার অমনিভার্স

আমি এনভিডিয়ার দ্বারা অমনিভার্স সম্পর্কে যত বেশি শিখছি ততই আমি পণ্য এবং ধারণার প্রতি আরও বেশি উৎসাহী। এর কারণ হল সত্যিকার অর্থে AI ব্যবহার করতে এবং অটোমেশন এবং রোবোটিক্সের সমস্ত সম্ভাবনা আনলক করতে, আমাদের কাছে আসলে প্রয়োজনীয় সমস্ত ডেটা নেই। উদাহরণস্বরূপ, বলুন আপনি একটি রোবট তৈরি করতে চান যা সব ধরণের দুর্দান্ত খাবার রান্না করে। এমন কোনও ডেটা নেই যেখানে আপনি শেফদের বিভিন্ন ধরণের খাবার রান্না করার প্রথম ব্যক্তি দেখেছেন। আমাদের কাছে ইউটিউব ভিডিও আকারে বিভিন্ন রান্নার সাধারণ ডেটা রয়েছে, তবে রোবটগুলি রান্না করার সাথে জড়িত শারীরিক গতিবিধি শিখতে প্রথম ব্যক্তির ডেটা প্রয়োজন। Omniverse-এ বিশ্বের একটি 3d সিমুলেশন এই সমস্ত ব্যবহারের ক্ষেত্রে আনলক করার জন্য প্রয়োজনীয় ডেটার ফাঁক পূরণ করতে সাহায্য করতে পারে। আমি ধারণার উপর অত্যন্ত বুলিশ.

এটি AI এর 100 দিনের 22 তম দিনের জন্য।

আমি গড়ের উপরে নামে একটি নিউজলেটার লিখি যেখানে আমি বড় প্রযুক্তিতে ঘটছে এমন সবকিছুর পিছনে দ্বিতীয় ক্রম অন্তর্দৃষ্টি সম্পর্কে কথা বলি। আপনি যদি প্রযুক্তিতে থাকেন এবং গড় হতে না চান তবে এতে সদস্যতা নিন ।

AI এর 100 দিনের সর্বশেষ আপডেটের জন্য আমাকে Twitter , LinkedIn বা HackerNoon- এ অনুসরণ করুন বা এই পৃষ্ঠাটি বুকমার্ক করুন । আপনি যদি প্রযুক্তিতে থাকেন তবে আপনি এখানে প্রযুক্তি পেশাদারদের আমার সম্প্রদায়ে যোগদান করতে আগ্রহী হতে পারেন।