গত সপ্তাহে আমরা শিপিং এক সপ্তাহের মধ্যে, 10 মেম্বারেন এজেন্ট সেশনগুলির সাথে সমান্তরালভাবে চলছে. এখানে আমরা কিভাবে পাইপলাইন তৈরি করেছি যা এটি সম্ভব করে। 1,000 API integrations মহাবিশ্বের মেম্বার মেম্বারেন ইউনিভার্সিটি আমাদের প্রস্তুত ইন্টিগ্রেশন জ্ঞানগুলির লাইব্রেরি - এজেন্ট বা ডেভেলপারকে বহিরাগত এপিআইগুলির সাথে সংযোগ করার জন্য প্রয়োজনীয় সবকিছু। এতে অনেক ধরনের উপাদান রয়েছে, কিন্তু এই প্রকল্পের জন্য আমরা দুটিতে মনোযোগ দিয়েছি: সংযোগকারী, যা একটি বহিরাগত এপিআইতে কীভাবে সংযোগ করতে হয় তা নির্ধারণ করে (OAuth2 দ্বারা যাচাইকরণ, API কীগুলি ইত্যাদি, প্লাস ডেটা সংগ্রহ এবং ইভেন্টগুলি) অ্যাকশন প্যাকেজ, যা ব্যবহারের জন্য প্রস্তুত এপিআই কর্মগুলির সংগ্রহ (উদাহরণস্বরূপ, "একটি Slack বার্তা তৈরি করুন", "GitHub repos তালিকা") যা এজেন্ট এবং ওয়ার্কফ্লোগুলি কল করতে পারে। প্রতিটি ইন্টিগ্রেশন ম্যানুয়ালভাবে নির্মাণ করে একটি ডেভেলপার লাগে — ডকুমেন্টগুলি গবেষণা করুন, অটি খুঁজে বের করুন, ক্লায়েন্টটি বাস্তবায়ন করুন, পরীক্ষাগুলি লিখুন. সেই গতিতে, 1,000 ইন্টিগ্রেশনগুলি প্রায় এক বছরের পুরোপুরি কাজের জন্য এক ব্যক্তিকে নেবে. আমরা gpt-3.5 এর প্রথম দিন থেকে এটির গতি বাড়ানোর জন্য এলএলএম ব্যবহার করেছি, তবে এটি সবসময় অ্যাড-হোক ছিল। 30–60 minutes Membrane এজেন্ট ইতিমধ্যে আমাদের প্ল্যাটফর্মের সাথে কীভাবে কাজ করতে হয় তা জানে। আমরা হাজার হাজার অ্যাপ্লিকেশন স্বয়ংক্রিয়ভাবে প্রক্রিয়াকরণ করার জন্য একটি ব্যাচ পাইপলাইন তৈরি করেছি। We saw the opportunity to industrialize it নির্মাণ পাইপলাইন পাইপলাইনের দুটি ধাপ রয়েছে, প্রত্যেকটি নিজস্ব ব্যাচ স্ক্রিপ্ট দ্বারা চালিত। ধাপ 1 সনাক্তকরণ পরিচালনা করে - যেকোনো ইন্টিগ্রেশন এর সবচেয়ে কঠিন অংশ। ফেজ 2 কর্মগুলির উপর স্তরগুলি যা প্রতিটি ইন্টিগ্রেশনটি উপকারী করে। উভয়ই একই প্যাটার্ন অনুসরণ করে: যোগ্য অ্যাপগুলি পুনরুদ্ধার করুন, একই সময়ে এআই এজেন্টগুলি পুনরুদ্ধার করুন, ফলাফলগুলি যাচাই করুন, যা পাস করে তা প্রকাশ করুন, যা না করে তা পতাকা করুন। ধাপ 1 - সনাক্তকরণ (সংযোগগুলি তৈরি করুন) এই স্ক্রিপ্ট প্রথম ধাপটি পরিচালনা করে: প্রতিটি অ্যাপ্লিকেশনের জন্য auth বাস্তবায়ন। How it works: আমাদের API থেকে সমস্ত অ্যাপগুলি পুনরুদ্ধার করে, এখনও কোনও সংযোগকারী ছাড়াই তাদের ফিল্টার প্রতিটি অ্যাপ্লিকেশনের জন্য (অন্তত 10 একসাথে চালানো), এটি: Membrane মধ্যে একটি connector রেকর্ড তৈরি করে আমাদের ইঞ্জিনে একটি এজেন্ট সেশন তৈরি করে Claude দ্বারা চালিত একটি স্থানীয় Membrane এজেন্ট Spawns এজেন্টকে জানায় কোন সংযোগকারীটি বাস্তবায়ন করা উচিত - এজেন্টটি তার সিস্টেম প্রম্পট থেকে Membrane এর সাথে কীভাবে ইন্টারেক্ট করতে জানে এবং প্রাক লোডিত দক্ষতাগুলির মাধ্যমে সংযোগকারীগুলি কিভাবে তৈরি করতে পারে, তাই ব্যবহারকারীর বার্তাটি শুধুমাত্র অ্যাপ্লিকেশন নাম এবং URL এজেন্ট শেষ করার জন্য অপেক্ষা করে (মাত্র 2.5 মিনিট) আমাদের পরিকল্পনাগুলির বিরুদ্ধে ফলাফল সনাক্ত করে - এই প্রতিক্রিয়া লুক এজেন্টদের জন্য গুরুত্বপূর্ণ, কারণ যখন সনাক্তকরণ ব্যর্থ হয় তখন তারা নিজেদের সংশোধন করতে পারে যদি বৈধ: সংযোগকারী প্রকাশ করে এবং এটি প্রকাশ করে যদি বৈধ: ম্যানুয়াল পর্যালোচনা জন্য অ্যাপটি চিহ্নিত করে What Membrane Agent actually does inside each session: প্রথমত, এজেন্ট ব্যবহার করে এবং অ্যাপ্লিকেশনের API ডকুমেন্টেশন খুঁজে পেতে. এটি ডকুমেন্টগুলি পড়ে, এটি জানায় যে API OAuth2, API keys, Basic auth, বা অন্য কিছু ব্যবহার করে কিনা, এবং সমস্ত প্রাসঙ্গিক auth পরামিতিগুলি কনফিগার করে - ক্লায়েন্ট আইডি / গোপন ক্ষেত্র, স্কপেল, টোকেন URLs, কাজগুলি। web search web fetch তারপর এটি একটি API ক্লায়েন্ট বাস্তবায়ন করে যা সঠিকভাবে অনুরোধগুলি যোগ করে, সংযোগটি যাচাই করার জন্য একটি টেস্ট ফাংশন লিখে এবং সঠিকভাবে প্রতিক্রিয়া দেওয়ার জন্য API-এ HTTP অনুরোধগুলি প্রদান করে। অবশেষে, এটি Membrane এর সরঞ্জামগুলি ব্যবহার করে সমস্ত কনফিগারেশন প্ল্যাটফর্মে ফিরে লিখে। এবং এজেন্ট এটি সম্পূর্ণ স্বাধীনভাবে করে। 2.5 minutes per app মাতৃভাষা করুন : এটি প্রতি কয়েক মিনিটে প্রায় 10 সংযোগকারী তৈরি এবং যাচাই করা হয় - কোনও মানব চাপ ছাড়াই। 10 agents, ~2.5 minutes each, running in parallel প্রতিটি এজেন্ট প্রতি সেশনে একটি সংযোগকারী (বা একটি অ্যাকশন প্যাকেজ) পরিচালনা করে. আমরা উদ্দেশ্যমতো প্রতি সেশনে একটি উপাদান রাখি যাতে কন্টেন্ট উইন্ডোটি বর্জন না হয় - প্রতিটি অ্যাপ্লিকেশনের জন্য একটি নতুন সেশন মানে এজেন্টটি ফোকাস রাখে। ধাপ 2 - কার্যক্রম (বিক্রয় প্যাকেজ) একবার একটি অ্যাপ্লিকেশন auth কনফিগার করা হয়েছে, এটি দ্বিতীয় পর্যায়ে প্রস্তুত: কর্মগুলি জেনারেশন যা ইন্টিগ্রেশনটি সত্যিই উপযোগী করে তোলে. এই স্ক্রিপ্টটি প্রতিটি অ্যাপ্লিকেশন যা ইতিমধ্যে একটি সংযোগকারী আছে এবং এর জন্য একটি অ্যাকশন প্যাকেজ তৈরি করে। প্যাটার্নটি ধাপ 1 প্রদর্শন করে. স্ক্রিপ্টটি অ্যাপ্লিকেশনগুলিকে ফিল্টার করে যাতে একটি সংযোগকারী আছে কিন্তু এখনও কোন প্যাকেজ নেই, তারপর প্রতিটি এজেন্টের জন্য একটি এজেন্ট জন্ম দেয়. প্রতিটি এজেন্ট তার সংযোগকারী আইডি জানে এবং প্যাকেজটি বাস্তবায়নের জন্য বলা হয়. এটি অ্যাপ্লিকেশনের API এর গবেষণা করে, সবচেয়ে জনপ্রিয় এবং ব্যবহারযোগ্য এন্ডপয়েন্টগুলি চিহ্নিত করে এবং কর্ম সংজ্ঞাগুলি তৈরি করে - ইনপুট পরিকল্পনা, API অনুরোধ কনফিগারেশন, আউটপুট পরিকল্পনা এবং অনুলিপি আচরণের জন্য অপরিহার্য নির্দেশাবলী। যাচাইয়ের পর (প্যা আর্টিকেল এখানে আপনি zoom out যখন পুরো সিস্টেম দেখতে: প্রধান প্রযুক্তিগত বিস্তারিত প্রতিযোগিতায় ৫-১০, আমরা প্রক্রিয়া করি এখানে কি এটি নির্ভরযোগ্য কাজ করে: ~100 apps per batch run সেশন ট্র্যাকিং প্রতিটি এজেন্ট সেশন আমাদের ক্লাউডে ট্র্যাক করা হয়, যদিও এজেন্টগুলি ব্যাচ বিল্ডিংয়ের সময় স্থানীয়ভাবে পরিচালিত হয়. স্ক্রিপ্টটি আমাদের প্ল্যাটফর্মে এবং প্রতিটি এজেন্ট শেষ হওয়ার পরে সেশন তৈরি করে এবং সমস্ত কথোপকথন বার্তাগুলি সমন্বয় করে। এর মানে হল আমরা আমাদের কনসোল ইউআই এর মাধ্যমে প্রতিটি আইআই সিদ্ধান্তটি পর্যালোচনা করতে পারি, ঠিক যেন এটি একটি ক্লাউড-হোস্ট করা সেশন। ভুল ও ভুল ব্যবস্থাপনা প্রতিটি অ্যাপ্লিকেশন স্বয়ংক্রিয় করা যাবে না. স্ক্রিপ্টটি ব্যর্থতা অসাধারণভাবে পরিচালনা করে: সিস্টেম সনাক্তকরণ: এজেন্টটি শেষ হওয়ার পরে, আমরা আমাদের SDK সিস্টেমগুলির বিরুদ্ধে ফলাফলটি সনাক্ত করি. যদি এটি অতিক্রম না করে (প্রয়োজনীয় ক্ষেত্রের অভাব, ভুল কাঠামো), অ্যাপ্লিকেশনটি চিহ্নিত হয়। মৃত এপিআই: এজেন্টকে auth খালি রাখার নির্দেশ দেওয়া হয় এবং এপিআই উপলব্ধ না হলে কেন ব্যাখ্যা করা হয়। টাইমআউট: যদি Claude একটি বিশেষ করে কঠিন এপিআইতে আটকে পড়ে (যদিও এটি প্রায়ই ঘটে না), সেশনটি ব্যর্থ হিসাবে চিহ্নিত করা হয় এবং এটি পুনরায় চালু করা যেতে পারে। এখানে এটি আকর্ষণীয় হয়ে উঠে: ব্যর্থতাগুলি উন্নতিতে ফিরে আসে। যখন একটি এজেন্ট অ্যাপ্লিকেশনটিতে ব্যর্থ হয়, তখন আমরা সেশনটি পর্যালোচনা করি যাতে বুঝতে পারি কেন - এটি এজেন্টের দক্ষতাগুলির মধ্যে একটি ব্যর্থতা ছিল? একটি অদ্ভুত এপিআই মডেল? খারাপ ডকুমেন্টেশন? আমরা মূল সমস্যার সমাধান করি, পুনরায় চালু করি, এবং প্রতিটি ব্যাচ আগের তুলনায় ভাল হয়। এজেন্টের জ্ঞান এটাই চাবিকাঠি: এজেন্টটি প্রতিটি এপিআইয়ের জন্য শূন্য থেকে শুরু করে না। মেম্বার প্ল্যাটফর্ম পর্যালোচনা (মেম্বার কি, ফ্রেমওয়ার্ক কিভাবে কাজ করে) সংযোগকারী বিল্ডিং দক্ষতা (auth বাস্তবায়নের জন্য একটি মালিকানাধীন ধাপে ধাপে কাজ ফ্লো, auth টাইপ নির্ধারণ, auth-type নির্দিষ্ট ডকুমেন্টগুলি পড়ুন, প্যারামিটার কনফিগার করুন, API ক্লায়েন্ট বাস্তবায়ন করুন, বাস্তবায়ন টেস্ট) OpenAPI দক্ষতা (কেমন খুঁজে পেতে এবং ক্রমবর্ধমানভাবে OpenAPI স্পেসিফিকেশন অনুসন্ধান করা ছাড়া সম্পূর্ণ সিস্টেমগুলি контекстуে লোড করা), কোর সংযোগকারী ফাংশনগুলির জন্য বিস্তারিত বাস্তবায়ন গাইড। আমাদের এজেন্ট ফ্রেমওয়ার্ক একটি সেশনের সময় অনুরোধযোগ্য দক্ষতা লোডিং সমর্থন করে, কিন্তু ব্যাটারি প্রক্রিয়াকরণের জন্য আমরা আবিষ্কার করেছি যে সরাসরি সিস্টেমের পাম্পে মূল দক্ষতাগুলি প্রাক লোড করা ভাল কাজ করে। এর মানে হল এজেন্ট আমাদের প্ল্যাটফর্মের প্যাটার্ন সম্পর্কে গভীরভাবে জানেন, এমনকি লক্ষ্য API দেখার আগে। ম্যানুয়াল লেয়ার সবকিছু সম্পূর্ণরূপে স্বয়ংক্রিয় নয় - এবং এটি নকশা দ্বারা। বাইরের ক্ষেত্রে: কিছু এপিআই ডকুমেন্টসহ কিন্তু কার্যকরী. আমরা তাদের পর্যালোচনা করার সময় আবিষ্কার করেছি এবং তাদের ম্যানুয়ালভাবে পরিচালনা করেছি। গুণমান পর্যালোচনা: আমরা আমাদের কনসোলের মাধ্যমে এজেন্ট সেশনগুলি পর্যালোচনা করি, বিশেষ করে যেসব অ্যাপ্লিকেশন যাচাইয়ের জন্য ব্যর্থ হয়েছে। কোন বাস্তব ক্রেডিটেশন নেই: বর্তমানে, এজেন্টটি বাস্তব এপিআই কীগুলি ব্যবহার করে সনাক্ত করে না. এটি এপিআইগুলি অ্যাক্সেসযোগ্য এবং যে auth সঠিকভাবে কনফিগার করা হয়েছে তা নিশ্চিত করে, কিন্তু বাস্তব OAuth প্রবাহ সম্পন্ন করে না। পরবর্তী কি আমরা আগামী কয়েক সপ্তাহে মেম্বারেন ইউনিভার্সিটি প্রকাশ্যে চালু করছি, নিক্স এবং অন্ধকার অ্যাপ্লিকেশনগুলির সাথে শুরু করছি - পুরানো স্কুল এপিআই, খারাপ ডকুমেন্টেড সিস্টেম। আমরা স্বয়ংক্রিয় সাইন আপ এবং OAuth প্রবাহের জন্য ব্রাউজার অটোমেশন নির্মাণ করছি যাতে এজেন্টগুলি অন্তর্নির্দেশিত ইন্টিগ্রেশনগুলি চেক করতে পারে। দীর্ঘমেয়াদী: ক্রমাগত রক্ষণাবেক্ষণ. এপিআই পরিবর্তন, এন্ডপয়েন্ট অপচয় করা হয়. একই এজেন্ট যারা এই ইন্টিগ্রেশনগুলি তৈরি করেছিলেন তারা তাদের বর্তমান রাখবে। বৃহত্তর চিত্রটি এই: এআই এজেন্টরা কেবলমাত্র কোডিং সহকারী নয় যা আপনাকে ফাংশনগুলি দ্রুত লিখতে সহায়তা করে। . তাদেরকে একটি সঠিক সমস্যা নির্ধারণ করুন, তাদেরকে সঠিক সরঞ্জাম এবং জ্ঞান দিন, এবং তারা পূর্বে সম্ভব ছিল না এমন মাত্রায় জিনিসগুলি তৈরি করতে পারে। infrastructure builders
