बाईं ओर टेबल अवलोकन और 1. परिचय 
 
 
 
 
 
 
 
 
 
 
 
 
 
 Basic premises for our models 2.1. How LLMs are charged 2.2 An anedotal model from industry 2.3 Choice of Costs in the Model 2.4 Why multiple scenarios 
 
 
 A Decision Theoretic Model 3.1 How to model success 
 
 
 
 
 A Model for Commercial Operations Based on a Single Transaction 4.1 Example of Using the Model 4.2 Model Analysis 4.3 Discussion of the RoI vs. Earning dillema 
 
 
 
 Modelling of a Binary Classification Problem 5.1 Local Sensitivity Analysis 5.2 Global Sensitivity Analysis by Sobol Method 
 
 Related Work 
 
 Future work 
 
 Conclusion, References, and Acknowledgements 4.2 मॉडल विश्लेषण हमें ध्यान देना चाहिए कि वाणिज्यिक संदर्भ में एलएलएम का उपयोग करने के कारण, अनिश्चितता मुख्य रूप से जी, एल, और पी में होगी. पी के लिए एक सामान्य संभावना वितरण और जी और एल के लिए एक सामान्य या यहां तक कि पावर संभावना वितरण की उम्मीद करना उचित होगा. चूंकि जी और एल व्यापार मूल्य हैं, और पी व्यापार परिणाम है जो आईआई कार्यों को सही ढंग से पूरा करने से आता है, ये मूल्य परियोजना टीम के प्रत्यक्ष नियंत्रण में नहीं हैं. हम याद करते हैं कि सफलता की संभावना का एक पूर्ण मॉडल संतुलन 17 से शुरू होना चाहिए, लेकिन यह इस लेख के दायरे से परे है. दूसरी ओर, टी, अर्थात्, टोकन में लेनदेन का आकार, यह परियोजना टीम के नियंत्रण में अधिक है, क्योंकि यह इनपुट और आउटपुट पर उपयोग किए जाने वाले डेटा के आकार पर निर्भर करता है, और वांछित आकार, और प्रिंट का आकार भी। संतुलन 18 को देखते हुए, हम यह भी देख सकते हैं कि यदि G और L बड़े होते हैं और T छोटे होते हैं, तो कारक CT छोटा होगा और E[E] मुख्य रूप से GP −L(1−P) का कार्य होगा, और चूंकि G और P को एक ही व्यापार कार्य के लिए एक ही वितरण होने की उम्मीद है, तो P में बड़ा प्रभाव होगा। यह LLMLinguaJiang et al. [2023a,b], Pan et al. [2024] जैसे त्वरित संपीड़न तकनीकों के मूल्यांकन को बहुत प्रभावित कर सकता है. उदाहरण के लिए, मान लें कि 1,000 टोकन लेनदेन का उपयोग करके एक वर्गीकरण कार्य US$10 लाभ या US$1 नुकसान हो सकता है. इसका लागत GPT 4o में US$0.005 होगा. इसलिए, 20× त्वरित संपी इन सब बातों को ध्यान में रखते हुए, हमने E[E] और E[R] में मापदंडों के प्रभाव को समझने के लिए एक स्थानीय और एक वैश्विक संवेदनशीलता विश्लेषण करने का फैसला किया. हम समझते हैं कि स्थानीय संवेदनशीलता इस मामले में समझने में आसान है और उचित है, जबकि वैश्विक संवेदनशीलता सैद्धांतिक रूप से मजबूत है; इसलिए, हम स्थानीय विश्लेषण की वैधता को समझने के लिए कार्यों की रेखात्मकता का भी विश्लेषण करते हैं। 4.2.1 Local Sensitivity Analysis यह पहला संवेदनशीलता विश्लेषण स्थानीय और गुणवत्तापूर्ण है. यह प्रत्येक परिवर्तनीय के संबंध में E[E] के आंशिक उत्प्रेरकों का मूल्यांकन करके किया जाता है. यह इस बारे में एक अंतर्दृष्टि प्रदान करता है कि E[E] विविधता सीमाओं के भीतर प्रत्येक पैरामीटर में परिवर्तनों के लिए कितना संवेदनशील है. संतुलन 18 को ध्यान में रखते हुए, परिवर्तकों G, C, T, P और L के लिए सभी आंशिक उत्प्रेरकों को पाया जा सकता है। E[E] के लिए आंशिक उत्प्रेरक हैं: E[E] का हेसियन मुख्य रूप से शून्य से बना है, जो एक काफी रैखिक व्यवहार को इंगित करता है जो एक स्थानीय विश्लेषण के लिए बहुत स्वीकार्य होगा। इसी तरह, E[R] के लिए आंशिक उत्प्रेरक हैं: इस प्रकार, परिवर्तकों G, C, T, L, और P के संबंध में E[R] का हेसियन मैट्रिक्स H है: E[R] के हेसियन मैट्रिक्स में कम शून्य होते हैं, और C का छोटा मूल्य, अधिकांश आंशिक उत्प्रेरकों के नामक में पाया जाता है, अधिक मूल्य लाएगा. यह प्रतिबिंब स्थानीय संवेदनशीलता विश्लेषण के लिए एक चुनौती है; हालांकि, आंशिक उत्प्रेरकों को देखते हुए अभी भी व्याख्याशीलता पर कुछ फायदे हैं। 4.2.2 Global Sensitivity analysis of earnings by Sobol technique हालांकि स्थानीय संवेदनशीलता विश्लेषण एक बिंदु के पड़ोस में प्रत्येक समय एक परिवर्तक को देखता है, और इसलिए केवल पर्याप्त है, यदि ऐसा है, तो रेखात्मक और ज्यादातर रेखात्मक कार्यों के लिए, वैश्विक विश्लेषण सभी परिवर्तकों के प्रभाव का अध्ययन कर सकता है एक ही समय में, विशिष्ट वितरण के लिए, यहां तक कि गैर-रेखात्मकता के मामले में [Saltelli et al., 2004, 2008]। सोबोल [2001] ने एक मॉडल चलाने के आधार पर वैश्विक संवेदनशीलता विश्लेषण के लिए एक विधि की पेशकश की, जिसमें कुछ बिंदुओं के तहत उत्पन्न नमूना शामिल है, और संवेदनशीलता के सूचकांकों के एक सेट की गणना करने की अनुमति देने वाली एक भिन्नता टूटने की पेशकश की। पहला आदेश Sobol सूचकांक मॉडल आउटपुट में भिन्नता के लिए प्रत्येक इनपुट परिवर्तनीय के व्यक्तिगत योगदान को मापता है, अन्य परिवर्तकों के साथ बातचीत को अनदेखा करते हुए। सरल शब्दों में, यह मात्रा देता है कि मॉडल आउटपुट में अनिश्चितता का कितना सीधे एक विशिष्ट इनपुट में परिवर्तनों के लिए जिम्मेदार किया जा सकता है, जबकि सभी अन्य इनपुट स्थिर हैं। कुल आदेश Sobol सूचकांक आउटपुट variance के लिए एक इनपुट परिवर्तनीय के समग्र योगदान की मात्रा को मात्रा देता है, इसके व्यक्तिगत प्रभाव और अन्य परिवर्तनीयों के साथ इसके बातचीत दोनों को ध्यान में रखते हुए. मूल रूप से, यह सभी संभावित तरीकों को ध्यान में रखकर आउटपुट पर एक परिवर्तनीय के प्रभाव को मापता है, जिसमें यह परिणाम को प्रभावित कर सकता है, जिसमें अन्य परिवर्तनीयों के साथ इसके संयुक्त प्रभाव शामिल हैं. यह सूचकांक भी 0 और 1 के बीच है, जो दिए गए इनपुट परिवर्तनीय के कुल प्रभाव के लिए जिम्मेदार आउटपुट परिवर्तनीयता का अनुपात इंगित करता है [Sobol, 2001]। अंत में, दूसरा आदेश, और उच्च आदेश, सोबोल सूचकांक पहला आदेश सूचकांक का विस्तार है और यह मॉडल आउटपुट के भिन्नता पर इनपुट परिवर्तकों के जोड़ों, या टप्पलों के बीच संयुक्त प्रभाव या बातचीत को मापने के लिए उपयोग किया जाता है. जबकि पहला आदेश सूचकांक प्रत्येक परिवर्तकों के व्यक्तिगत योगदान पर ध्यान केंद्रित करता है, दूसरा आदेश सूचकांक जांच करता है कि दो परिवर्तकों के बीच बातचीत आउटपुट में अनिश्चितता में कैसे योगदान करती है, प्रत्येक परिवर्तकों के व्यक्तिगत प्रभावों के आधार पर क्या उम्मीद की जा सकती है [Sobol, 2001]. यह एक मैट्रिक्स में परिवर्तकों के जोड़े के संयुक्त प्रभाव का एक अच्छा दृश्य प्रतिनिधित्व करने की अनुमति देता है. वाणिज्यिक संचालन मॉडल के लिए आय की वैश्विक संवेदनशीलता विश्लेषण से, यह देखा जा सकता है कि पी का मूल्य स्पष्ट रूप से पहले आदेश विश्लेषण में सबसे महत्वपूर्ण कारक है आकृति 2a. कुल आदेश सूचकांक के लिए, आकृति 2b C और T के महत्व को दर्शाता है, जो दूसरे आदेश के मूल्यों में भी प्रतिबिंबित होता है, आकृति 3 में दिखाया गया है, जो एक जोड़ी के रूप में जोड़ी C और T की स्पष्ट प्रबलता को दर्शाता है। व्यावसायिक संचालन मॉडल के लिए RoI संवेदनशीलता विश्लेषण से पता चलता है कि RoI निश्चित सीमाओं के भीतर कुल क्रम के लिए C, T और P के परिवर्तनों के लिए विशेष रूप से संवेदनशील है. विशेष रूप से, C और T के संयोजन के दूसरे क्रम के RoI के परिवर्तन पर बड़ा प्रभाव पड़ता है. चूंकि C और T पहले से ही लाभ विश्लेषण में सबसे महत्वपूर्ण कारक थे, इसलिए RoI में उनका महत्व देखने की उम्मीद है, जहां वे RoI संतुलन के अंतिम मूल्य में एक बड़ा भूमिका निभाते हैं. कमाई मूल रूप से सी और टी के लिए संवेदनशील है, जिसमें पी एक महत्वपूर्ण भूमिका निभाता है. इस परिदृश्य के आधार पर, एक को टी और पी की एक अच्छी भविष्यवाणी पर ध्यान देना चाहिए, क्योंकि सी एक विशिष्ट एलएलएम के लिए तय किया जाएगा। 4.3 RoI vs. Earning Dillema के बारे में चर्चा उन परियोजनाओं के बीच चयन करना जो उनकी संभावित आय और आरओआई में भिन्न होते हैं, परियोजना प्रबंधन संस्थान [प्रोजेक्ट मैनेजमेंट इंस्टीट्यूट, 2021]. एक परियोजना के बीच चयन जिसमें छोटे आय हैं लेकिन उच्च आरओआई और एक अन्य जिसमें अधिक आय हैं लेकिन कम आरओआई एक रणनीतिक निर्णय लेने की प्रक्रिया शामिल है जो विभिन्न वित्तीय और गैर-वित्तीय कारकों को ध्यान में रखता है। हालांकि आरओआई एक महत्वपूर्ण मीट्रिक है, एक परियोजना की पूर्ण लाभ संभावना को अनदेखा नहीं किया जाना चाहिए। एक परियोजना जिसमें आरओआई कम है लेकिन अधिक कुल लाभ अधिक लाभदायक हो सकता है यदि अतिरिक्त आय कंपनी की वित्तीय स्वास्थ्य या विकास संभावनाओं को काफी प्रभावित करती है। हालांकि, बजट प्रतिबंधों के तहत, कम लागत वाले और उच्च आरओआई वाले परियोजनाएं अधिक संभव हो सकती हैं, भले ही उनकी कुल लाभ कम हो। 
 
 
 
 
 
 लेखक : (1) Geraldo Xexéo, Programa de Engenharia de Sistemas e Computação – COPPE, Universidade Federal do Rio de Janeiro, ब्राजील; (2) Filipe Braida, Departamento de Ciência da Computação, Universidade Federal Rural do Rio de Janeiro; (3) मार्कस पार्रेरास, प्रोग्राम डी इंजीनियरिंग सिस्टम और कंप्यूटर - COPPE, यूनिवर्सिटी फेडरल डॉ रिओ डी जनेरियो, ब्राजील और Coordenadoria de Engenharia de Produção - COENP, CEFET / RJ, Unidade Nova Iguaçu; (4) Paulo Xavier, प्रोग्राम डी इंजीनियरिंग डी सिस्टम और कंप्यूटर - COPPE, यूनिवर्सिटी फेडरल डॉ रिओ डी जनेरियो, ब्राजील। Authors: (1) Geraldo Xexéo, Programa de Engenharia de Sistemas e Computação – COPPE, Universidade Federal do Rio de Janeiro, ब्राजील; (2) Filipe Braida, Departamento de Ciência da Computação, Universidade Federal Rural do Rio de Janeiro; (3) मार्कस पार्रेरास, प्रोग्राम डी इंजीनियरिंग सिस्टम और कंप्यूटर - COPPE, यूनिवर्सिटी फेडरल डॉ रिओ डी जनेरियो, ब्राजील और Coordenadoria de Engenharia de Produção - COENP, CEFET / RJ, Unidade Nova Iguaçu; (4) Paulo Xavier, प्रोग्राम डी इंजीनियरिंग डी सिस्टम और कंप्यूटर - COPPE, यूनिवर्सिटी फेडरल डॉ रिओ डी जनेरियो, ब्राजील। 
 
 यह लेख CC BY-NC-ND 4.0 DEED लाइसेंस के तहत archiv पर उपलब्ध है। यह लेख CC BY-NC-ND 4.0 DEED लाइसेंस के तहत archiv पर उपलब्ध है। Archive पर उपलब्ध

Part of HackerNoon's growing list of open-source research papers, promoting free access to academic material.

How the Most Important Models Actually Work

undefined's blog

यह ऑडियो कहानी की मूल भाषा में निर्मित है!

एलएलएम में prompt संपीड़न और लाभ मार्जिन के पीछे संवेदनशील गणित

About Author

टिप्पणियाँ

लेबल

इस लेख में चित्रित किया गया था

Related Stories

He/Him/Master of Discovery

AI की शक्ति को उन्मुक्त करना। अत्याधुनिक तकनीकों की एक व्यवस्थित समीक्षा: सार और परिचय

उपयोगकर्ता-केंद्रित क्रिप्टो उत्पाद बनाना: ग्राहक प्रतिक्रिया का महत्व

फ्लोकी का वल्लाह भारत के श्रीलंका दौरे के लिए सहयोगी प्रायोजक के रूप में शामिल हुआ

He/Him/Master of Discovery

AI की शक्ति को उन्मुक्त करना। अत्याधुनिक तकनीकों की एक व्यवस्थित समीक्षा: सार और परिचय

उपयोगकर्ता-केंद्रित क्रिप्टो उत्पाद बनाना: ग्राहक प्रतिक्रिया का महत्व

फ्लोकी का वल्लाह भारत के श्रीलंका दौरे के लिए सहयोगी प्रायोजक के रूप में शामिल हुआ

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps