இனி உங்கள் AI வேகமாக இயங்க கிளவுட் தேவையில்லை

```html ஆசிரியர்கள்: தாமஸ் ஃபெல்டின் லியோ மார்ச்சோ ஜுவான்-அன்டோனியோ கோர்டெரோ-ஃபுர்டெஸ் ஃபிராங்க் ப்ரோக்னர்ஸ் தாமஸ் எச். கிளாசன் சுருக்கம்: ஸ்ட்ரீமிங் தரவுகளில் ஆழ்ந்த நரம்பியல் நெட்வொர்க் (DNN) அனுமானம், அனுமான செயல்திறன் தேவைகளைப் பூர்த்தி செய்ய கணினி வளங்கள் தேவைப்படுகிறது. இருப்பினும், தாமதம் மற்றும் தனியுரிமை உணர்திறன் கொண்ட ஆழ்ந்த கற்றல் பயன்பாடுகள், மறைமுகமான பரிமாற்ற செலவு மற்றும் மூன்றாம் தரப்பு கிளவுட் வழங்குநர்கள் மீது நம்பிக்கை இல்லாததால், தொலைதூர கிளவுட்களுக்கு கணக்கீட்டை ஆஃப்லோட் செய்ய முடியாது. கட்டுப்படுத்தப்பட்ட சூழலில் கணக்கீட்டை வைத்துக்கொண்டு செயல்திறனை அதிகரிக்கும் தீர்வுகளில், வன்பொருள் முடுக்கம் கடினமாக இருக்கலாம், மேலும் மாதிரி உகப்பாக்கம் விரிவான வடிவமைப்பு முயற்சிகள் தேவைப்படும் அதே வேளையில் துல்லியத்தை குறைக்கும். DNN பிரித்தல் என்பது மூன்றாவது நிரப்பு அணுகுமுறையாகும், மேலும் இது விளிம்பு நெட்வொர்க்குகளின் பண்புகள் மற்றும் DNN கட்டமைப்பைக் கருத்தில் கொண்டு, அனுமான செயல்திறனை (வினாடிக்கு அனுமானங்களின் எண்ணிக்கை) அதிகரிப்பதை நோக்கமாகக் கொண்டு, பல விளிம்பு சாதனங்களில் அனுமான பணிச்சுமையை விநியோகிப்பதை உள்ளடக்கியது. இந்த தாள் பல-திரிபு விநியோகிக்கப்பட்ட DNN வரிசைப்படுத்தல்களுக்கான அனுமானம் மற்றும் பரிமாற்ற தாமதங்களைக் கணிக்க ஒரு முறையை அறிமுகப்படுத்துகிறது, மேலும் அனுமான செயல்திறனை அதிகரிக்க ஒரு உகப்பாக்கம் செயல்முறையை வரையறுக்கிறது. பின்னர் ஒரு கிளை மற்றும் எல்லை தீர்வு வழங்குநர் வழங்கப்படும் மற்றும் அடையப்பட்ட செயல்திறன் மற்றும் சிக்கலான தன்மையை அளவிட பகுப்பாய்வு செய்யப்படும். இந்த பகுப்பாய்வு முடுக்கப் பகுதியின் வரையறைக்கு வழிவகுத்தது, இது DNN பிரித்தல் பயனுள்ளதாக இருக்கும் நிபந்தனைகளில் DNN மற்றும் நெட்வொர்க் பண்புகளின் நிச்சயமான நிலைமைகளை விவரிக்கிறது. இறுதியாக, பரிசோதனை முடிவுகள் உருவகப்படுத்துதல்களை உறுதிப்படுத்துகின்றன மற்றும் மாதிரி விளிம்பு வரிசைப்படுத்தல்களில் அனுமான செயல்திறன் மேம்பாடுகளைக் காட்டுகின்றன. மையப்படுத்தப்பட்ட சேவையகங்கள், எ.கா., கிளவுட், ஆகியவற்றிற்கு அலைவரிசை பயன்பாடு மற்றும் தாமதத்தைக் குறைக்கும் அதே வேளையில் விளிம்பில் DNN பிரித்தல் அனுமான செயல்திறனை துரிதப்படுத்துகிறது. அறிமுகம் இணைக்கப்பட்ட சாதனங்கள் 2020 இல் ஒரு நாளைக்கு 2.5 குவின்டில்லியன் பைட்டுகள் தரவை உருவாக்கியதாக மதிப்பிடப்பட்டுள்ளது. இந்த சூழலில், செயற்கை நுண்ணறிவு (AI) என்பது கணினி பார்வை, முக அங்கீகாரம், பேச்சு அங்கீகாரம், இயற்கை மொழி செயலாக்கம் அல்லது தன்னாட்சி வாகனம் ஓட்டுதல் போன்ற துறைகளில், உற்பத்தி செய்யப்படும் தரவுகளின் எப்போதும் வளர்ந்து வரும் அளவைக் கையாளக்கூடிய சிறந்த தொழில்நுட்பங்களில் ஒன்றாகும். AI, குறிப்பாக ஆழ்ந்த கற்றல் (DL), பெரிய அளவிலான தரவுகளுக்கு கூடுதலாக, குறிப்பிடத்தக்க செயலாக்க சக்தி மற்றும் நினைவக திறன்களைக் கோருகிறது, இது கிளவுட் கம்ப்யூட்டிங்கை AI பணிச்சுமைகளுக்கான தங்கும் தீர்வாக ஆக்குகிறது. இதன் விளைவாக, 2019 இல், 96% AI பணிகள் கிளவுட்டில் இயக்கப்பட்டன. 1 de facto 2 AI பயன்பாடுகள் வலுவான தாமதக் கட்டுப்பாடுகளைக் கொண்டிருக்கலாம், , தன்னாட்சி வாகனம் ஓட்டுதல், உற்பத்தி கண்காணிப்பு அல்லது உண்மையான உலக தொடர்பு சம்பந்தப்பட்ட எந்தவொரு நிகழ்நேர அனுமானத்திலும். உதாரணமாக, தன்னாட்சி வாகனம் ஓட்டுவதில் சராசரி பதில் நேரங்கள் 100 மில்லி விநாடிகளுக்குள் இருக்க வேண்டும். , கிளவுட்-க்கு ரவுண்ட்-ட்ரிப் நேரங்கள் இதுபோன்ற பயன்பாடுகளுக்கு மிக நீண்டதாக ஆக்குகிறது. இதேபோல், சில பயன்பாடுகள் வலையமைப்பில் குறிப்பிடத்தக்க இணைப்பு பயன்பாட்டை அறிமுகப்படுத்தலாம், , கணினி பார்வையில் உயர்தர வீடியோ செயலாக்கத்தின் விஷயத்தில், இது கிளவுட்டில் இயங்குவதைத் தடுக்கிறது. தரவு தனியுரிமைக் கொள்கைகள் அல்லது தரவு பாதுகாப்பு விதிமுறைகளும் தரவுகள் குறிப்பிட்ட சூழல்களை விட்டு வெளியேறுவதைத் தடை செய்யலாம். இது AI வரிசைப்படுத்தல்களை விளிம்பு கம்ப்யூட்டிங்கில் ஊக்குவிக்கிறது, இது தரவு மையங்களில் இருந்து விளிம்பு சாதனங்களுக்கு நெருக்கமாக கணக்கீட்டு பணிகளை இடம்மாற்றுவதை உள்ளடக்கியது, , தரவு மூலங்களுக்கு அருகில். எ.கா. [[1]](javascript:void()) எ.கா. அதாவது பொது கிளவுட்களுடன் ஒப்பிடும்போது, விளிம்பு என்பது வள-கட்டுப்படுத்தப்பட்ட சூழலாகும், இது முக்கியமான வரம்புகளைக் கொண்டுள்ளது , எனவே விளிம்பிற்கான AI மேம்பாடு கிளவுட்-க்கான AI மேம்பாட்டிலிருந்து இயல்பாகவே வேறுபட்டது. அதன் மூலத்திற்கு அருகில் தரவை பகுப்பாய்வு செய்வது சாதனங்களின் குறைந்த திறன்கள், கிடைக்கக்கூடிய வளங்களின் நெகிழ்வற்ற தன்மை மற்றும் விளிம்பு நெட்வொர்க்குகளின் பன்முகத்தன்மை காரணமாக சவாலாக இருக்கலாம். கணினி திறனைக் குறைப்பது அடையக்கூடிய அனுமான செயல்திறனைக் குறைக்கிறது, கிளவுட்டில் இருந்து விளிம்பிற்கு கனமான பணிச்சுமைகளை இடம்மாற்றுவதை மேலும் சிக்கலாக்குகிறது. சில பயன்பாடுகளில், அனுமான செயல்திறன், , ஒரு DNN-இன் வினாடிக்கு அடையக்கூடிய அனுமானங்கள், DNN துல்லியத்துடன் இணைக்கப்படலாம், , வீடியோ ஸ்ட்ரீம்களில் பொருள் கண்காணிப்புடன், அங்கு அனுமான வீதத்தை வினாடிக்கு 15 முதல் 5 அனுமானங்கள் வரை குறைப்பது ஒரு பொருள் கண்டறிவியின் F1 மதிப்பெண்__3__ஐ 10% குறைப்பதாகக் காட்டப்பட்டுள்ளது . வேறு வார்த்தைகளில் கூறுவதானால், குறைந்த அனுமான செயல்திறன் கொண்ட வரிசைப்படுத்தல்கள் முக்கியமான தகவல் இழப்பை ஏற்படுத்தும், , வீடியோ கண்காணிப்பு பயன்பாடுகளில் கண்டறிதல்களின் இழப்பு. [[2]](javascript:void()) அதாவது எ.கா. [[3]](javascript:void()) எ.கா. கட்டுப்படுத்தப்பட்ட விளிம்பு நெட்வொர்க்குகளில் செயல்திறன் தேவைகளைப் பூர்த்தி செய்ய இரண்டு முக்கிய முறைகள் உள்ளன: மாதிரி சுருக்கம் அல்லது வன்பொருள் முடுக்கம். நரம்பியல் நெட்வொர்க்குகளை இலகுரக, பெரும்பாலும் குறைந்த செயல்திறன் கொண்ட, மாதிரியின் பதிப்பாகக் குறைத்தல் மற்றும் மேம்படுத்துதல் ஆகியவற்றை உள்ளடக்கியது. நிலையான மாதிரி சுருக்க முறைகளில் கத்தரித்தல் , , மாதிரியில் தேவையற்ற அளவுருக்களை அகற்றுதல், குவாண்டேஷன் , , மாதிரியை சேமிக்க ஒதுக்கப்பட்ட நினைவகத்தைக் குறைத்தல், மற்றும் அறிவு வடிகட்டுதல் , , பெரிய ஒன்றிலிருந்து பிரித்தெடுக்கப்பட்ட அறிவுடன் ஒரு சிறிய நரம்பியல் நெட்வொர்க்கை பயிற்றுவித்தல் ஆகியவை அடங்கும். மாதிரி உகப்பாக்கம் விரிவான வடிவமைப்பு முயற்சிகள் தேவை மற்றும் மாதிரி துல்லியத்திற்கு தடையாக இருக்கலாம். விளிம்பு சாதனங்களில், ஆற்றல் திறன் கொண்டதாகவும் இலகுவாகவும் இருக்கும் வன்பொருளைக் கண்டுபிடிப்பதை உள்ளடக்குகிறது, அதே நேரத்தில் போதுமான செயல்திறனுடன் அனுமானத்தை இயக்க முடியும். விளிம்பில் முடுக்கத்திற்கான வேட்பாளர் வன்பொருளின் பல வகைகள் உள்ளன, அவை செயல்திறன் மற்றும் குறிப்பிட்ட தன்மையில் வேறுபடுகின்றன, ஆனால் நிலையான செயலாக்க அலகுகள் எதிர்பார்ப்புகளை பூர்த்தி செய்யத் தவறிவிட்டன மற்றும் ASIC-கள் போன்ற பிரத்யேக வன்பொருள்கள் நடைமுறைக்கு மாறானதாகவும் விலை உயர்ந்ததாகவும் கண்டறியப்பட்டுள்ளன . மாதிரி சுருக்கம் [[4]](javascript:void()) அதாவது [[5]](javascript:void()) அதாவது [[6]](javascript:void()) அதாவது வன்பொருள் முடுக்கம் [[7]](javascript:void()) DNN பிரித்தல் என்பது அனுமானத்தை துரிதப்படுத்தும் ஒரு நிரப்பு முறையாகும், இது விளிம்பு நெட்வொர்க்குகளில் ஏற்கனவே உள்ள சாதனங்களின் பெருக்கத்தைப் பயன்படுத்தி அனுமான கணக்கீட்டை விநியோகிக்கிறது - இது தனியாகவோ அல்லது மற்ற இரண்டு முறைகளுடன் இணைந்தோ பயன்படுத்தப்படலாம். DNN பிரித்தல் ஒரு நரம்பியல் நெட்வொர்க்கை பிரிவுகளாகப் பிரிக்கக்கூடிய ஒரு குழாயாகக் கருதுவதையும், இந்த பிரிவுகளை விளிம்பு சாதனங்களில் விநியோகிப்பதையும் உள்ளடக்கியது. இந்த பிரிவுகளின் இடம் DNN மற்றும் அடிப்படை நெட்வொர்க் பண்புகள் இரண்டையும் அடிப்படையாகக் கொண்டது. DNN பிரித்தல் பிரிப்புப் புள்ளிகளை அடையாளம் காண்பதை நம்பியுள்ளது, அவை மாதிரியின் வரைபடத்தில் மாதிரி பிரிக்கப்பட்ட புள்ளிகள் ஆகும். இயக்க நேரத்தில், பிரிவுகள் வரிசையாக இயக்கப்படுகின்றன, ஒவ்வொன்றும் அடுத்த பிரிவுக்கு இடைநிலை அனுமான முடிவுகளை அனுப்புகிறது. இது ஒவ்வொரு பிரிவையும் அடுத்த உள்ளீட்டு தரவை கணக்கிடத் தொடங்க அனுமதிக்கிறது, மற்ற சாதனங்கள் ஆஃப்லோட் செய்யப்பட்ட ஒன்றைத் தொடர்ந்து செயலாக்கும் போது, இதன் மூலம் அனுமான செயல்திறனை மேம்படுத்துகிறது, இது படம் 1 இல் காட்டப்பட்டுள்ளது. இந்த தாளின் மீதமுள்ளவற்றில், நிகழ்நேர அனுமானம் வழியாக DNN பிரித்தல் விளக்கப்படுகிறது வீடியோ ஸ்ட்ரீம்கள். A. தொடர்புடைய வேலை DNN பிரித்தலுக்கான முறைகள், மொபைல் விளிம்பு-கிளவுட் ஆஃப்லோடிங்கில் இருந்து பெறப்பட்டவை, கணினி தாமதம், ஆற்றல் நுகர்வு, வள பயன்பாடு, செலவு அல்லது செயல்திறன் போன்ற பல்வேறு செயல்திறன் குறிகாட்டிகளை மேம்படுத்த முயல்கின்றன. DNN பிரித்தல் ஒரு உகப்பாக்க இலக்கை வரையறுக்க இந்த குறிகாட்டிகளில் ஒன்று அல்லது அதற்கு மேற்பட்டவற்றை இணைப்பதை நம்பியுள்ளது, மேலும் இந்த குறிகாட்டியைப் பயன்படுத்தி பிரித்தல் திட்டங்களைக் கண்டறியும் ஒரு முறை. உதாரணமாக, நியூரோசர்ஜன் தாமதம் மற்றும் ஆற்றல் நுகர்வுகளைக் குறைப்பதற்காக, முதல் பிரிவை விளிம்பில் வைத்து இரண்டாவது பிரிவை கிளவுட்-க்கு ஆஃப்லோட் செய்வதற்கான ஒற்றை பிரிப்புப் புள்ளியைத் தேடுகிறது. IoT-யில் உள்ள பயன்பாடுகளும் ஆற்றல், தாமதம் மற்றும்/அல்லது செலவை மேம்படுத்த பல DNN-களை இணைத்து ஆஃப்லோட் செய்வதைக் கருத்தில் கொண்டுள்ளன, SPSO-GA போன்ற பல்வேறு தீர்வுகள் துகள் திரள் உகப்பாக்கம் (PSO) மற்றும் மரபணு வழிமுறை (GA) ஐ இணைக்கின்றன, அல்லது DDPQN இது பிரித்தல் திட்டங்களைக் கண்டறிய ஆழமான வலுவூட்டல் கற்றலைப் பயன்படுத்துகிறது. மற்ற எடுத்துக்காட்டுகளில் DINA சேர்க்கப்பட்டுள்ளது, இது ஒரு முழு எண் அல்லாத நேரியல் நிரலாக்க (INLP) சிக்கலை வரையறுக்கிறது, மேலும் ஃபாக் நெட்வொர்க்குகளில் தாமதம் மற்றும் வள பயன்பாட்டை மேம்படுத்த, பொருந்தும் கோட்பாடு அடிப்படையிலான தீர்வைப் பயன்படுத்துகிறது. அனுமான செயல்திறனை மேம்படுத்தும் முறைகளில் DNN அறுவை சிகிச்சை சேர்க்கப்பட்டுள்ளது, இது இடைநிலை DNN அடுக்கு வெளியீடுகளின் குறைந்த அளவைப் பயன்படுத்தி விளிம்பு மற்றும் கிளவுட் இடையே அனுமான கணக்கீட்டைப் பிரிக்கிறது. இரண்டு வழிமுறைகளும் இரண்டு பிரிவுகளை உருவாக்குகின்றன, ஒன்று விளிம்பில் மற்றொன்று கிளவுட்-ல். மொபைல் விளிம்பு-கிளவுட் புலத்தில் உள்ள மற்ற ஆய்வுகளும் ஒட்டுமொத்த அனுமான செயல்திறனை மேலும் துரிதப்படுத்த கிளவுட்டில் பல-திரிபு கணக்கீட்டை உள்ளடக்கியது. இரண்டாவது பிரிவின் அனுமான கணக்கீட்டிற்கு கிளவுட்-ஐ நம்புவது நல்ல வலையமைப்பு இணைப்பை அனுமானிக்கிறது, இது சில தனிமைப்படுத்தப்பட்ட விளிம்பு வரிசைப்படுத்தல்களின் மோசமான இணைப்புடன் நிச்சயமற்றதாக இருக்கலாம். எட்ஜென்ட் முந்தைய வழிமுறையை மொபைல் சாதனங்கள் மற்றும் கிடைக்கக்கூடிய விளிம்பு சேவையகங்களுக்கு மாற்றியமைக்கிறது, கிளவுட்-க்கு ஆஃப்லோட் செய்வதற்கான கட்டுப்பாட்டை தளர்த்துகிறது. இந்த முறை ஒரு குறிப்பிட்ட பயிற்சி மற்றும் மாதிரி கட்டமைப்போடு இணைக்கப்பட்டுள்ளது, மேலும் இது பிரித்தலை இரண்டு பிரிவுகளுக்கு மட்டுமே வரம்பிடுகிறது. மற்ற முறைகள் பல பிரிப்புப் புள்ளிகளைக் கருத்தில் கொண்டுள்ளன, , IONN , இது தாமதம் மற்றும் ஆற்றல் நுகர்வுகளைக் குறைப்பதற்காக பிரித்தெடுக்கும் சிக்கலை விவரிக்கிறது, மாதிரிகளை விளிம்பு சேவையகங்களுக்குப் பதிவேற்றுவதற்கான நேரத்தையும் கருத்தில் கொள்கிறது. [[8]](javascript:void()) [[9]](javascript:void()) [[10]](javascript:void()) [[11]](javascript:void()) [[12]](javascript:void()) [[13]](javascript:void()) [[14]](javascript:void()) எ.கா. [[15]](javascript:void()) இந்த முறைகள் தொலைதூர கிளவுட்களுடன் தொடர்பு கொள்கின்றன, அல்லது பிரித்தலின் தன்மையில் வரையறுக்கப்பட்டுள்ளன, , சரியாக இரண்டு பகுதிகளாகப் பிரிக்க வேண்டும், பல-திரிபுடன் அல்லது இல்லாமலும். பட்டியலிடப்பட்ட DNN பிரித்தல் ஆய்வுகளில் எதுவும் பல பிரிப்புப் புள்ளிகள் மற்றும் பல-திரிபு இரண்டையும் கருத்தில் கொள்வதில்லை. எ.கா. B. பங்களிப்புகள் இந்த தாள் பல பிரிப்புப் புள்ளிகள் மற்றும் பல-திரிபு பிரித்தலுடன், ஸ்ட்ரீமிங் தரவுகளில் நிகழ்நேர DNN கணக்கீட்டின் அனுமான செயல்திறனை அதிகரிக்க ஒரு விநியோகிக்கப்பட்ட அனுமான கட்டமைப்பை வழங்குகிறது. இந்த தாளின் பங்களிப்புகள் பின்வருமாறு: ஒரு விநியோகிக்கப்பட்ட DNN-இன் கணக்கீடு மற்றும் பரிமாற்ற தாமதங்களைக் கணக்கிடுவதற்கான ஒரு மாதிரி, இதன் மூலம் ஒரு கொடுக்கப்பட்ட பிரித்தல் திட்டத்தின் எதிர்பார்க்கப்படும் அனுமான செயல்திறனை மதிப்பிட முடியும். DNN பிரித்தலுக்கான உகப்பாக்க சிக்கலின் சூத்திரமாக்கல், இந்த சிக்கலுக்கான ஒரு கிளை மற்றும் எல்லை தீர்வை செயல்படுத்துதல், மற்றும் அதன் சிக்கலான தன்மையின் மதிப்பீடு. மாறுபடும் வலையமைப்பு மற்றும் DNN பண்புகளுடன் சாத்தியமான செயல்திறன் மேம்பாடுகளை ஆராய்வதற்கான உருவகப்படுத்துதல்கள். உகந்த பிரிப்புப் புள்ளிகளின் இருப்புக்கு வழிவகுக்கும் வலையமைப்பு மற்றும் DNN பண்புகளின் நிச்சயமான பகுதிகளை அடையாளம் காணுதல் மற்றும் அத்தகைய தீர்வுகளைக் கணக்கிடுவதற்கான செலவு, , DNN பிரித்தல் பயனுள்ளதாக இருக்கும் நிலைமைகள். அதாவது உருவகப்படுத்துதல்களில் வரையறுக்கப்பட்ட பகுதிகளை விளக்கும் பரிசோதனை முடிவுகள், அத்துடன் ஒருபடித்தான மற்றும் பன்முக சூழல்களில் கணிப்புத் துல்லியம் மற்றும் இறுதி அனுமான செயல்திறன் முடுக்கம். இந்த தாளின் மீதமுள்ளவற்றில், குழப்பத்தைத் தவிர்க்க, பிரிக்கப்பட்ட ஆழ்ந்த நரம்பியல் நெட்வொர்க் எனவும், என்ற சொல் அடிப்படை பௌதீக தொடர்பு வலையமைப்பைக் குறிக்கும். DNN நெட்வொர்க் C. தாள் சுருக்கம் இந்த தாளின் மீதமுள்ளவை பின்வருமாறு ஒழுங்கமைக்கப்பட்டுள்ளது. ஆழ்ந்த கற்றலின் பின்னணியையும் இந்த ஆய்வில் DNN-கள் எவ்வாறு குறிப்பிடப்படுகின்றன என்பதையும் வழங்குகிறது. கணக்கீடு மற்றும் பரிமாற்ற தாமத கணிப்பு முறைகளை விவரிக்கிறது, அவை க்குத் தேவைப்படுகின்றன, இது உகப்பாக்க சிக்கலை வரையறுக்கிறது, அத்துடன் பிரித்தல் முடிவுகளை எடுப்பதற்கான கிளை மற்றும் எல்லை வழிமுறையையும் விவரிக்கிறது. கிளை மற்றும் எல்லை வழிமுறையின் செயல்திறன் மற்றும் சிக்கலான தன்மையை அளவிடுவதற்கான உருவகப்படுத்துதல் முடிவுகளை வழங்குகிறது, மேலும் ஒருபடித்தான வலையமைப்பில் அனுமான செயல்திறனை மேம்படுத்தும் பிரித்தலின் இருப்பிற்கு வழிவகுக்கும் நிலைமைகளையும் வழங்குகிறது. பிரிவு V-இன் உருவகப்படுத்துதல்களை உறுதிப்படுத்தும் பரிசோதனை முடிவுகளை வழங்குகிறது, மேலும் ஒரு பன்முக பரிசோதனை அமைப்பில் அனுமான செயல்திறன் மேம்பாடுகளைக் காட்டுகிறது. இறுதியாக, முடிவுகளை விவாதிக்கிறது மற்றும் இந்த முறையின் பரந்த பொருந்தும் தன்மையை விரிவுபடுத்துகிறது. பிரிவு II பிரிவு III பிரிவு IV பிரிவு V பிரிவு VI பிரிவு VII பிரிவு II. பின்னணி: ஆழ்ந்த கற்றல் இயந்திர கற்றல் துறையில், ஆழ்ந்த கற்றல் (DL) என்பது DNN-களைப் பயன்படுத்துவதை நம்பியிருக்கும் முறைகளைக் குறிக்கிறது, , ஒன்றுக்கு மேற்பட்ட மறைக்கப்பட்ட அடுக்குகளைக் கொண்ட செயற்கை நரம்பியல் நெட்வொர்க்குகள் (அல்லது தொடர்புடைய இயந்திர கற்றல் முறைகள்). ஆழ்ந்த கற்றல் கட்டமைப்புகளுக்கான ஆரம்ப குறிப்புகளில் ஒன்று 1967 இல் வெளியிடப்பட்டது , ஆனால் 2010 கள் வரை DL கவனம் பெறவில்லை, முதலில் பேச்சு அங்கீகாரத்திலும், பின்னர் படங்களில் பொருள் கண்டறிதலிலும், உயர் பரிமாண தரவுகளில் சிக்கலான உறவுகளைப் பிடிக்கும் திறனுக்காக. ஆழ்ந்த கற்றல் 2022 இல் AI பயன்பாடுகளின் பெரும்பகுதியைக் கொண்டுள்ளது என்று மதிப்பிடப்பட்டுள்ளது, 75% க்கும் மேற்பட்ட நிறுவனங்கள் கிளாசிக்கல் முறைகளைப் பயன்படுத்தக்கூடிய பயன்பாடுகளுக்கு DNN-களைப் பயன்படுத்துகின்றன. DL முறைகள் “ ” . இந்த இயற்கணித சுற்றுகள் பொதுவாக அடுக்குகளாக ஒழுங்கமைக்கப்படுகின்றன, அவை கணக்கீட்டில் படிகளை உருவாக்குகின்றன. "ஆழ்ந்த" என்ற சொல் ஒன்றுக்கு மேற்பட்ட அடுக்குகளைக் கொண்ட வழிமுறைகளைக் குறிக்கிறது. அதாவது [[16]](javascript:void()) 4 இயந்திர கற்றலுக்கான நுட்பங்கள், இதில் கருதுகோள்கள் சரிசெய்யக்கூடிய இணைப்பு வலிமைகளைக் கொண்ட சிக்கலான இயற்கணித சுற்றுகளின் வடிவத்தை எடுக்கின்றன [[17]](javascript:void()) இரண்டு முக்கிய DNN கட்டமைப்புகள் உள்ளன: ஃபீட்-ஃபார்வர்ட் நரம்பியல் நெட்வொர்க்குகள் மற்றும் தொடர்ச்சியான நரம்பியல் நெட்வொர்க்குகள். இரண்டு வகையான DNN-களையும் கணக்கீட்டு வரைபடங்களாக குறிப்பிடலாம், முக்கிய வேறுபாடு என்னவென்றால், ஃபீட்-ஃபார்வர்ட் நெட்வொர்க்குகளை நேரடி சுழற்சியற்ற வரைபடங்களாக (DAGs) குறிப்பிடலாம், அதேசமயம் தொடர்ச்சியான நரம்பியல் நெட்வொர்க்குகளில் சுழற்சிகள் இருக்கலாம். தொடர்ச்சியான நரம்பியல் நெட்வொர்க்குகள் தரவு வரிசைகளுக்காக கட்டப்பட்டுள்ளன, அங்கு ஒவ்வொரு தரவுப் புள்ளியும் வரிசையில் முந்தைய தரவுப் புள்ளிகளுடன் ஒரு சாத்தியமான சார்புநிலையைக் கொண்டுள்ளது, அதேசமயம் ஃபீட்-ஃபார்வர்ட் நரம்பியல் நெட்வொர்க்குகள் தரவு வரிசையில் உள்ள புள்ளிகளுக்கு இடையிலான தொடர்புகளைக் கருத்தில் கொள்ளாது. இந்த தாளின் மீதமுள்ளவை ஃபீட்-ஃபார்வர்ட் DNN-களின் வழக்கைக் கருத்தில் கொள்ளும். 5 பிரிவு III. விநியோகிக்கப்பட்ட அனுமான மாதிரி இந்த பிரிவு DNN மற்றும் நெட்வொர்க் பண்புகளைக் குறிக்க ஒரு மாதிரியை வழங்குகிறது, இதன் மூலம் கணக்கீட்டு தாமதங்கள், பரிமாற்ற தாமதங்கள் மற்றும் ஒரு குறிப்பிட்ட பிரித்தல் தீர்வின் இறுதி அனுமான செயல்திறனைக் கணிக்க முடியும். A. DNN மற்றும் நெட்வொர்க் பிரதிநிதித்துவம் N அடுக்குகளைக் கொண்ட ஒரு ஃபீட்-ஃபார்வர்ட் DNN ஆனது DAG GA=(L,E) என மாதிரியாக்கப்படுகிறது, இதில் L=(L1,…,LL) என்பது DNN-இன் அடுக்குகள். விளிம்புகள் (Li,Lj)∈E என்பது அடுக்குகள் Li மற்றும் Lj க்கு இடையிலான இணைப்புகள். ஒவ்வொரு அடுக்கு Li ஆனது தொடர்புடைய கணக்கீட்டு நுகர்வு ci ஐக் கொண்டுள்ளது, இது அடுக்கின் வழியாக ஒரு முன்னோக்கி பாஸ் கணக்கிடத் தேவையான மிதக்கும்-புள்ளி செயல்பாடுகளின் எண்ணிக்கையில் அளவிடப்படுகிறது. விளிம்புகள் (Li,Lj) ஆனது அடுக்குகள் Li மற்றும் Lj க்கு இடையில் பரிமாற்றப்படும் தரவின் அளவைக் குறிக்கும் si,j என்ற எடையுடன் ஒதுக்கப்படுகிறது. பைட்டுகளில். பௌதீக நெட்வொர்க் ஆனது G=(N,V) என்ற முழுமையாக இணைக்கப்பட்ட வரைபடமாக மாதிரியாக்கப்படுகிறது, அங்கு N=(N1,…,NN) என்பது கணக்கீட்டு கணுக்களின் தொகுப்பாகும், மேலும் V கணுக்களுக்கு இடையிலான இணைப்புகளின் தொகுப்பாகும். கணக்கீட்டு கணுக்கள் N1,…,NN ஆகியவை முறையே η1,…,ηN என்ற செயலாக்க விகிதங்களைக் கொண்டுள்ளன, வினாடிக்கு மிதக்கும்-புள்ளி செயல்பாடுகளில் அளவிடப்படுகிறது. இறுதியாக, இரண்டு அருகிலுள்ள கணுக்களுக்கு Na மற்றும் Nb இடையேயான இணைப்பு அலைவரிசை θa,b என குறிப்பிடப்படுகிறது, வினாடிக்கு பைட்டுகளில் அளவிடப்படுகிறது. ஒவ்வொரு கணு Ni யும் முடிவிலா அலைவரிசை கொண்ட தன்னுடனே இணைக்கப்பட்டுள்ளது, இது லூப்பேக் இணைப்பைக் குறிக்கிறது, மேலும் இணைப்புகள் சமச்சீரானவை என்று கருதப்படுகிறது, , θa,b=θb,a . அதாவது பிரித்தல்கள் P:L→N என வரைபடங்களாக வரையறுக்கப்படுகின்றன, , ஒரு பிரித்தல் DNN-ல் உள்ள ஒவ்வொரு அடுக்குக்கும் ஒரு கணு எண்ணை ஒதுக்குகிறது. ஒரு பிரித்தலை ஒரு P என்ற அணியாக குறிப்பிடலாம், இதன் பரிமாணம் (N×L) ஆகும், N என்பது நெட்வொர்க்கில் உள்ள கணுக்களின் எண்ணிக்கை மற்றும் L என்பது DNN அடுக்குகளின் எண்ணிக்கை, மற்றும் Pa,i=1 என்றால் அடுக்கு Li ஆனது கணு Na இல் வைக்கப்பட்டால், 0 இல்லையென்றால். படம் 2 இல் கொடுக்கப்பட்ட உதாரணத்துடன், L=7 அடுக்குகள் மற்றும் N=2 கணக்கீட்டு கணுக்கள், அடுக்குகள் {L1,L2,L3,L6,L7} கணு N1 இல், மற்றும் அடுக்குகள் {L4,L5} கணு N2 இல் வைக்கப்பட்டால், காட்டப்படும் பிரித்தல் இவ்வாறு குறிப்பிடப்படுகிறது: அதாவது கொடுக்கப்பட்ட பிரித்தலுக்கு, ஒரு என்பது பிரிப்புப் புள்ளிகளுக்கு இடையில் ஒரே கணுவில் வரிசையாக இயக்கப்படும் தொடர்ச்சியான அடுக்குகளின் தொகுப்பாக வரையறுக்கப்படுகிறது. மேலே உள்ள உதாரணத்தில், கணு N1 ஆனது இரண்டு திரிபுகளை இயக்கும், முதல் அடுக்குகள் {L1,L2,L3} ஐக் கொண்டுள்ளது, மற்றொன்று {L6,L7} ஐக் கொண்டுள்ளது. திரிபு இந்த குறியீடுகள் வரையறுக்கப்பட்ட நிலையில், இந்த பிரிவின் மீதமுள்ளவை அனுமான (பிரிவு III-B) மற்றும் பரிமாற்ற (பிரிவு III-C) தாமதங்களின் சார்பாக ஒரு கொடுக்கப்பட்ட பிரித்தல் அடையும் அனுமான செயல்திறனின் மூடிய வெளிப்பாட்டை பெறுகின்றன. B. அனுமான தாமத கணிப்பு ஒரு பிரித்தலைக் கொடுத்தால், இந்த பிரிவு ஒரு தனித்த கணுவில் அனுமான தாமத கணிப்பைப் பார்க்கிறது. ஒரு கணக்கீட்டு நுகர்வு ci கொண்ட ஒரு அடுக்கை Li கணக்கிடுவதால் ஏற்படும் தாமதம், கணு Na யில் கணக்கிடப்பட வேண்டும், செயலாக்க விகிதம் ηa ஆகும், இது Tci(Na)=ci/ηa என வெளிப்படுத்தப்படுகிறது. கணு Na யில் செயலாக்க விகிதம் ηa உடன் இயக்கப்படும் அனைத்து திரிபுகள் முழுவதும் உள்ள அடுக்குகளின் தொகுப்பு L′⊂L கொடுக்கப்பட்டால், அனுமான தாமதத்தை பின்வருமாறு வெளிப்படுத்தலாம்: இந்த வெளிப்பாடு DNN-ஐ செயலாக்கத் தேவையான மிதக்கும்-புள்ளி செயல்பாடுகளின் (FLOPs) எண்ணிக்கையை அடிப்படையாகக் கொண்ட அனுமான தாமத மதிப்பீட்டின் முதல்-வரிசை தோராயமாகும், , மாதிரியில் உள்ள பெருக்கல்-கூட்டல் செயல்பாடுகளின் எண்ணிக்கை. அதாவது விளிம்பு சாதனங்களில் அனுமான தாமதத்தை மதிப்பிடுவது இயக்க நேர உகப்பாக்கங்களால் சிக்கலாகிறது. nn-Meter போன்ற ஏற்கனவே உள்ள தீர்வுகள் FLOPs அடிப்படையில் அனுமான தாமதத்தை கணிக்கின்றன. மற்ற தீர்வுகள் தாமத அனுமானத்திற்கான முன்-கணக்கிடப்பட்ட அனுமான நேரங்களுடன் ஒரு தேடல் அட்டவணையை நம்பியுள்ளன. உதாரணமாக, BRP-NAS இயக்க நேர மாதிரி உகப்பாக்கங்களைக் கருத்தில் கொண்டு அனுமான தாமதங்களைக் கணிக்க ஒரு முன்-பயிற்சி செய்யப்பட்ட வரைபட மடிப்பு நெட்வொர்க்கைப் பயன்படுத்துகிறது. [[18]](javascript:void()) [[19]](javascript:void()) சமன்பாடு 1 இல், செயலாக்கிகள் தங்கள் முழு திறனையும் பயன்படுத்துவதாக மேலும் கருதப்படுகிறது, இது பல-கோர் செயலாக்கிகள் அவற்றின் கோர் செயலாக்க விகிதங்களின் கூட்டுத்தொகைக்கு சமமான செயலாக்க விகிதத்துடன் ஒற்றை-கோர் செயலாக்கிகளாக மாதிரியாக்கப்படுகின்றன என்பதைக் குறிக்கிறது. கணக்கீட்டு வளம் திரிபுகள் முழுவதும் சமமாக பகிரப்படுவதாகவும் கருதப்படுகிறது, , ஒரு செயலி ஒவ்வொரு திரிபுக்கும் அதன் நேரத்தின் அதே விகிதத்தை ஒதுக்குகிறது. அதாவது அனைத்து கணுக்களுக்கும், அதிக தாமதம் கொண்ட திரிபு விநியோகிக்கப்பட்ட DNN-க்கான அனுமான செயல்திறனை அமைக்கிறது. பரிமாற்ற தாமதங்களைத் தவிர்த்து, இந்த வரையறுக்கும் திரிபு ஒரு தரவு சட்டகத்தைக் கணக்கிட்டு முடித்தவுடன், அது அடுத்ததைத் தொடங்கும். மற்ற திரிபுகள் இந்த அதிகபட்ச தாமதத்தை விட குறைவாக அனுமான தாமதத்தைக் கொண்டிருப்பதால், அடுத்த தரவு சட்டகத்தைச் செயலாக்குவதற்கு முன்பு செயலற்ற நேரத்தைக் கொண்டிருக்கும், இது படம் 1 இல் காட்டப்பட்டுள்ளது. ஒரு பிரித்தல் அணி P கொடுக்கப்பட்டால், அனுமான தாமதங்களை Tc என்ற ஒற்றை வெக்டராக வெளிப்படுத்தலாம், இதன் அளவு N ஆகும், அங்கு a-வது கூறு கணு Na இல் உள்ள அதிகபட்ச திரிபு அனுமான தாமதம் ஆகும், , Tca=Tc(Na) : அதாவது இதில் H என்பது தலைகீழ் கணு செயலாக்க விகிதங்களின் மூலைவிட்ட அணி diag(η−11,…,η−1N) மற்றும் c என்பது தனிப்பட்ட அடுக்கு நுகர்வுகளின் நெடுவரிசை வெக்டர் (c1,…,cL) ஆகும். C. பரிமாற்ற தாமத கணிப்பு பரிமாற்ற தாமதத்தை பின்வருமாறு கணிக்கலாம்: அடுக்குகள் Li மற்றும் Lj க்கு இடையில், விளிம்பு (Na,Nb) இல், அளவிடப்பட்ட அலைவரிசை θa,b கொண்ட இணைப்பு வழியாக si,j என்ற தரவின் அளவை அனுப்ப எடுக்கும் நேரம் Tti,j(Na,Nb)=si,j/θa,b ஆகும். இணைப்பு (Na,Nb) வழியாக தரவு பரிமாற்றங்களை si,j∈E′⊂E அடைய எடுக்கும் நேரம்: அனுமான தாமத கணிப்பைப் போலவே, இது இணைப்புகள் ஒரு அனுமான அலைவரிசை மதிப்பைப் பெற முழுமையாகப் பயன்படுத்தப்படுகின்றன என்பதை அனுமானிக்கிறது, அதாவது, * நல்லput*, *அதாவது*, வினாடிக்கு அனுப்பப்படும் பயனுள்ள தரவின் அளவு. அனுமான தாமத கணிப்பைப் போலவே, இது ஒரு முதல்-வரிசை தோராயமாகும், இது நல்ல கணிப்பு முடிவுகளை திறம்பட வழங்குகிறது, இது படம் 3 c இல் காட்டப்பட்டுள்ளது, R2=0.9998 என்ற தொடர்பு குணகத்துடன். இந்த முறையின் குறைபாடு என்னவென்றால், அலைவரிசை மதிப்பீட்டைப் பெற இணைப்புகளை நிறைவு செய்ய வேண்டும். ஒரு பிரித்தல் அணி P கொடுக்கப்பட்டால், பரிமாற்ற தாமத அணி Tt ஆனது L அளவுடைய சதுர அணியாக வரையறுக்கப்படுகிறது, இதில் Tta,b=Tt(Na,Nb) ஆகும்: இதில் ° என்பது சொல்-சொல் பெருக்கல், அல்லது ஹாடமார்ட் பெருக்கல், Θ என்பது தலைகீழ் அலைவரிசை அணி ஆகும், , N அளவுடைய ஒரு சதுர அணி, இதில் Θa,b=θ−1a,b மற்றும் S என்பது பரிமாற்ற அளவு அணி ஆகும், , L அளவுடைய ஒரு சதுர அணி, இதில் Si,j=si,j என்றால் Li ஆனது Lj க்கு தரவை அனுப்புகிறது, 0 இல்லையென்றால். அதாவது அதாவது பிரிவு IV. DNN பிரித்தல் இந்த ஆய்வில் DNN பிரித்தலின் நோக்கம் அனுமான செயல்திறனை அதிகரிப்பதாகும், இது C என குறிப்பிடப்படுகிறது, இது அனைத்து வெவ்வேறு கணக்கீடு மற்றும் பரிமாற்ற தாமதங்களுக்கு இடையில் அதிகபட்ச தாமதத்தின் தலைகீழ் ஆகும். ஒரு பிரித்தல் P கொடுக்கப்பட்டால், அனுமான செயல்திறன் பின்வருமாறு வரையறுக்கப்படுகிறது: அனுமான செயல்திறனை அதிகரிப்பது என்பது Tc மற்றும் Tt இன் அனைத்து சொற்களுக்கும் இடையில் ஒரு கூட்டு மின்-அதிகபட்சத்தைக் கண்டுபிடிப்பதாகும். இதை ஒரு தனித்த உகப்பாக்க சிக்கலாக வரையறுக்கலாம்: Ji,j என்பது i×j அளவுள்ள அனைத்து-ஒன்றுகள் அணி, நிபந்தனைகள் (6) மற்றும் (7) ஒவ்வொரு அடுக்கையும் ஒன்று மற்றும் ஒரே ஒரு கணுவில் வைக்க வேண்டும் என்பதைத் தேவைப்படுத்துகின்றன. இந்த உகப்பாக்க சிக்கல் ஒரு கலப்பு முழு எண் அல்லாத நேரியல் நிரலாக்க (MINLP) சிக்கலாகும். பிரித்தல் அணி என்பது [1,N]] இல் மதிப்புகளுடன், (1×L) அளவுடைய ஒரு வெக்டரின் ஒரு-ஹாட் குறியிடப்பட்ட பதிப்பாகக் கருதப்படலாம். MINLP சிக்கல்கள் NP-கடினமானவை, இதன் பொருள் உகந்த DNN பிரித்தலைக் கண்டுபிடிப்பதற்கான சிக்கலானது O(NL) ஆகும், ஏனெனில் L அடுக்குகளில் ஒவ்வொன்றும் N கணுக்களில் வைக்கப்படலாம். இந்த சிக்கலுக்கு உகந்த அல்லது துணை-உகந்த தீர்வுகளை brute force வழிமுறையை விட குறைவான நேரத்தில் பெற பல சூத்திரங்கள் உள்ளன, , மரபணு வழிமுறைகள் (GA) , துகள் திரள் உகப்பாக்கம் (PSO) , அல்லது கிளை மற்றும் எல்லை (B&B) . தேர்ந்தெடுக்கப்பட்ட முறை ஒரு மாற்றியமைக்கப்பட்ட B&B செயல்படுத்தலாகும், இது பிரிவு IV-A இல் வழங்கப்படுகிறது. எ.கா. [[21]](javascript:void()) [[22]](javascript:void()) [[23]](javascript:void()) A. கிளை மற்றும் எல்லை வழிமுறை இந்த பிரிவு பிரிவு IV இல் வரையறுக்கப்பட்ட DNN பிரித்தல் உகப்பாக்க சிக்கலுக்கு கிளை மற்றும் எல்லை (B&B) மாற்றியமைப்பை வழங்குகிறது. B&B வழிமுறைகளில், தீர்வு இடம் ஒரு மரத்தால் குறிப்பிடப்படுகிறது. இந்த செயல்முறை மரத்தில் உள்ள கிளைகளை வேர் கணுவின் மதிப்பெண்ணின் மதிப்பீட்டின் அடிப்படையில் அகற்றுவதை உள்ளடக்குகிறது. இது ஒரு மர அமைப்பு இருந்தால், ஒரு மரத்தில் உள்ள ஒரு கணுவின் மதிப்பெண் மற்றும் அதன் அனைத்து இலைகளின் மதிப்பெண்க