Կրթել ժամերի դասընթացը րոպեով GPU արագության հետ Եթե դուք մեքենայի ուսուցման մասնագետ եք, դուք լավ գիտեք այս սենյակում: Դուք տեւել եք ժամերի ընթացքում տվյալների վախենում, ճշգրիտ առանձնահատկությունները դիզայնում եւ ճշգրիտ դիզայնում ձեր փորձը: Բոլորը պատրաստ են: Դուք վերջապես տպագրեք Տեղադրեք ներսում model.fit(X, y) Այնուհետեւ... դուք սպասում եք. Արդյոք, դուք պետք է ստուգեք Slack- ը, եւ ձեր CPU-ը դեռ կտրում է. Չեք կարող ստուգել առանձնահատկությունները, կարգավորել hyperparameters, եւ վերցնել ձեր քաշը խնդիրը. Machine Learning- ի ամենամեծ մասը ձեր ժամանակն է XGBoost- ը ստացել է իր ռեժիմը, քանի որ այն հզորությունը է: Դա գլուխային տվյալների ստանդարտ է: Բայց նրա հզորությունը գնում է ծախսերը: Երբ դուք ծախսում եք միլիոնավոր ռեժիմ, ժամանակի բլուխները ուսուցում են րոպեից ժամերին: Շատ մասնագետները չգիտեն, որ XGBoost- ում ունի միայն մեկ պարամետր, որը կարող է փոխել այս փորձը: Flip այն, եւ ձեր մոդելը կարող է ուսուցել 5–15x արագությամբ: Ոչ algorithm changes. No new libraries. Just one line in your config. Այս մեկ փոխանակում դուք պետք է կատարեք մեկ փորձը մեկ օրում, որպեսզի կատարեք մի քանի: Հիբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբերբ Շատ դեպքերում, CUDA արագությունը կատարում է տարբերությունը գործի ավարտելու եւ երբեք չի ավարտելու. «Անկալական» պարամետրը: GPU արագությունը հեշտ է XGBoost- ը ներսում է NVIDIA CUDA- ի աջակցությունը, այնպես որ GPU- ի արագությունը չի պահանջում նոր գրասենյակներ կամ կոդը վերլուծություններ: Շատ անգամ, դա պարզ է, քանի որ մի մի շարք պարամետրը վերլուծվում է: Հետեւաբար, այստեղ մի տպավոր CPU workflow է: import xgboost as xgb
model = xgb.XGBClassifier(
    ...
    tree_method="hist" # CPU training
)
model.fit(X_train, y_train)
 Ձեր GPU-ի օգտագործման համար, դուք պարզապես փոխեք Երկու : tree_method "gpu_hist" import xgboost as xgb
model = xgb.XGBClassifier(
    ...
    tree_method="gpu_hist" # GPU training
)
model.fit(X_train, y_train)
 Արդյոք վերադառնալու համար, Set : device="cuda" import xgboost as xgb
xgb_model = xgb.XGBRegressor(device="cuda") 
xgb_model.fit(X, y)
 Դա այն է. Եթե դուք օգտագործում եք XGBClassifier կամ XGBRegressor, ավելացնել XGBoost- ը ասում է, որ կարող է օգտագործել բոլոր հասանելի NVIDIA GPU ռեսուրսներ: Այս միասնական փոխանակումը կարող է ձեր դասընթացը 5–15x արագացնել մեծ տվյալների սարքերի վրա: device="cuda" The Proof- ը: A 46x Speed-up on Amex Default Prediction- ը Ինչպես ցույց տալ, որ արագությունը գործում է, մենք համեմատել ենք XGBoost դասընթացը American Express Default Prediction data set- ի 5.5 միլիոն գծի (50 giga) բաղադրիչի վրա, որը ներառում է 313 հատկանիշներ: Մոդելը դասավորվել է երկու konfigurations- ում: 
 
 
 CPU: M3 Pro 12-կոր CPU է: GPU-ն է NVIDIA A100 GPU-ը Այսպիսով, այսն է դասընթացային ժամանակների համեմատությունը: Հիմնական արդյունքները պլաստիկ են: 
 
 
 CPU դասընթացը: 27 րոպե NVIDIA GPU Training Time: 35 րոպե Երբ ստանում է մոտավորապես միասնական կատարումը. GPU- ի առավելությունը միայն աճում է քանակի հետ: 50M- ի կամ 500M- ի գծերի վրա CPU-ի ժամերը կարող են տեւել օրվա ընթացքում, իսկ GPU-ները, որոնք կառուցված են մեծ հարմարավետ աշխատանքային բջջային բջջային համար, կարող են վերահսկել աճը minimally ավելացված ժամանակով: Արդյոք, դուք չեք առեւտրում ճշգրիտությունը արագության համար: Դուք ստանում եք նույն արդյունքները մի քիչ ժամանակ, ինչը նշանակում է ավելի փորձեր եւ iterations. Երկու մոդելները համոզված են մեկ բանից: Դա շատ կարեւոր է, եւ Ավելի լավ է, որ այդ ամենից ավելի, այնպես որ, նրանք սկսում են տարբերել. P-2_last B_1_last CPU մոդելը կենտրոնում է Գործիքներ, որոնք կենտրոնանում են վերջին արժեքների վրա: GPU մոդելը բարելավում է միասնական Տեսակներ, ինչպես Բ եւ , առանձնահատկություններ, որոնք CPU-ը երբեք չի տեղադրվում իր առաջին 5 տեղում: _last _mean P-2_mean -22_mean B-1_mean Դա ցույց է տալիս, որ CPU-ի մոդելը փնտրում է Short-Term Risk Signals- ը, իսկ GPU-ի մոդելը փնտրում է Long-Term մոդելներ- ը, որը փնտրում է հաճախորդի ծախսերը իրենց ամբողջ պատմության ընթացքում: Մինչեւ CPU-ը պատասխանում է, «Ինչ է այս հաճախորդը վտանգը այժմ?» եւ GPU- ը պատասխանում է, «Ինչ է այս հաճախորդը հիմնականում վտանգավոր երկար ժամանակում?» Մենք նաեւ հավատում ենք, որ նույնիսկ ավելի մեծ, terabyte-scale տվյալների սարքերի վրա GPU-ները կարող են արտադրել մոդելներ, որոնք ավելի լավ են մետրերի հետ, քանի որ նրանք կարող են բուժել ավելի շատ տվյալներ միասին: Այս քանակում, սակայն, հիմնական հարմարությունը է արագությունը: ստանալ արդյունքները կանգնած կանգնած կանգնած կանգնած կանգնած ժամ. Փոխեք կոդը եւ տեսնել կատարման տարբերությունը այս . Try It Yourself: Գիտակներ Գիտակներ Գիտակներ GPU- ի արագացման լավագույն գործիքները Ավելացնել Եթե դուք ցանկանում եք ստանալ ամեն ինչ GPU- ի արագությունը, մոռացեք այս լավագույն գործիքները: device="cuda" Սկսեք ճիշտ չափի տվյալների հետ GPU- ի արագությունը աշխատում է ավելի լավ այն տվյալների սարքերի վրա, որոնք շատ մեծ են, որպեսզի ճշգրտվել են համակարգի RAM- ից GPU- ի մանրամասին ուղարկման տվյալների վերամշակման համար: Ահա 4 GB- ի եւ 24 GB- ի միջեւ տվյալների սարքերի համար, բայց առավելությունները կարող են հայտնվել 2-4 GB- ից: Շատ փոքր տվյալների սարքերի համար, ժամանակը, որը օգտագործվում է տվյալների փոխանցման GPU- ում եւ տեղադրման միասնական հաշվարկման համար, կարող է ճշգրիտապես բարձրացնել դասընթացային ժամանակը, այնպես որ CPU- ի դասընթացը արագ է. Տեղադրեք ձեր VRAM-ը: Տեղադրեք ձեր տվյալները GPU- ում GPU- ում ունի իրենց սեփական բարձր արագությունը, որը կոչվում է VRAM- ը, որը բացահայտվում է ձեր համակարգի RAM- ից: Ստանդարտ դասընթացների համար ձեր տվյալների բաղադրիչը պետք է տեղադրվի ամբողջապես VRAM- ում: Դուք կարող եք ստուգել հասանելի VRAM- ում օգտագործելով Թրամփը nvidia-smi Եթե ձեր DataFrame-ը օգտագործում է 10 GB համակարգի RAM-ը, դուք պետք է ունեք ավելի քան 10 GB VRAM- ի GPU-ը: Բարձր աշխատանքային բեռների համար GPU-ները, ինչպիսիք են NVIDIA A10G (24 GB) կամ A100 (40–80 GB) ամենամեծ տարբերակներ են: Եթե դուք տեսնում եք սխալները, որոնք անում են սխալները, դա սովորաբար նշանակում է, որ ձեր տվյալների բեռը շատ մեծ է, որ կարող է տեղադրվել GPU- ի սմարթում: Data Footprint- ի վերահսկողության համար optimize data types to reduce memory footprint Pandas- ը ստուգում է 64-bit տեսակի (float64, int64), որոնք սովորաբար ավելի ճշգրտ են, քան անհրաժեշտ է: Տեսակների փոխարինման 32-bit տեսակի (float32, int32) կարող է կտրել մանրամասի օգտագործման մոտավորապես երկու անգամ, առանց ազդեցության մոդել ճշգրիտությունը: Այս փոքր կարգավորումը կարող է ստեղծել մեծ տարբերություն, երբ աշխատում է մեծ տվյալների սարքերի GPU. df['my_column'].astype('float32') Go End-to-End: Բարձրացնել Data Prep հետ cudf.pandas Շատ անգամ, ամենամեծ բաղադրիչը ոչ միայն դասընթաց է, այլ պատրաստում է տվյալները: CPU- ի եւ GPU- ի մանրամասների միջեւ տվյալների վերադառնալը ավելացնել է բաղադրիչը, որը կարող է արագացնել ձեր աշխատանքային արագությունը: The Գրասենյակը լուծում է այս խնդիրը GPU- ի հզորած drop-in փոխանակման համար pandas. cudf.pandas Սպիտակը սկսվում է Import- ի հետ Բոլոր data loading եւ feature engineering գործառույթները կատարվում են ուղղակիորեն GPU- ում: Երբ դուք փոխանցում եք այս GPU- ի բնական DataFrame- ը XGBoost- ում, դուք փնտրում եք փոխանցման overhead- ը եւ հասկանում եք խոշոր end-to-end արագությունը: cudf.pandas as pd Մարդիկ, ովքեր ավելի մեծ են, քան VRAM- ը: Օգտագործեք արտաքին խանութը Ինչպե՞ս, եթե ձեր տվյալները 100 GB, բայց ձեր GPU-ում միայն 24 GB VRAM- ն է: XGBoost 3.0- ի հետ, արտաքին խանութային աջակցությունը թույլ է տալիս Ձեզ վերահսկել այս տվյալները համակարգի խանութից կամ թվով: Սա թույլ է տալիս GPU- ի արագացման դասընթացը terabytes-scale տվյալների հավաքների համար մեկ GPU- ում, առանց ծախսելու կատարումը: Մենք պետք է ուսումնասիրենք այս առանձնահատկությունը ավելի մանրամասով հաջորդ մասում: Ավելի քան VRAM- ը: XGBoost 3.0- ի հետ Terabyte-scale data sets- ի դասընթացը Նախորդում, GPU- ի VRAM- ից ավելի մեծ տվյալների սերտիֆիկներ էր արագ դասընթացների սերտիֆիկ սերտիֆիկներ: Դուք կամ պետք է ներբեռնեք ձեր տվյալները, կամ վերադարձրեք արագ CPU- ի հիմնված աշխատանքային արագությունները: XGBoost 3.0- ի թռիչքը սեղմում է այս բջջային հետ նոր Այսպիսով դուք կարող եք ուսուցել խոշոր data sets- ում, սեղմելով data- ից համակարգչային մանրամասի կամ թվային ուղղակիորեն GPU- ում processing- ի համար. The entire data set never has to reside in VRAM at once. external memory capability This makes scalable gradient boosting on terabyte-scale workloads possible on a single GPU, a task that previously required large, distributed clusters. On modern hardware like the NVIDIA Grace Hopper Superchip, this approach can be up to 8x faster than a multi-core CPU system, all while maintaining full performance and accuracy. Երբ այս առանձնահատկությունը աշխատում է Core- ի DMatrix- ի մասին, ոչ թե Scikit-Learn- ի հետ, պարամետրերը դեռ գիտելի են: Դուք պարզապես նշեք XGBoost- ը ձեր dataaset- ի վրա: Երբ սեղմվում է Տեղադրման համար, ձեր ամբողջ աշխատանքային արագությունը terabyte-scale data sets- ի համար այժմ կարող է աշխատել GPU- ում: Massive data sets- ը այժմ ապահովում է Ձեզ ավելի հզոր մոդելներ ստեղծելու համար. cudf.pandas Տեղադրեք ձեր ժամանակը Մեքենաների ուսուցում, ամենամեծ ծախսը այն ժամանակն է, երբ փորձում եք, որ մոդելները պետք է դասընթացեն, տվյալները պետք է մշակվեն, կամ փորձերը պետք է ավարտեն, հզորում է ձեր հզորությունը փորձել գաղտնիքները, բացահայտել իմանալները եւ ստեղծել արժեքը: NVIDIA GPU արագությունը թույլ է տալիս վերցնել այդ ժամանակը. Երբ միայն մի տարբերակը փոխվում է, դուք կարող եք մոդելերը 5–15 անգամ արագ լինել, GPU- ում արտադրել end-to-end տվյալների խողովակներ եւ նույնիսկ աշխատել GPU- ի խողովակների հետ, որոնք ավելի մեծ են, քան ձեր GPU- ի խողովակները: Այս արագությունը թույլ է տալիս Ձեզ արագ փորձել, փորձել գաղափարները եւ աշխատել տվյալների հետ, առանց երկար խողովակների: Արդյունքները պատրաստ են, ինտեգրմանները անջատ են, եւ տեղադրումը հեշտ է: Բարձր արագ iteration նշանակում է ավելի փորձեր, ավելի բացառություններ, եւ վերջապես, ավելի լավ մոդելներ: Այստեղից, դուք ունեք մի քանի տարբեր ճանապարհներ, որոնք պետք է նստել: 
 
 
 
 Պահպանեք NVIDIA- ի նշված Notebook-ը, որպեսզի ստանալ փոստի փոստի ուղեցույց: Խնդրում ենք տեսնել ամբողջ տեսանյութը YouTube- ում. Տեղադրեք oficial __XGBoost Documentation t__o explore all cuda configuration options.GPU Acceleration Made Ea Գիտակներ Գիտակներ YouTube վիդեո YouTube վիդեո «Ես չգիտեմ, թե ինչ պետք է անել: Run my Amex» եւ զգացեք, թե ինչպես արագ է ձեր աշխատանքային արագությունը. , Գլխավոր , Գլխավոր Գլխավոր Շնորհակալություն տուն, Paola

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

👉 Join The Tech Audience Accelerator 👈

Read My Stories

Այս աուդիոն պատրաստվել է պատմության բնօրինակ լեզվով:

Չափազանց երկար; Կարդալ

Make resilience your competitive advantage

Ավելացնել XGBoost- ը 46x արագ է մեկ տարբերակով

About Author

ՄԵԿՆԱԲԱՆՈՒԹՅՈՒՆՆԵՐ

ԿԱԽՎԵԼ ՏԵԳՍԵՐ

ԱՅՍ ՀՈԴՎԱԾԸ ՆԵՐԿԱՅԱՑՎԵԼ Է Մ

Related Stories

Toufi Saliba: The Architect Behind HyperCycle's Decentralized Network of AI

HyperCycle Announces Strategic Split into Two Distinct Operations

What is Hyperthreading and How Do You Enable It?

How HyperCycle Is Building the Internet for AI: A Deep Dive with Toufi Saliba

Toufi Saliba: The Architect Behind HyperCycle's Decentralized Network of AI

HyperCycle Announces Strategic Split into Two Distinct Operations

What is Hyperthreading and How Do You Enable It?

How HyperCycle Is Building the Internet for AI: A Deep Dive with Toufi Saliba

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps