Ibalik ang mga oras ng pagsasanay sa minuto na may GPU Acceleration Kung ikaw ay isang machine learning practitioner, alam mo ang scene na ito. Ikaw ay nagbabago ng mga oras sa pag-aralan ng data, engineering ang mga kamangha-manghang mga tampok, at cautiously nag-disenyo ang iyong eksperimento. Tapos na ang entry. model.fit(X, y) At pagkatapos ay ... maghintay. Ang bar ng progreso ay bumabalik sa labas sa isang ice rate. I-grabe ang isang coffee. I-check ang Slack. I-check ang Slack. I-check ang Slack. I-check ang Slack. I-check ang Slack. Hindi mo maaaring i-test ang mga tampok, i-tune ang mga hyperparameter, at matatagpuan ang iyong ulo sa problema. Ang pinakamahalagang bahagi ng machine learning ay ang iyong oras XGBoost ay nakuha ang kanyang reputasyon bilang ang powerhouse ng gradient boosting. Ito ay ang gold standard sa tabular datasets. Ngunit ang kanyang kaligtasan ay kasama ang isang gastos. Kapag i-scale sa milyon-milyong mga linya, pag-training time balloons mula sa mga minuto sa oras. Ang karamihan ng mga practitioner ay hindi nakakaalam na ang XGBoost ay may isang single parameter na maaaring i-transform ang experience na ito. Flip ito, at ang iyong modelo ay maaaring i-train 5-15x mas mabilis. Walang mga pagbabago sa algorithm. Walang mga bagong library. lamang isang linya sa iyong config. Ang isang pagbabago ay nagdadala sa iyo mula sa pagbabago ng isang eksperimento sa isang araw upang i-execute ang ilang. Hyperparameter searches na isang beses dragged sa loob ng araw-araw ngayon i-wrap sa mga oras. Sa halip ng paghanga sa isang progression bar, ikaw ay matatagpuan sa loop, pag-testing mga ideya habang ang mga ito ay freshly at patuloy ang pag-iisip sa iyong trabaho. Sa karamihan ng mga kaso, ang acceleration ng CUDA ay naglalaman ng pagkakaiba sa pagkuha ng isang trabaho at hindi ito nagsisimula. Ang "Magic" Parameter: GPU Acceleration Made Easy Ang XGBoost ay may built-in na suporta para sa NVIDIA CUDA, kaya upang i-tap ang GPU acceleration ay hindi kinakailangan ng bagong library o code rewrite. Narito ang isang tipikal na workflow ng CPU: import xgboost as xgb
model = xgb.XGBClassifier(
    ...
    tree_method="hist" # CPU training
)
model.fit(X_train, y_train)
 Upang gamitin ang iyong GPU, i-change ang iyong 2 ang : tree_method "gpu_hist" import xgboost as xgb
model = xgb.XGBClassifier(
    ...
    tree_method="gpu_hist" # GPU training
)
model.fit(X_train, y_train)
 o para sa mga regressors, set : device="cuda" import xgboost as xgb
xgb_model = xgb.XGBRegressor(device="cuda") 
xgb_model.fit(X, y)
 Ito ang ito. Kung ginagamit mo ang XGBClassifier o XGBRegressor, i-add sinasabi ng XGBoost na gamitin ang lahat ng mga available NVIDIA GPU resources. Ang single na pagbabago na ito ay maaaring gumawa ng iyong pagsasanay 5-15x mas mabilis sa malaking datasets. device="cuda" Ang Proof: Ang 46x Speed-up sa Amex Default Prediction Upang ipakita ang pag-accelerate sa pagganap, inihahanda namin ang isang XGBoost classifier sa isang 5.5 milyong row (50giga) subset ng American Express Default Prediction dataset, na naglalaman ng 313 mga tampok. Nagtraining ang modelo sa dalawang configurations: 
 
 
 CPU: Ang isang M3 Pro 12-core CPU. GPU: Ang isang NVIDIA A100 GPU. Narito ang pagbabago ng training time: Ang mga resulta ay dramatic: 
 
 
 Araw ng Kalayaan - 15 Ago Araw ng Kalayaan - 15 Ago Sa pamamagitan ng pagkuha ng halos identical performance. Sa 50M o 500M row, ang oras ng CPU ay maaaring lumaki sa araw-araw, habang ang GPU, na binuo para sa mas mataas na parallel workloads, magtatrabaho ang pag-unlad na may minimal na oras na idinagdag. Ang pagkakaiba sa pagitan ng mga metrikong tulad ng R2, RMSE, at MAE ay minimal, kahit sa mga modelo ng baseline o ang mga tuned. Kaya, hindi mo na negosyo ang katunayan para sa bilis. Ikaw ay makakuha ng parehong mga resulta sa isang bahagi ng oras, na kung saan ay nangangahulugan ng higit pa ng mga eksperimento at iterasyon. Sa kinalaman ng predictive power, ang parehong mga modelo ay nagkakahalaga sa isang bagay: Ito ay ang pinaka-importanteng bagay, at Sa loob ng 5 taon na ang nakalipas, sila ay nagsisimula. P-2_last B_1_last Ang modelo ng CPU ay nag-focus sa Mga Mapagkukunan ng Mga Modelo ng GPU - Mga Mapagkukunan ng Modelo ng GPU ang mga character like ang b at ang , mga tampok na ang CPU ay hindi nangyayari sa kanyang top five. _last _mean P-2_mean -22_mean B-1_mean This suggests a hypothesis: the CPU model captures short-term risk signals, responding to the most recent events, while the GPU model captures long-term patterns, evaluating a customer’s risk across their full history. In other words, the CPU answers, “Is this customer a risk right now?” and the GPU answers, “Is this customer fundamentally risky over the long term?” Kami rin ay inaasahan na sa higit pa, terabyte-scale datasets, GPUs ay maaaring lumikha ng mga modelo na may mas mahusay na mga metric sa pamamagitan ng kanilang kakayahan na pagproseso ng higit pa ng data sa isang pagkakataon. I-run ang code at tingnan ang performance difference sa ito . Try It Yourself: Mga Notebook Mga Notebook Mga Notebook Best Practices para sa GPU Acceleration Magdagdag Upang makuha ang maximum ng GPU acceleration, tingnan ang mga best practices na ito: device="cuda" Magsisimula sa mga right-sized data Ang GPU acceleration ay gumagana ang pinakamahusay sa datasets na may sapat na malaking upang mapagkukunan ang overhead ng paglipat ng data mula sa system RAM sa GPU memory. Ang sweet spot ay karaniwang datasets sa pagitan ng 4 GB at 24 GB, kahit na ang mga benepisyo ay maaaring magsisimula mula sa 2-4 GB. Para sa mga maliit na set ng data, ang oras na ginamit sa pag-transfer ng data sa GPU at i-set up parallel calculations ay maaaring talagang higit sa oras ng pag-training mismo, na gumagawa ng pag-training ng CPU mas mabilis sa mga kaso. Mind Your VRAM: Ipasok ang iyong data sa GPU Memory Ang mga GPU ay may kanilang sarili na high-speed memory, na tinatawag na VRAM, na kung saan ay separado mula sa iyong system RAM. Para sa standard training, ang iyong dataset ay kailangang matatagpuan na ganap na sa VRAM. Maaari mong i-check available VRAM gamit ang ang command. nvidia-smi Halimbawa, kung ang iyong DataFrame ay gumagamit ng 10 GB ng system RAM, kailangan mo ng isang GPU na may higit sa 10 GB ng VRAM. Para sa mga malaking workloads, ang mga GPU tulad ng NVIDIA A10G (24 GB) o A100 (40–80 GB) ay karaniwang mga pagpipilian. Kung makikita mo ang mga error sa out-of-memory, ito ay karaniwang nangangahulugan na ang iyong dataset ay mas malaking upang matatagpuan sa memory ng GPU. I-optimize ang mga uri ng data upang mabawasan ang memory footprint Ang isang simpleng paraan upang i-save ang VRAM ay sa pamamagitan ng paggamit ng mas efficient na mga uri ng data. Pandas defaults sa 64-bit na mga uri (float64, int64), na kung saan ay karaniwang mas precise kaysa sa kinakailangan. Ang pag-convert ng mga kolumbo sa 32-bit na mga uri (float32, int32) ay maaaring i-cut ang paggamit ng memory sa halos halos dalawang beses nang hindi nakakaapekto ang katotohanan ng modelo. Ang maliit na ito ay maaaring lumikha ng isang malaking pagkakaiba kapag gumagana sa mga malaking dataset sa isang GPU. df['my_column'].astype('float32') Go End-to-End: Pag-accelerate ng Data Prep na may cudf.pandas Karamihan, ang pinakamalaking bottleneck ay hindi ang training itself ngunit ang paghahatid ng data. Moving data back and forth sa pagitan ng CPU at GPU memory ay nagpapakita ng overhead na maaaring mabawasan ang iyong workflow. Ang library solves ito sa pamamagitan ng magbigay ng isang GPU-powered drop-in replacement para sa pandas. cudf.pandas Upang magsimula ang iyong script sa import Ang lahat ng mga operasyon ng pag-load ng data at pag-engineering ng mga tampok ay gumagana nang direkta sa GPU. Kapag inilapat mo ang GPU-native DataFrame sa XGBoost, i-eliminate ang transfer overhead at makakakuha ka ng malaking end-to-end accelerations. cudf.pandas as pd Para sa mga dataset na mas malaking kaysa sa VRAM: Gamitin ang External Memory Kung ang iyong dataset ay 100 GB, ngunit ang iyong GPU lamang ay may 24 GB ng VRAM? Sa XGBoost 3.0, ang suporta ng eksternal na memory ay nagbibigay-daan sa iyo upang magtatrabaho ito sa pamamagitan ng pagproseso ng data sa mga bituin mula sa system memory o disk. Ito ay nagbibigay-daan sa GPU-accelerated training para sa terabyte-scale datasets sa isang single GPU, nang walang pagbutihin ang pagganap. Beyond VRAM: Pag-training Terabyte-scale datasets sa XGBoost 3.0 Sa huli, ang mga dataset na mas mataas kaysa sa VRAM ng isang GPU ay isang hard limit para sa accelerated training. You either had to downsample your data or fall back to slower CPU-based workflows. Ang release ng XGBoost 3.0 ay binubuo ng barya na ito sa pamamagitan ng isang bagong Ito ay nagbibigay-daan sa iyo upang i-train ang mga massive datasets sa pamamagitan ng pag-streaming ng data mula sa system memory o disk direkta sa GPU para sa pagproseso. external memory capability Ito ay nagbibigay ng scalable gradient boosting sa terabyte-scale workloads sa isang single GPU, isang trabaho na nangangailangan ng malaking, distributed clusters. Sa mga modernong hardware tulad ng NVIDIA Grace Hopper Superchip, ang paghahatid na ito ay maaaring maging hanggang 8x mas mabilis kaysa sa isang multi-core CPU system, lahat ng nangangahulugan ang buong pagganap at katunayan. Habang ang feature na ito ay gumagana sa core DMatrix object at hindi sa Scikit-Learn wrapper, ang mga parameter ay patuloy na kilala. You simply point XGBoost sa iyong dataset sa disk: Kapag nagtatapos ng isang Para sa paghahatid ng data, ang buong workflow para sa terabyte-scale datasets ngayon ay maaaring mag-execute sa GPU. Massive datasets ngayon ay nagbibigay sa iyo ang scale na kinakailangan upang bumuo ng mas mahusay na mga modelo sa isang fraction ng oras. cudf.pandas I-reclame ang iyong oras Sa machine learning, ang pinakamalaking gastos ay ang oras na ginagamit upang mag-atubiling. Pag-atubiling para sa mga modelo upang i-train, para sa data upang i-process, o para sa mga eksperimento upang ma-finish ay palagi sa iyong kakayahan upang i-test ang mga ideya, i-discover ang insights, at lumikha ng halaga. NVIDIA GPU acceleration ay nagbibigay-daan sa iyo upang i-reclaim ang oras na ito. Sa isang pagbabago ng isang parameter, maaari mong i-train ang mga modelo 5-15x mas mabilis, i-run end-to-end data pipelines sa GPU, at kahit na magtrabaho sa dataset na mas malaking kaysa sa memory ng iyong GPU. Ang bilis na ito ay nagbibigay-daan sa iyo upang pumunta sa pamamagitan ng mga eksperimento mabilis, pag-test ng mga ideya at pagproseso ng data nang walang mahabang pagbabago. Ang mga tool ay na-ready, ang mga integrations ay malusog, at ang pag-setup ay simpleng. Mas mabilis na iterasyon ay nangangahulugan ng higit pa ng mga eksperimento, higit pa ng mga pag-iisip, at sa katapusan, mas mahusay na mga modelo. Mula dito, mayroon ka ng ilang iba't ibang paraan upang i-dive sa: 
 
 
 
 I-follow ang NVIDIA-annotated Notebook para sa isang step-by-step guide. Tingnan ang buong walkthrough sa YouTube video. Pumunta sa opisyal na __XGBoost Documentation t__o i-explore ang lahat ng mga opsyon ng configuration.GPU Acceleration Made Ea Mga Notebook Mga Notebook Mga Video sa YouTube Mga Video sa YouTube Huwag kang mag-alala tungkol sa ito. - Run my Amex at tingnan lamang kung paano mas mabilis ang iyong workflow ay maaaring maging. , Mga notebook , Mga notebook Mga notebook Happy naman ang building. ang paulo

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

👉 Join The Tech Audience Accelerator 👈

Read My Stories

Ang audio na ito ay ginawa sa orihinal na wika ng kuwento!

Masyadong mahaba; Upang basahin

Make resilience your competitive advantage

Stop Waiting: Gawin ang XGBoost 46x mas mabilis sa isang pagbabago ng parameter

About Author

MGA KOMENTO

HANG TAGS

ANG ARTIKULONG ITO AY IPINAKITA SA

Related Stories

Encrypted Instant Messaging Recommendations January 2017

Getting intimate with Ethereum tokens

Hosting a DNS domain on the blockchain

How I deployed my spark document classification(Logistic Regression) model/s as a standalone app…

Encrypted Instant Messaging Recommendations January 2017

Getting intimate with Ethereum tokens

Hosting a DNS domain on the blockchain

How I deployed my spark document classification(Logistic Regression) model/s as a standalone app…

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps