Trasforma le ore di allenamento in minuti con l'accelerazione GPU Se sei un praticante di apprendimento automatico, conosci bene questa scena. Hai trascorso ore disputando i dati, progettando le funzionalità perfette e progettando attentamente il tuo esperimento. e colpire entrare. model.fit(X, y) E poi... aspettate. La barra di progresso si avvicina a un ritmo glaciale. Prendi un caffè. Controlla Slack. Torni, e la tua CPU sta ancora macinando via. L'allenamento lento uccide l'impulso.Non puoi testare le caratteristiche, allineare gli iperparametri e tenere la testa nel problema. La parte più costosa dell’apprendimento automatico è il tuo tempo XGBoost ha guadagnato la sua reputazione come il potere del gradient boosting. È lo standard d'oro sui set di dati tabulari. Ma la sua forza viene con un costo. Quando si scala a milioni di righe, allenare i palloncini di tempo da minuti a ore. La maggior parte dei professionisti non si rende conto che XGBoost ha un singolo parametro che può trasformare questa esperienza. Flip, e il tuo modello può allenarsi 5-15x più velocemente. nessun cambiamento di algoritmo. nessuna nuova libreria. Solo una riga nella tua configurazione. Che un cambiamento ti porta da completare un singolo esperimento in un giorno per eseguire diversi. ricerche iperparametro che una volta trascinato per giorni ora si avvolgono in ore. Piuttosto che aspettare su una barra di progresso, si rimane nel ciclo, testare le idee mentre sono fresche e mantenere il momento nel vostro lavoro. In molti casi, l'accelerazione CUDA fa la differenza tra completare un lavoro e non finirlo mai. Il parametro “magico”: GPU Acceleration Made Easy XGBoost ha il supporto integrato per NVIDIA CUDA, quindi toccare l'accelerazione della GPU non richiede nuove librerie o ripetizioni di codice. Ecco un flusso di lavoro tipico della CPU: import xgboost as xgb
model = xgb.XGBClassifier(
    ...
    tree_method="hist" # CPU training
)
model.fit(X_train, y_train)
 Per usare il tuo GPU, devi semplicemente cambiare due : tree_method "gpu_hist" import xgboost as xgb
model = xgb.XGBClassifier(
    ...
    tree_method="gpu_hist" # GPU training
)
model.fit(X_train, y_train)
 o per i ritorni, set : device="cuda" import xgboost as xgb
xgb_model = xgb.XGBRegressor(device="cuda") 
xgb_model.fit(X, y)
 Questo è quello. Se si utilizza XGBClassifier o XGBRegressor, aggiungendo XGBoost utilizza tutte le risorse GPU NVIDIA disponibili. Questo singolo cambiamento può rendere la tua formazione 5–15x più veloce su grandi set di dati. device="cuda" La prova: un accelerazione di 46x sulla previsione predefinita di Amex Per mostrare l'accelerazione in azione, abbiamo messo a confronto un classificatore XGBoost su un sottoset di 5,5 milioni di righe (50 giga) del database American Express Default Prediction, che include 313 caratteristiche. Abbiamo allenato il modello su due configurazioni: 
 
 
 CPU: CPU M3 Pro a 12 core. GPU: un GPU NVIDIA A100. Ecco il confronto dei tempi di formazione: I risultati sono drammatici: 
 
 
 Tempo di allenamento: 27 minuti NVIDIA GPU Tempo di allenamento: 35 secondi Per raggiungere una performance quasi identica. Su 50M o 500M righe, le ore di CPU possono estendersi in giorni, mentre le GPU, costruite per massicci carichi di lavoro paralleli, affrontano la crescita con un minimo di tempo aggiunto. La differenza tra metriche come R2, RMSE e MAE è minima, sia sui modelli di base che su quelli regolati. Quindi, non stai scambiando la precisione per la velocità. Stai ottenendo gli stessi risultati in una frazione del tempo, il che significa più esperimenti e iterazioni. In termini di potenza predittiva, entrambi i modelli concordano su una cosa: è di gran lunga la caratteristica più importante e Anche i primi cinque, oltre a questo, cominciano a dividere. P-2_last B_1_last Il modello CPU si concentra su funzionalità, concentrandosi sui valori più recenti. Il modello GPU favorisce Caratteristiche come di B , e , caratteristiche che la CPU non si colloca mai nei suoi primi cinque. _last _mean P-2_mean -22_mean B-1_mean Ciò suggerisce una ipotesi: il modello CPU cattura i segnali di rischio a breve termine, rispondendo agli eventi più recenti, mentre il modello GPU cattura i modelli a lungo termine, valutando il rischio di un cliente in tutta la loro storia. Ci aspettiamo anche che su set di dati ancora più grandi, a scala di terabyte, le GPU possano produrre modelli con metriche leggermente migliori grazie alla loro capacità di elaborare più dati contemporaneamente. Eseguire il codice e vedere la differenza di prestazione in questo . Try It Yourself: Il Notebook Il Notebook Il Notebook Migliori pratiche per l'accelerazione GPU Aggiungere Per sfruttare al meglio l'accelerazione GPU, tenere a mente queste migliori pratiche: device="cuda" Inizia con i dati giusti L'accelerazione GPU funziona meglio su set di dati che sono abbastanza grandi da giustificare l'overhead di spostare i dati dalla RAM del sistema alla memoria GPU. Il punto dolce è di solito set di dati tra 4 GB e 24 GB, anche se i vantaggi possono apparire a partire da 2-4 GB. Per i piccoli set di dati, il tempo speso a trasferire i dati alla GPU e a configurare calcoli paralleli può effettivamente superare il tempo di addestramento stesso, rendendo l'addestramento della CPU più veloce in questi casi. Mind Your VRAM: Inserire i tuoi dati nella memoria GPU Le GPU hanno la propria memoria ad alta velocità, chiamata VRAM, che è separata dalla RAM del sistema. Per l'addestramento standard, il tuo dataset deve adattarsi interamente a VRAM. Puoi controllare la disponibilità di VRAM utilizzando il il comando. nvidia-smi Come regola generale: se il tuo DataFrame utilizza 10 GB di RAM di sistema, avrai bisogno di una GPU con più di 10 GB di VRAM. Per i carichi di lavoro di grandi dimensioni, le GPU come NVIDIA A10G (24 GB) o A100 (40–80 GB) sono scelte comuni. Ottimizzare i tipi di dati per ridurre l'impronta di memoria Uno dei modi più semplici per salvare VRAM è utilizzando tipi di dati più efficienti.Panda predefinisce i tipi a 64 bit (float64, int64), che sono di solito più accurati del necessario. Convertire le colonne in tipi a 32 bit (float32, int32) può ridurre l'utilizzo della memoria di circa la metà senza compromettere l'accuratezza del modello. Questo piccolo aggiustamento può fare una grande differenza quando si lavora con grandi set di dati su una GPU. df['my_column'].astype('float32') Go End-to-End: Accelerate la preparazione dei dati con cudf.pandas Spesso, la più grande lacuna non è la formazione in sé, ma la preparazione dei dati. spostare i dati indietro e indietro tra la CPU e la memoria GPU aggiunge sovrappeso che può rallentare il flusso di lavoro. La libreria risolve questo problema fornendo un sostituto drop-in a GPU per i panda. cudf.pandas Inizia il tuo script con l'importazione tutte le operazioni di caricamento dei dati e di ingegneria delle funzionalità vengono eseguite direttamente sulla GPU. Quando si passa questo DataFrame nativo della GPU a XGBoost, si elimina il trasferimento in eccesso e si raggiungono massicci accelerazioni end-to-end. cudf.pandas as pd Per set di dati più grandi di VRAM: utilizzare la memoria esterna Cosa succede se il tuo dataset è di 100 GB, ma la tua GPU ha solo 24 GB di VRAM?Con XGBoost 3.0, il supporto per la memoria esterna ti consente di gestire questo processo elaborando i dati in pezzi dalla memoria del sistema o dal disco. Questo consente la formazione GPU accelerata per i dataset a scala terabyte su una singola GPU, senza perdere le prestazioni. Al di là del VRAM: addestrare i set di dati a scala terabyte con XGBoost 3.0 In passato, i set di dati più grandi del VRAM di una GPU erano un limite difficile per la formazione accelerata. Il rilascio di XGBoost 3.0 elimina questa barriera con un nuovo Questo ti consente di addestrare su enormi set di dati trasmettendo dati dalla memoria del sistema o dal disco direttamente alla GPU per l'elaborazione. external memory capability Ciò consente di aumentare il gradiente scalabile con carichi di lavoro di scala terabyte su una singola GPU, un compito che in precedenza richiedeva grandi cluster distribuiti. su hardware moderno come il NVIDIA Grace Hopper Superchip, questo approccio può essere fino a 8 volte più veloce di un sistema CPU multi-core, tutto mantenendo le prestazioni e la precisione. Mentre questa funzione funziona con l'oggetto DMatrix di base piuttosto che con l'involucro Scikit-Learn, i parametri rimangono familiari. Quando si coppia con Per la preparazione dei dati, l'intero flusso di lavoro per i set di dati a scala di terabyte può ora essere eseguito sulla GPU. I massicci set di dati ora ti danno la scala necessaria per costruire modelli più potenti in una frazione del tempo. cudf.pandas Reclamate il vostro tempo In machine learning, il costo più alto è il tempo trascorso in attesa. aspettare che i modelli siano addestrati, che i dati vengano elaborati o che gli esperimenti vengano completati rallenta la capacità di testare le idee, scoprire le intuizioni e creare valore. L'accelerazione GPU NVIDIA consente di recuperare quel tempo. Con un singolo cambiamento di parametro, puoi addestrare i modelli 5-15 volte più velocemente, eseguire pipeline dati end-to-end sulla GPU e persino lavorare con set di dati più grandi della memoria della GPU. Gli strumenti sono pronti, le integrazioni sono fluide e la configurazione è semplice.Iterazione più veloce significa più esperimenti, più scoperte e, in ultima analisi, modelli migliori. Da qui, hai diversi modi per immergerti: 
 
 
 
 Segui il Notebook annotato da NVIDIA per una guida passo dopo passo. Guarda il percorso completo nel video di YouTube. Immergiti nella documentazione ufficiale __XGBoost t__o esplorare tutte le opzioni di configurazione di cuda.GPU Acceleration Made Ea Il Notebook Il Notebook Video di YouTube Video di YouTube Non prendi solo la mia parola per esso.Run my Amex e senti quanto più veloce possa essere il tuo flusso di lavoro. , Notebook , Notebook Notebook La casa felice, Paolo

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

👉 Join The Tech Audience Accelerator 👈

Read My Stories

Questo audio è prodotto nella lingua originale della storia!

Smetti di aspettare: rendere XGBoost 46x più veloce con un cambiamento di parametro

About Author

COMMENTI

CARTELLINI

QUESTO ARTICOLO È STATO PRESENTATO IN

Related Stories

Meet the HackerNoon Top Writers: Nebojsa Nesha Todorovic - Upwork, Freelancing, and Future of Work

Coding with Latenode's AI + JavaScript Assistant: A Low-Code Platform for Simplified Development

New Year, New Exciting Features: Mint Your Name, Watch Web 2.5 and Meet The Top Startups of The Year

Streamlining Network Policy Management - Interview with Startups of the Year Nominee, Otterize

Meet the HackerNoon Top Writers: Nebojsa Nesha Todorovic - Upwork, Freelancing, and Future of Work

Coding with Latenode's AI + JavaScript Assistant: A Low-Code Platform for Simplified Development

New Year, New Exciting Features: Mint Your Name, Watch Web 2.5 and Meet The Top Startups of The Year

Streamlining Network Policy Management - Interview with Startups of the Year Nominee, Otterize

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps