Transformez les heures d’entraînement en minutes avec l’accélération GPU Si vous êtes un praticien d'apprentissage automatique, vous connaissez bien cette scène. Vous avez passé des heures à discuter des données, à concevoir les fonctionnalités parfaites et à concevoir soigneusement votre expérience.Tout est prêt. et frappe à l’entrée. model.fit(X, y) Et puis... vous attendez. La barre de progrès avance à un rythme glacial. Vous prenez un café. Vous vérifiez Slack. Vous revenez, et votre CPU est toujours en train de mouler. Vous ne pouvez pas tester les caractéristiques, aligner les hyperparamètres et garder votre tête dans le problème. La partie la plus coûteuse de l’apprentissage automatique est votre temps XGBoost a gagné sa réputation en tant que puissance de l'augmentation du gradient. C'est la norme d'or sur les ensembles de données tabulaires. Mais sa force vient avec un coût. Lorsque vous évoluez à des millions de lignes, formez des ballons de temps de minutes en heures. La plupart des praticiens ne réalisent pas que XGBoost a un seul paramètre qui peut transformer cette expérience. Flip, et votre modèle peut s'entraîner 5–15 fois plus rapidement. Aucun changement d'algorithme. Aucune nouvelle bibliothèque. Une seule ligne dans votre configuration. Ce changement vous emmène de la réalisation d'une seule expérience en une journée à plusieurs. recherches hyperparamétriques qui ont été une fois glissées pendant des jours se bousculent maintenant en heures. Au lieu d'attendre une barre de progression, vous restez dans la boucle, tester des idées pendant qu'elles sont fraîches et garder l'élan dans votre travail. Dans de nombreux cas, l’accélération CUDA fait la différence entre terminer une tâche et ne jamais la terminer. Le paramètre « magique » : l’accélération GPU rendue facile XGBoost a un support intégré pour NVIDIA CUDA, donc appuyer sur l'accélération GPU ne nécessite pas de nouvelles bibliothèques ou de réécriture de code. Voici un flux de travail CPU typique: import xgboost as xgb
model = xgb.XGBClassifier(
    ...
    tree_method="hist" # CPU training
)
model.fit(X_train, y_train)
 Pour utiliser votre GPU, vous changez simplement deux : tree_method "gpu_hist" import xgboost as xgb
model = xgb.XGBClassifier(
    ...
    tree_method="gpu_hist" # GPU training
)
model.fit(X_train, y_train)
 ou pour les retours, fixé : device="cuda" import xgboost as xgb
xgb_model = xgb.XGBRegressor(device="cuda") 
xgb_model.fit(X, y)
 C’est ça. Que vous utilisiez XGBClassifier ou XGBRegressor, ajouter dit à XGBoost d'utiliser toutes les ressources GPU NVIDIA disponibles. Ce changement unique peut rendre votre formation 5-15x plus rapide sur de grands ensembles de données. device="cuda" La preuve: une accélération de 46x sur la prédiction par défaut d'Amex Pour montrer l’accélération en action, nous avons comparé un classificateur XGBoost sur un sous-ensemble de 5,5 millions de lignes (50 giga) de l’American Express Default Prediction, qui comprend 313 fonctionnalités. Nous avons formé le modèle sur deux configurations : 
 
 
 CPU : CPU M3 Pro 12 cœurs. GPU : GPU NVIDIA A100. Voici la comparaison des temps de formation : Les résultats sont dramatiques : 
 
 
 Temps d’entraînement : 27 minutes NVIDIA GPU Durée d’entraînement : 35 secondes Pour atteindre des performances presque identiques. Sur les lignes de 50M ou 500M, les heures de CPU peuvent s’étendre en jours, tandis que les GPU, conçus pour des charges de travail massives parallèles, gèrent la croissance avec un temps supplémentaire minimal. La différence entre les métriques comme R2, RMSE et MAE est minime, que ce soit sur les modèles de base ou sur ceux ajustés. Donc, vous ne négociez pas la précision pour la vitesse. En termes de puissance prédictive, les deux modèles sont d'accord sur une chose: Il s’agit de la caractéristique la plus importante et En plus de cela, ils commencent à diverger. P-2_last B_1_last Le modèle CPU se concentre sur fonctionnalités, en se concentrant sur les valeurs les plus récentes. Le modèle GPU favorise les Caractéristiques comme et B et La CPU n’est jamais dans le top 5. _last _mean P-2_mean -22_mean B-1_mean Cela suggère une hypothèse : le modèle CPU capte les signaux de risque à court terme, en répondant aux événements les plus récents, tandis que le modèle GPU capte les schémas à long terme, évaluant le risque d’un client tout au long de son historique. Nous nous attendons également à ce que sur des ensembles de données encore plus grands, à l’échelle de terabytes, les GPU puissent produire des modèles avec des mesures légèrement meilleures grâce à leur capacité à traiter plus de données à la fois. Exécutez le code et voyez la différence de performance dans ce . Try It Yourself: Notebook Notebook Notebook Les meilleures pratiques pour l'accélération GPU Ajouter Pour tirer le meilleur parti de l'accélération GPU, gardez ces meilleures pratiques à l'esprit: device="cuda" Commencez avec les données de bonne taille L'accélération GPU fonctionne le mieux sur les ensembles de données qui sont suffisamment grands pour justifier le déplacement des données de la RAM du système à la mémoire GPU. Le point sucré est généralement des ensembles de données entre 4 GB et 24 GB, bien que les avantages puissent apparaître à partir de 2-4 GB. Pour les très petits ensembles de données, le temps passé à transférer des données vers la GPU et à mettre en place des calculs parallèles peut effectivement dépasser le temps de formation lui-même, ce qui rend la formation de la CPU plus rapide dans ces cas. Pensez à votre VRAM : Ajoutez vos données à la mémoire GPU Les GPU ont leur propre mémoire haute vitesse, appelée VRAM, qui est séparée de la RAM de votre système. Pour la formation standard, votre ensemble de données doit s'adapter entièrement à VRAM. le commandement. nvidia-smi En règle générale, si votre DataFrame utilise 10 Go de RAM système, vous aurez besoin d’une GPU avec plus de 10 Go de VRAM. Pour les grandes charges de travail, des GPU comme le NVIDIA A10G (24 Go) ou A100 (40-80 Go) sont des choix courants. Optimiser les types de données pour réduire l'empreinte mémoire L'une des façons les plus simples de sauvegarder VRAM est d'utiliser des types de données plus efficaces.Pandas par défaut des types 64 bits (float64, int64), qui sont généralement plus précis que nécessaire. La conversion des colonnes en types 32 bits (float32, int32) peut réduire l'utilisation de la mémoire d'environ la moitié sans affecter l'exactitude du modèle. Ce petit ajustement peut faire une grande différence lorsque vous travaillez avec de grands ensembles de données sur une GPU. df['my_column'].astype('float32') Go End-to-End : accélérer la préparation des données avec cudf.pandas Souvent, la plus grande lacune n'est pas la formation elle-même, mais la préparation des données.Mettre les données en avant et en arrière entre la CPU et la mémoire GPU ajoute une surcharge qui peut ralentir votre flux de travail. La bibliothèque résout cela en fournissant un remplacement drop-in alimenté par GPU pour les pandas. cudf.pandas Démarrer votre script avec l'importation Toutes les opérations de chargement de données et d'ingénierie de fonctionnalités s'exécutent directement sur la GPU. Lorsque vous passez ce DataFrame natif de la GPU à XGBoost, vous éliminez le transfert en excès et obtenez des accélérations massives de bout en bout. cudf.pandas as pd Pour les ensembles de données plus grands que VRAM: Utiliser la mémoire externe Et si votre ensemble de données est de 100 Go, mais que votre GPU n'a que 24 Go de VRAM?Avec XGBoost 3.0, le support de mémoire externe vous permet de gérer cela en traitant les données en morceaux de mémoire système ou de disque. Au-delà du VRAM : Formation des ensembles de données à l’échelle de Terabyte avec XGBoost 3.0 Dans le passé, des ensembles de données plus grands que le VRAM d'une GPU étaient une limite difficile pour une formation accélérée. La sortie de XGBoost 3.0 élimine cette barrière avec un nouveau Cela vous permet d'entraîner sur des ensembles de données massifs en diffusant des données depuis la mémoire système ou le disque directement vers la GPU pour le traitement. external memory capability Cela permet une augmentation du gradient évolutif sur des charges de travail à l'échelle de terabytes sur une seule GPU, une tâche qui nécessitait auparavant de grands clusters distribués. Sur le matériel moderne comme le NVIDIA Grace Hopper Superchip, cette approche peut être jusqu'à 8 fois plus rapide qu'un système de CPU multi-cœurs, tout en maintenant une performance et une précision complètes. Bien que cette fonctionnalité fonctionne avec l'objet DMatrix de base plutôt que l'enveloppeur Scikit-Learn, les paramètres restent familiers. Lorsqu’ils sont couplés avec Pour la préparation des données, votre flux de travail complet pour les ensembles de données à l'échelle de terabytes peut désormais s'exécuter sur la GPU. Les ensembles de données massifs vous donnent désormais l'échelle nécessaire pour construire des modèles plus puissants en une fraction du temps. cudf.pandas Réclame ton temps Dans l'apprentissage automatique, le plus grand coût est le temps passé à attendre. attendre que les modèles s'entraînent, que les données soient traitées ou que les expériences soient terminées ralentit votre capacité à tester des idées, à découvrir des idées et à créer de la valeur. L'accélération GPU NVIDIA vous permet de récupérer ce temps. Avec un seul changement de paramètre, vous pouvez former des modèles 5 à 15 fois plus rapidement, exécuter des pipelines de données de bout en bout sur la GPU et même travailler avec des ensembles de données plus grands que la mémoire de votre GPU. Les outils sont prêts, les intégrations sont fluides et la configuration est simple. Une itération plus rapide signifie plus d’expériences, plus de découvertes et, en fin de compte, de meilleurs modèles. De là, vous avez quelques façons différentes de plonger dans: 
 
 
 
 Suivez le Notebook annoté par NVIDIA pour un guide étape par étape. Regardez le parcours complet dans la vidéo YouTube. Plongez dans la documentation officielle __XGBoost t__o explorer toutes les options de configuration de cuda.GPU Acceleration Made Ea Notebook Notebook Vidéo YouTube Vidéo YouTube Ne prenez pas simplement ma parole pour cela.Run my Amex et ressentez combien votre flux de travail peut être plus rapide. , Notebook , Notebook Notebook Le bâtiment heureux, Paola

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

👉 Join The Tech Audience Accelerator 👈

Read My Stories

Cet audio est produit dans la langue originale de l'histoire !

Arrêtez d'attendre : rendez XGBoost 46x plus rapide avec un changement de paramètre

About Author

COMMENTAIRES

ÉTIQUETTES

CET ARTICLE A ÉTÉ PARU DANS

Related Stories

Des forums aux flux : comment les algorithmes des réseaux sociaux façonnent l'interaction numérique

La fuite de l'invite du système Claude Sonnet 3.5 : une analyse médico-légale

Nomades numériques, écoutez : ce que vous devez savoir sur le nouveau visa DTV de la Thaïlande

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Des forums aux flux : comment les algorithmes des réseaux sociaux façonnent l'interaction numérique

La fuite de l'invite du système Claude Sonnet 3.5 : une analyse médico-légale

Nomades numériques, écoutez : ce que vous devez savoir sur le nouveau visa DTV de la Thaïlande

Vous voulez gagner un concours d’écriture HackerNoon ? Voici ce que recommandent les gagnants du concours #crypto-api

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps