Превърнете часовете на обучение в минути с GPU ускорение Ако сте практикуващ машинно обучение, добре знаете тази сцена. Прекарахте часове, спорещи се с данните, инженерирайки перфектните функции и внимателно проектирайки вашия експеримент. и да влязат. model.fit(X, y) И след това... чакате. Лентата за напредък се движи напред с ледена скорост. Вие вземете кафе. Вие проверявате Slack. Вие се връщате и вашият процесор все още се смила. Не можете да тествате функции, да настройвате хиперпараметри и да държите главата си в проблема. Най-скъпата част от машинното обучение е вашето време XGBoost е спечелил репутацията си като мощна сила за увеличаване на градиентите. Това е златният стандарт на табличните набори от данни. Но силата му идва с цена. Повечето практикуващи не осъзнават, че XGBoost има един параметър, който може да трансформира това преживяване. Превърнете го и вашият модел може да тренира 5-15 пъти по-бързо. Тази една промяна ви отнема от завършване на един експеримент в един ден, за да изпълнявате няколко. Хиперпараметрични търсения, които веднъж се задържат в продължение на дни, сега се обвиват в часове. В много случаи CUDA ускорението прави разликата между завършване на задача и никога не я завършва. „Вълшебният“ параметър: ускорението на GPU стана лесно XGBoost има вградена поддръжка за NVIDIA CUDA, така че натискането на ускорението на GPU не изисква нови библиотеки или пренаписване на код. Ето един типичен работен поток на CPU: import xgboost as xgb
model = xgb.XGBClassifier(
    ...
    tree_method="hist" # CPU training
)
model.fit(X_train, y_train)
 За да използвате вашия GPU, просто променете две : tree_method "gpu_hist" import xgboost as xgb
model = xgb.XGBClassifier(
    ...
    tree_method="gpu_hist" # GPU training
)
model.fit(X_train, y_train)
 или за връщащи се, сет : device="cuda" import xgboost as xgb
xgb_model = xgb.XGBRegressor(device="cuda") 
xgb_model.fit(X, y)
 Това е това. Независимо дали използвате XGBCklassifier или XGBRegressor, добавянето казва на XGBoost да използва всички налични ресурси на NVIDIA GPU. Тази една промяна може да направи обучението ви 5–15 пъти по-бързо на големи набори от данни. device="cuda" Доказателство: 46-кратно ускорение на Amex Default Prediction За да покажем ускорението в действие, ние сравняваме класификатор XGBoost на 5,5 милиона реда (50 гига) поднабор от American Express Default Prediction, който включва 313 функции. Обучихме модела на две конфигурации: 
 
 
 Процесор: M3 Pro 12-ядрен процесор. GPU: GPU на NVIDIA A100. Ето и времето за сравнение на тренировките: Резултатите са драматични: 
 
 
 Продължителност на обучението: 27 минути NVIDIA GPU Време за обучение: 35 секунди Постигане на почти идентични резултати. На 50M или 500M редове, часовете на процесора могат да се простират до дни, докато GPU, изградени за масивни паралелни работни натоварвания, се справят с растежа с минимално добавено време. Разликата между метриките като R2, RMSE и MAE е минимална, независимо дали става дума за базови модели или настройвани модели. Така че, не търгувате с точност за скорост. Що се отнася до предсказуемата мощ, и двата модела са съгласни по едно нещо: Това е най-важната характеристика и Те също правят топ пет. Отвъд това, те започват да се различават. P-2_last B_1_last Моделът на CPU се фокусира върху функции, фокусирайки се върху най-новите стойности. Моделът на GPU предпочита агрегираните Характеристики като , б и , характеристиките, които CPU никога не се класира в своите топ пет. _last _mean P-2_mean -22_mean B-1_mean Това предполага хипотеза: моделът на CPU улавя краткосрочни рискови сигнали, отговаряйки на най-новите събития, докато моделът на GPU улавя дългосрочни модели, оценявайки риска на клиента през цялата им история. Очакваме също така, че на още по-големи, терабайтови мащабни набори от данни, GPU могат да произвеждат модели с малко по-добри показатели, благодарение на способността им да обработват повече данни наведнъж. Изпълнете кода и вижте разликата в производителността в този . Try It Yourself: Ноутбукът Ноутбукът Ноутбукът Най-добри практики за ускоряване на GPU Добавяне За да извлечете максимума от ускорението на GPU, имайте предвид следните най-добри практики: device="cuda" Започнете с правилните данни Ускорението на GPU работи най-добре върху набори от данни, които са достатъчно големи, за да оправдаят преместването на данни от системната RAM в паметта на GPU. За много малки набори от данни времето, прекарано за прехвърляне на данни към GPU и създаване на паралелни изчисления, всъщност може да надхвърли времето за обучение, което прави обучението на CPU по-бързо в тези случаи. Mind Your VRAM: Поставете данните си в GPU паметта GPU имат собствена високоскоростна памет, наречена VRAM, която е отделена от системната RAM. За стандартно обучение, вашият набор от данни трябва да се вписва изцяло в VRAM. Можете да проверите наличната VRAM с помощта на на командването. nvidia-smi Като правило: ако вашият DataFrame използва 10 GB системна RAM, ще ви е необходим GPU с повече от 10 GB VRAM. За големи работни натоварвания, GPU като NVIDIA A10G (24 GB) или A100 (40–80 GB) са често срещани опции. Оптимизиране на типовете данни за намаляване на отпечатъка от паметта Един от най-лесните начини за запазване на VRAM е чрез използване на по-ефективни типове данни.Пандите по подразбиране използват 64-битови типове (float64, int64), които обикновено са по-точни, отколкото е необходимо. Конвертирането на колони в 32-битови типове (float32, int32) може да намали използването на паметта приблизително наполовина, без да повлияе на точността на модела. Тази малка настройка може да направи голяма разлика при работа с големи набори от данни на GPU. df['my_column'].astype('float32') Go End-to-End: Ускорете подготовката на данни с cudf.pandas Често най-голямата бариера не е самото обучение, а подготовката на данните.Преместването на данните назад и напред между CPU и GPU паметта добавя овърхед, който може да забави работния ви поток. Библиотеката решава това, като осигурява заместител с GPU за пандите. cudf.pandas Като стартирате скрипта си с импортиране Всички операции по зареждане на данни и инженериране на функции се изпълняват директно върху GPU. Когато прехвърлите този GPU-native DataFrame на XGBoost, елиминирате прехвърлянето на излишъци и постигате масивни ускорения от край до край. cudf.pandas as pd За набори от данни, по-големи от VRAM: Използвайте външна памет Какво ще стане, ако вашият набор от данни е 100 GB, но вашият GPU има само 24 GB VRAM? С XGBoost 3.0 външната поддръжка на паметта ви позволява да се справяте с това, като обработвате данните в парчета от системната памет или диск. Beyond VRAM: Обучение на терабайтови мащабни набори от данни с XGBoost 3.0 В миналото набори от данни, по-големи от VRAM на GPU, са били трудно ограничение за ускорено обучение. Освобождаването на XGBoost 3.0 премахва тази бариера с нова Това ви позволява да тренирате масивни набори от данни, като стриймирате данни от системната памет или диск директно към GPU за обработка. external memory capability Това прави възможно увеличаването на скалируемия градиент при работните натоварвания в размер на терабайт на един GPU, задача, която преди това изискваше големи, разпределени клъстери.На съвременния хардуер като NVIDIA Grace Hopper Superchip този подход може да бъде до 8 пъти по-бърз от многоядрена CPU система, като същевременно поддържа пълна производителност и точност. Въпреки че тази функция работи с основния обект DMatrix, а не с Scikit-Learn, параметрите остават познати. Когато се сблъскате с За подготовката на данни целият работен поток за мащабни набори от данни от терабайт вече може да се изпълнява на GPU. Масивните набори от данни сега ви дават мащаба, необходим за изграждане на по-силни модели за малка част от времето. cudf.pandas Повтаряйте времето си В машинното обучение най-големите разходи са времето, прекарано в очакване на моделите да се обучават, данните да се обработват или експериментите да завършат, забавя способността ви да тествате идеи, да откривате прозрения и да създавате стойност. NVIDIA GPU ускорение ви позволява да възстановите това време. С една промяна на параметрите можете да обучавате модели 5-15 пъти по-бързо, да изпълнявате тръбопроводи от край до край на GPU и дори да работите с набори от данни, които са по-големи от паметта на GPU. Инструментите са готови, интеграциите са безпроблемни и настройката е проста.По-бързата итерация означава повече експерименти, повече открития и в крайна сметка по-добри модели. От тук имате няколко различни начина да се гмурнете: 
 
 
 
 Следвайте NVIDIA Notebook за стъпка по стъпка ръководство. Гледайте пълния ход на видеото в YouTube. Потопете се в официалната __XGBoost Документация t__o разгледайте всички опции за конфигурация на cuda.GPU Acceleration Made Ea Ноутбукът Ноутбукът Видео от YouTube Видео от YouTube Не просто вземайте думата ми за това.Run my Amex и усетете колко по-бърз може да бъде вашият работен поток. , Ноутбукът , Ноутбукът Ноутбукът Щастливата сграда Паоло

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

👉 Join The Tech Audience Accelerator 👈

Read My Stories

Това аудио е създадено на оригиналния език на историята!

Твърде дълго; Чета

Make resilience your competitive advantage

Спрете да чакате: Направете XGBoost 46 пъти по-бърз с една промяна на параметрите

About Author

КОМЕНТАРИ

ЗАКАЧВАЙТЕ ЕТИКЕТИ

ТАЗИ СТАТИЯ Е ПРЕДСТАВЕНА В

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps