Вие трошите GPU моќ – Поправете го вашиот TensorFlow внес на цевката денес

Преглед на содржината Преглед Ресурси Поставување Податоците Обука за loop Оптимизирање на пристапот наивниот пристап Преферирање Паралелно извлекување на податоци Паралелна трансформација на податоци Кејсинг Векторско мапирање Намалување на меморискиот отпечаток Преглед GPUs и TPUs може радикално да го намали времето потребно за извршување на еден тренинг чекор.Постигнување на врвот на перформансите бара ефикасен влез цевка која ги испорачува податоците за следниот чекор пред тековниот чекор е завршена. API помага да се изградат флексибилни и ефикасни влезни цевки. Овој документ покажува како да се користи API за изградба на високи перформанси TensorFlow влезни цевки. tf.data tf.data Пред да продолжите, проверете Водич за да научите како да го користите Огнот е Изградба на TensorFlow влезни цевки tf.data Ресурси Изградба на TensorFlow влезни цевки tf.data.Dataset API за датотеки Анализирање на перформансите на tf.data со TF Profiler Поставување import tensorflow as tf import time 2024-08-15 02:29:59.860833: E external/local_xla/xla/stream_executor/cuda/cuda_fft.cc:485] Unable to register cuFFT factory: Attempting to register factory for plugin cuFFT when one has already been registered 2024-08-15 02:29:59.882136: E external/local_xla/xla/stream_executor/cuda/cuda_dnn.cc:8454] Unable to register cuDNN factory: Attempting to register factory for plugin cuDNN when one has already been registered 2024-08-15 02:29:59.888640: E external/local_xla/xla/stream_executor/cuda/cuda_blas.cc:1452] Unable to register cuBLAS factory: Attempting to register factory for plugin cuBLAS when one has already been registered Во текот на овој водич, ќе итирате низ еден сет на податоци и ќе го мерите перформансот. Изработка на репродуктивни референтни показатели за перформанси може да биде тешко. Различни фактори кои влијаат на репродуктивноста вклучуваат: Тековната CPU оптоварување мрежен сообраќај Комплексни механизми, како што е кеш За да добиете репродуктивен бенчмарк, ќе изградите вештачки пример. Податоците Започнете со дефинирање на класа наследена од Повик Овој податоци се: tf.data.Dataset ArtificialDataset Генерира num_samples примероци (подрачливоста е 3) Спие некое време пред првата ставка да симулира отворање на датотека Спие некое време пред да произведе секој елемент за да ги симулира податоците за читање од датотека class ArtificialDataset(tf.data.Dataset): def _generator(num_samples): # Opening the file time.sleep(0.03) for sample_idx in range(num_samples): # Reading data (line, record) from the file time.sleep(0.015) yield (sample_idx,) def __new__(cls, num_samples=3): return tf.data.Dataset.from_generator( cls._generator, output_signature = tf.TensorSpec(shape = (1,), dtype = tf.int64), args=(num_samples,) ) Оваа база на податоци е слична на еден, додавање на фиксна одложување на почетокот на и во-меѓу секој примерок. tf.data.Dataset.range Обука за loop Следно, напишете глупав тренинг круг кој мери колку време е потребно за да се итерира во текот на збир на податоци. def benchmark(dataset, num_epochs=2): start_time = time.perf_counter() for epoch_num in range(num_epochs): for sample in dataset: # Performing a training step time.sleep(0.01) print("Execution time:", time.perf_counter() - start_time) Оптимизирање на перформансите За да покажете како може да се оптимизира перформансите, ќе го подобрите перформансите на . ArtificialDataset наивниот пристап Започнете со наивна цевка со користење на никакви трикови, итерирајќи низ датотеката како што е. benchmark(ArtificialDataset()) WARNING: All log messages before absl::InitializeLog() is called are written to STDERR I0000 00:00:1723689002.526086 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.529717 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.533395 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.537215 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.548874 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.552105 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.555507 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.559016 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.562268 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.565421 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.568842 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.572296 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.797478 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.799457 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.801473 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.803565 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.805613 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.807466 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.809382 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.811373 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.813299 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.815122 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.817022 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.819005 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.857728 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.860099 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.862063 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.864094 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.866073 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.867912 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.869940 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.871942 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.873924 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.876256 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.878556 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.880974 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 Execution time: 0.28992818999995507 Под капакот, ова е како вашето време за извршување беше потрошено: Заплетот покажува дека извршувањето на тренинг чекор вклучува: Отворање на датотека ако уште не е отворена Отстранување на влез на податоци од датотеката Користење на податоците за обука Сепак, во наивна синхронизирана имплементација како тука, додека вашата цевка ги собира податоците, вашиот модел седи празно. Следните делови се базираат на овој внес цевка, илустрирање на најдобрите практики за дизајнирање на перформанси TensorFlow внес цевки. Преферирање Префетирањето се преклопува со извршувањето на пред-обработка и модел на чекор на обука, додека моделот го извршува чекор на обука. , влезната цевка ги чита податоците чекор по чекор Ова го намалува времето за чекор до максимум (за разлика од збирот) на обуката и времето потребно за да се извлечат податоците. s s+1 на Огнот обезбедува Трансформација. Тоа може да се користи за да се одвои времето кога податоците се произведуваат од времето кога податоците се консумираат. Особено, трансформацијата користи позадинска нишка и внатрешен буфер за да се предодредат елементите од влезниот сет на податоци пред времето што се бара. Бројот на елементи за предодредување треба да биде еднаков (или евентуално поголем од) бројот на партиите што се консумираат со еден чекор на обука. Можете или рачно да ја прилагодите оваа вредност, или да ја поставите на што ќе го забрза runtime за да ја прилагодите вредноста динамички во runtime. tf.data tf.data.Dataset.prefetch tf.data.AUTOTUNE tf.data Имајте на ум дека префиксната трансформација обезбедува бенефиции во секое време кога постои можност да се преклопи работата на „производител“ со работата на „потребител“. benchmark( ArtificialDataset() .prefetch(tf.data.AUTOTUNE) ) Execution time: 0.282483695999872 Сега, како што покажува временскиот план за извршување на податоците, додека чекорот за обука се изведува за примерокот 0, влезната цевка ги чита податоците за примерокот 1 и така натаму. Паралелно извлекување на податоци Во реалниот свет, податоците за влез може да се чуваат на далечина (на пример, на Google Cloud Storage или HDFS). Време-на-прв бајт: Читањето на првиот бајт на датотека од далечинско складирање може да потрае пораки на големина подолго отколку од локалното складирање. Пропуст на читање: Додека далечинското складирање обично нуди голема вкупна опсег на опсег, читањето на една датотека може да биде во можност да користи само мал дел од оваа опсег. Покрај тоа, откако суровите бајти се вчитаат во меморијата, исто така може да биде потребно да се десеријализираат и/или да се дешифрираат податоците (на пр. Ова е присутно без оглед на тоа дали податоците се чуваат локално или оддалечено, но може да биде полошо во далечниот случај ако податоците не се префиксираат ефикасно. Протоколот За да се намали влијанието на различни податоци екстракција во целина, на Трансформацијата може да се користи за паралелизирање на чекорот на полнење на податоците, оставајќи ги меѓу себе содржините на други збирки на податоци (како што се читателите на датотеки со податоци). аргумент, додека нивото на паралелизам може да се одреди од страна на Аргументот е сличен на Трансформацијата, на Поддршка за трансформација , кој ќе го делегира одлуката за тоа кое ниво на паралелизам да се користи за Време на трчање. tf.data.Dataset.interleave cycle_length num_parallel_calls prefetch interleave tf.data.AUTOTUNE tf.data Секвенцијална интервенција Недостапните аргументи на Трансформацијата го прави интерлиевирање на единствени примероци од два сета на податоци последователно. tf.data.Dataset.interleave benchmark( tf.data.Dataset.range(2) .interleave(lambda _: ArtificialDataset()) ) Execution time: 0.4770545540004605 Овој временски план за извршување на податоците овозможува да се прикаже однесувањето на трансформација, земање примероци алтернативно од двата достапни збирки на податоци. Сепак, тука нема подобрување на перформансите. interleave Паралелна интервенција Сега, користете го Аргументот на Трансформација: Ова вчита повеќе сетови на податоци паралелно, намалувајќи го времето чекање за датотеките да бидат отворени. num_parallel_calls interleave benchmark( tf.data.Dataset.range(2) .interleave( lambda _: ArtificialDataset(), num_parallel_calls=tf.data.AUTOTUNE ) ) Execution time: 0.37743708600009995 Овој пат, како што покажува временскиот план за извршување на податоците, читањето на двата сета на податоци е паралелно, со што се намалува времето за глобална обработка на податоците. Паралелна трансформација на податоци Кога се подготвуваат податоците, можеби ќе треба да се преработат влезните елементи. Огнот нуди трансформација, која применува функција дефинирана од корисникот на секој елемент на влезната база на податоци. Бидејќи влезните елементи се независни едни од други, пред-обработката може да се паралелизира на повеќе јадра на процесорот. и Трансформацијата, на Трансформацијата обезбедува аргумент за да се одреди нивото на паралелизам. tf.data tf.data.Dataset.map prefetch interleave map num_parallel_calls Избор на најдобрата вредност за аргументот зависи од вашиот хардвер, карактеристиките на вашите податоци за обука (како што се неговата големина и форма), цената на функцијата на вашата мапа и она што друго обработка се случува на процесорот во исто време. и Трансформацијата, на Поддршка за трансформација кој ќе го делегира одлуката за тоа каков степен на паралелизам да се користи за Време на трчање. num_parallel_calls prefetch interleave map tf.data.AUTOTUNE tf.data def mapped_function(s): # Do some hard pre-processing tf.py_function(lambda: time.sleep(0.03), [], ()) return s Секундарно мапирање Започнете со користење на Трансформација без паралелност како пример за база. map benchmark( ArtificialDataset() .map(mapped_function) ) Execution time: 0.49222556600034295 Во однос на , тука, како што покажува заплетот, времето поминато за отворање, читање, пред-обработка (мапирање) и обука чекори се сумира заедно за една итерација. наивен пристап Паралелно мапирање Сега, користете ја истата функција за пред-обработка, но применувајте ја паралелно на повеќе примероци. benchmark( ArtificialDataset() .map( mapped_function, num_parallel_calls=tf.data.AUTOTUNE ) ) Execution time: 0.36392719900049997 Како што покажува заплетот на податоците, чекорите за пред-обработка се преклопуваат, намалувајќи го вкупното време за една итерација. Кејсинг на Трансформацијата може да кешира збир на податоци, или во меморија или на локално складирање. Ова ќе зачува некои операции (како што се отворање на датотеки и читање на податоци) од извршување во текот на секоја епоха. tf.data.Dataset.cache benchmark( ArtificialDataset() .map( # Apply time consuming operations before cache mapped_function ).cache( ), 5 ) Execution time: 0.3864543270001377 Овде, временскиот план за извршување на податоците покажува дека кога кеширате сет на податоци, трансформациите пред еден (како што е отворањето на датотеката и читањето на податоците) се извршуваат само за време на првата епоха. на трансформацијата. cache cache Ако функцијата дефинирана од корисникот помине во Трансформацијата е скапа, се применува Трансформацијата по трансформација се додека добиениот сет на податоци сè уште може да се вклопи во меморијата или локалното складирање. Ако функцијата дефинирана од корисникот го зголемува просторот потребен за складирање на сетот на податоци надвор од капацитетот на кешот, или трансформација или размислете за претходно обработка на вашите податоци пред вашата обука работа за да се намали употребата на ресурси. map cache map cache Векторско мапирање Извадување на корисничко дефинирана функција пренесена во Трансформацијата е поврзана со распоредувањето и извршувањето на функцијата дефинирана од корисникот.Векторизирајте ја функцијата дефинирана од корисникот (т.е. направете ја да работи преку серија влезници во исто време) и применувајте го Трансформација на на трансформацијата. map batch Пред map За да ја илустрирате оваа добра пракса, вашиот вештачки сет на податоци не е погоден. Задоцнувањето во планирањето е околу 10 микросекунди (10e-6 секунди), многу помалку од десетици милисекунди што се користат во Поради тоа, нивното влијание е тешко да се види. ArtificialDataset За овој пример, користете база Функција и поедноставување на тренинг кругот до неговата наједноставна форма. tf.data.Dataset.range fast_dataset = tf.data.Dataset.range(10000) def fast_benchmark(dataset, num_epochs=2): start_time = time.perf_counter() for _ in tf.data.Dataset.range(num_epochs): for _ in dataset: pass tf.print("Execution time:", time.perf_counter() - start_time) def increment(x): return x+1 Скаларен мапирање fast_benchmark( fast_dataset # Apply function one item at a time .map(increment) # Batch .batch(256) ) Execution time: 0.23993100699954084 Заплетот погоре илустрира што се случува (со помалку примероци) со користење на методот на скаларен мапирање. Тоа покажува дека мапирана функција се применува за секој примерок. Векторски мапирање fast_benchmark( fast_dataset .batch(256) # Apply function on a batch of items # The tf.Tensor.__add__ method already handle batches .map(increment) ) Execution time: 0.04984995199993136 Како што покажува временскиот план за извршување на податоците, додека функцијата може да потрае повеќе време за да се изврши, надворешната функција се појавува само еднаш, подобрувајќи го вкупниот временски перформанс. Намалување на меморискиот отпечаток Голем број на трансформации, вклучувајќи , на и , одржува внатрешен буфер на елементи. Ако функцијата дефинирана од корисникот е пренесена во Трансформацијата ја менува големината на елементите, а потоа и редоследот на трансформацијата на мапата и трансформациите на буферните елементи влијаат на употребата на меморијата. interleave prefetch shuffle map Креирање на парцијални компјутери Препорачливо е да се задржи кешот на датотеката по трансформација освен ако оваа трансформација ги прави податоците премногу големи за да се вклопат во меморијата. Компромис може да се постигне ако вашата мапирана функција може да се подели на два дела: еден кој троши време и еден кој троши меморија дел. map dataset.map(time_consuming_mapping).cache().map(memory_consuming_mapping) На овој начин, делот кој троши време се извршува само за време на првата епоха, и избегнувате да користите премногу кеш простор. Оригинално објавен на веб-страницата на TensorFlow, овој напис се појавува тука под нов наслов и е лиценциран под CC BY 4.0. Оригинално објавен на веб-страницата на TensorFlow, овој напис се појавува тука под нов наслов и е лиценциран под CC BY 4.0. Тензорфлоу Тензорфлоу