Estás desperdiciando energía de la GPU: fija tu tubería de entrada de TensorFlow hoy

Contenido Overview Vista general Recursos Instalación El Dataset El ciclo de entrenamiento Optimización del enfoque El enfoque ingenuo Prefecturas Extracción de datos paralelos Transformación de datos paralelos Caché Mapeo vectorial Reducción de la huella de la memoria Vista general Las GPUs y TPUs pueden reducir radicalmente el tiempo necesario para ejecutar un solo paso de entrenamiento.Alcanzar el rendimiento máximo requiere una tubería de entrada eficiente que entrega datos para el siguiente paso antes de que el paso actual haya terminado. API ayuda a construir tuberías de entrada flexibles y eficientes. Este documento demuestra cómo utilizar el API para construir tuberías de entrada TensorFlow de alto rendimiento. tf.data tf.data Antes de continuar, compruebe el Guía para aprender a usar el El fuego. Construcción de tuberías de entrada TensorFlow tf.data Recursos Construcción de tuberías de entrada TensorFlow tf.data.Dataset API Analizar el rendimiento de tf.data con el perfilador TF Instalación import tensorflow as tf import time 2024-08-15 02:29:59.860833: E external/local_xla/xla/stream_executor/cuda/cuda_fft.cc:485] Unable to register cuFFT factory: Attempting to register factory for plugin cuFFT when one has already been registered 2024-08-15 02:29:59.882136: E external/local_xla/xla/stream_executor/cuda/cuda_dnn.cc:8454] Unable to register cuDNN factory: Attempting to register factory for plugin cuDNN when one has already been registered 2024-08-15 02:29:59.888640: E external/local_xla/xla/stream_executor/cuda/cuda_blas.cc:1452] Unable to register cuBLAS factory: Attempting to register factory for plugin cuBLAS when one has already been registered A lo largo de esta guía, se repetirá a través de un conjunto de datos y se medirá el rendimiento. Hacer referencias de rendimiento reproducibles puede ser difícil. La carga de la CPU actual El tráfico de la red Mecanismos complejos, como el cache Para obtener un benchmark reproducible, construirás un ejemplo artificial. El Dataset Comenzando por definir una clase heredada de llamado Este conjunto de datos: tf.data.Dataset ArtificialDataset Generar muestras num_samples (default es 3) Dormir durante algún tiempo antes del primer elemento para simular la apertura de un archivo Dormir durante algún tiempo antes de producir cada elemento para simular los datos de lectura de un archivo class ArtificialDataset(tf.data.Dataset): def _generator(num_samples): # Opening the file time.sleep(0.03) for sample_idx in range(num_samples): # Reading data (line, record) from the file time.sleep(0.015) yield (sample_idx,) def __new__(cls, num_samples=3): return tf.data.Dataset.from_generator( cls._generator, output_signature = tf.TensorSpec(shape = (1,), dtype = tf.int64), args=(num_samples,) ) Este tipo de datos es similar al una, añadiendo un retraso fijo al comienzo de y entre cada muestra. tf.data.Dataset.range El ciclo de entrenamiento A continuación, escriba un ciclo de entrenamiento que mide cuánto tiempo tarda en iterar sobre un conjunto de datos. def benchmark(dataset, num_epochs=2): start_time = time.perf_counter() for epoch_num in range(num_epochs): for sample in dataset: # Performing a training step time.sleep(0.01) print("Execution time:", time.perf_counter() - start_time) Optimiza el rendimiento Para mostrar cómo se puede optimizar el rendimiento, mejorará el rendimiento del . ArtificialDataset El enfoque ingenuo Comience con una tubería ingenua sin trucos, iterando sobre el conjunto de datos como es. benchmark(ArtificialDataset()) WARNING: All log messages before absl::InitializeLog() is called are written to STDERR I0000 00:00:1723689002.526086 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.529717 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.533395 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.537215 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.548874 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.552105 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.555507 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.559016 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.562268 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.565421 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.568842 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689002.572296 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.797478 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.799457 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.801473 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.803565 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.805613 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.807466 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.809382 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.811373 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.813299 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.815122 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.817022 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.819005 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.857728 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.860099 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.862063 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.864094 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.866073 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.867912 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.869940 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.871942 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.873924 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.876256 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.878556 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1723689003.880974 112933 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 Execution time: 0.28992818999995507 Bajo el capó, así es como se gastó su tiempo de ejecución: La trama muestra que realizar un paso de entrenamiento implica: Abrir un archivo si aún no se ha abierto Retirar una entrada de datos del archivo Utilización de los datos para la formación Sin embargo, en una implementación sincrónica ingenua como aquí, mientras tu tubería está recogiendo los datos, tu modelo está sentado vacío. Por el contrario, mientras tu modelo está entrenando, la tubería de entrada está sentada vacía. Las siguientes secciones se basan en esta tubería de entrada, ilustrando las mejores prácticas para diseñar tuberías de entrada de TensorFlow de alto rendimiento. Prefecturas Prefetching se sobrepone a la ejecución de preprocesamiento y modelo de un paso de entrenamiento. , el tubo de entrada está leyendo los datos paso a paso Hacer esto reduce el tiempo de paso al máximo (en oposición a la suma) del entrenamiento y el tiempo que tarda en extraer los datos. s s+1 El El fuego proporciona transformación. Se puede utilizar para desconectar el tiempo en que se producen los datos del momento en que se consumen los datos. En particular, la transformación utiliza un hilo de fondo y un buffer interno para prefetchar elementos del conjunto de datos de entrada antes de que se soliciten. El número de elementos a prefetcharse debe ser igual (o posiblemente mayor que) al número de lotes consumidos por un solo paso de entrenamiento. que acelerará el para ajustar el valor de forma dinámica en el tiempo de ejecución. tf.data tf.data.Dataset.prefetch tf.data.AUTOTUNE tf.data Tenga en cuenta que la transformación prefetch proporciona beneficios en cualquier momento hay una oportunidad de sobrepasar el trabajo de un "productor" con el trabajo de un "consumidor". benchmark( ArtificialDataset() .prefetch(tf.data.AUTOTUNE) ) Execution time: 0.282483695999872 Ahora, como muestra el cronograma de ejecución de datos, mientras que el paso de entrenamiento se ejecuta para la muestra 0, la tubería de entrada está leyendo los datos para la muestra 1, y así sucesivamente. Extracción de datos paralelos En una configuración en el mundo real, los datos de entrada pueden almacenarse remotamente (por ejemplo, en Google Cloud Storage o HDFS).Un tubo de conjuntos de datos que funciona bien cuando se leen los datos localmente podría quedar bloqueado en I/O cuando se leen los datos remotamente debido a las siguientes diferencias entre el almacenamiento local y remoto: Time-to-first-byte: La lectura del primer byte de un archivo desde el almacenamiento remoto puede tomar órdenes de magnitud más tiempo que desde el almacenamiento local. Read throughput: Mientras que el almacenamiento remoto suele ofrecer gran ancho de banda agregado, la lectura de un solo archivo puede ser capaz de utilizar solo una pequeña fracción de este ancho de banda. Además, una vez que los bytes en bruto se carguen en la memoria, también puede ser necesario deserializar y/o descifrar los datos (por ejemplo. Este overhead está presente independientemente de si los datos se almacenan localmente o remotamente, pero puede ser peor en el caso remoto si los datos no se prefijan de manera efectiva. El prototipo Para mitigar el impacto de las diversas extracciones de datos en general, el La transformación puede usarse para paralelizar el paso de carga de datos, dejando entre sí el contenido de otros conjuntos de datos (como los lectores de archivos de datos). argumento, mientras que el nivel de paralelismo puede ser especificado por el Argumentos similares a la La transformación, el Transformación Apoyo , que delegará la decisión sobre qué nivel de paralelismo utilizar para la El Runtime. tf.data.Dataset.interleave cycle_length num_parallel_calls prefetch interleave tf.data.AUTOTUNE tf.data Secuencia intermedia Los argumentos defectuosos de la La transformación hace que interleave muestras únicas de dos conjuntos de datos secuencialmente. tf.data.Dataset.interleave benchmark( tf.data.Dataset.range(2) .interleave(lambda _: ArtificialDataset()) ) Execution time: 0.4770545540004605 Este cronograma de ejecución de datos permite mostrar el comportamiento del transformación, recolectando muestras de forma alternativa de los dos conjuntos de datos disponibles. Sin embargo, no hay mejoras de rendimiento involucradas aquí. interleave Paralelamente entre Ahora, utilice el El argumento de la Esto carga varios conjuntos de datos en paralelo, reduciendo el tiempo de espera para que los archivos se abran. num_parallel_calls interleave benchmark( tf.data.Dataset.range(2) .interleave( lambda _: ArtificialDataset(), num_parallel_calls=tf.data.AUTOTUNE ) ) Execution time: 0.37743708600009995 Esta vez, como muestra el cronograma de ejecución de datos, la lectura de los dos conjuntos de datos se paraliza, reduciendo el tiempo global de procesamiento de datos. Transformación de datos paralelos Cuando se preparan los datos, los elementos de entrada pueden necesitar ser preprocesados. El fuego ofrece transformación, que aplica una función definida por el usuario a cada elemento del conjunto de datos de entrada. Debido a que los elementos de entrada son independientes unos de otros, el preprocesamiento puede ser paralelizado a través de múltiples núcleos de CPU. y Las transformaciones, el La transformación proporciona para determinar el nivel de paralelismo. tf.data tf.data.Dataset.map prefetch interleave map num_parallel_calls Elegir el mejor valor para la El argumento depende de su hardware, características de sus datos de entrenamiento (como su tamaño y forma), el coste de su función de mapa, y qué otro procesamiento está ocurriendo en la CPU al mismo tiempo. y La transformación, el Transformación Apoyo que delegará la decisión sobre qué nivel de paralelismo utilizar para la El Runtime. num_parallel_calls prefetch interleave map tf.data.AUTOTUNE tf.data def mapped_function(s): # Do some hard pre-processing tf.py_function(lambda: time.sleep(0.03), [], ()) return s Mapeo secuencial Comienza utilizando el transformación sin paralelismo como ejemplo de base. map benchmark( ArtificialDataset() .map(mapped_function) ) Execution time: 0.49222556600034295 En cuanto a la , aquí, como muestra la trama, los tiempos gastados en la apertura, lectura, preprocesamiento (mapado) y los pasos de entrenamiento se suman juntos para una única iteración. Un enfoque ingenuo Mapa Paralelo Ahora, use la misma función de preprocesamiento, pero aplique en paralelo en varias muestras. benchmark( ArtificialDataset() .map( mapped_function, num_parallel_calls=tf.data.AUTOTUNE ) ) Execution time: 0.36392719900049997 Como demuestra la trama de datos, los pasos de preprocesamiento se superponen, reduciendo el tiempo total para una única iteración. Caché El La transformación puede cachear un conjunto de datos, ya sea en la memoria o en el almacenamiento local. Esto ahorrará algunas operaciones (como la apertura de archivos y la lectura de datos) de ser ejecutadas durante cada época. tf.data.Dataset.cache benchmark( ArtificialDataset() .map( # Apply time consuming operations before cache mapped_function ).cache( ), 5 ) Execution time: 0.3864543270001377 Aquí, el cronograma de ejecución de datos muestra que cuando se cache un conjunto de datos, las transformaciones antes de una (como la apertura del archivo y la lectura de datos) se ejecutan sólo durante la primera era. La transformación. cache cache Si la función definida por el usuario pasa a la La transformación es costosa, se aplica el La transformación después de la transformación mientras el conjunto de datos resultante todavía pueda encajar en la memoria o en el almacenamiento local. Si la función definida por el usuario aumenta el espacio necesario para almacenar el conjunto de datos más allá de la capacidad de caché, aplicarlo después de Transformación o considere preprocesar sus datos antes de su trabajo de capacitación para reducir el uso de los recursos. map cache map cache Mapeo vectorial Para invocar una función definida por el usuario se ha pasado a la La transformación tiene relación directa con la planificación y ejecución de la función definida por el usuario.Vectorizar la función definida por el usuario (es decir, hacer que funcione a través de un lote de entradas a la vez) y aplicar la transformación El La transformación. map batch Antes map Para ilustrar esta buena práctica, su conjunto de datos artificial no es adecuado.El retraso de programación es de alrededor de 10 microsegundos (10e-6 segundos), mucho menos que las decenas de milisegundos utilizados en el Por lo tanto, su impacto es difícil de ver. ArtificialDataset Para ello, utilizamos la base Simplificar la función y el ciclo de entrenamiento a su forma más simple. tf.data.Dataset.range fast_dataset = tf.data.Dataset.range(10000) def fast_benchmark(dataset, num_epochs=2): start_time = time.perf_counter() for _ in tf.data.Dataset.range(num_epochs): for _ in dataset: pass tf.print("Execution time:", time.perf_counter() - start_time) def increment(x): return x+1 Mapas escalares fast_benchmark( fast_dataset # Apply function one item at a time .map(increment) # Batch .batch(256) ) Execution time: 0.23993100699954084 La trama anterior ilustra lo que está sucediendo (con menos muestras) utilizando el método de mapeo escalar. Muestra que la función mapeada se aplica a cada muestra. Mapas vectoriales fast_benchmark( fast_dataset .batch(256) # Apply function on a batch of items # The tf.Tensor.__add__ method already handle batches .map(increment) ) Execution time: 0.04984995199993136 Esta vez, la función mapeada se llama una vez y se aplica a un lote de muestra. Como muestra el cronograma de ejecución de datos, mientras que la función podría tomar más tiempo para ejecutarse, el overhead aparece solo una vez, mejorando el rendimiento general del tiempo. Reducción de la huella de la memoria Una serie de transformaciones, incluyendo , de , y , mantenga un buffer interno de elementos. Si la función definida por el usuario pasó a la transformación cambia el tamaño de los elementos, luego el orden de la transformación del mapa y las transformaciones que los elementos tampón afecta el uso de la memoria. En general, elija el orden que resulta en menor huella de la memoria, a menos que el ordenamiento diferente es deseable para el rendimiento. interleave prefetch shuffle map Caché de computadoras parciales Se recomienda guardar el cache del conjunto de datos después de transformación, excepto si esta transformación hace que los datos sean demasiado grandes para encajar en la memoria. Se puede lograr un compromiso si su función mapeada se puede dividir en dos partes: una que consume tiempo y una que consume memoria. map dataset.map(time_consuming_mapping).cache().map(memory_consuming_mapping) De esta manera, la parte que consume tiempo solo se ejecuta durante la primera época, y se evita usar demasiado espacio de caché. Originalmente publicado en el sitio web de TensorFlow, este artículo aparece aquí bajo un nuevo título y está licenciado bajo CC BY 4.0. Originalmente publicado en el sitio web de TensorFlow, este artículo aparece aquí bajo un nuevo título y está licenciado bajo CC BY 4.0. TensorFlow TensorFlow

Estás desperdiciando energía de la GPU: fija tu tubería de entrada de TensorFlow hoy

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Una guía del arquitecto para crear una arquitectura de referencia para un lago de datos de IA/ML

Nómadas digitales escuchen: lo que necesitan saber sobre la nueva visa DTV de Tailandia

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Una guía del arquitecto para crear una arquitectura de referencia para un lago de datos de IA/ML

Nómadas digitales escuchen: lo que necesitan saber sobre la nueva visa DTV de Tailandia

Creación de productos criptográficos centrados en el usuario: la importancia de los comentarios de los clientes

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps