Untuk data dari semua bentuk dan ukuran, Tensor Ragged menawarkan rumah

Konten Overview Setup Pendekatan Apa yang Bisa Anda Lakukan dengan Tensor Membangun Tenor yang Bergerombol Apa yang bisa Anda simpan di dalam tenor yang ragged Contoh kasus penggunaan Ukuran dan ukuran yang seragam Kemenangan vs Sparta Aplikasi TensorFlow Keras F. Contoh Dataset F. Fungsi model penyelamatan Operator yang berlebihan Setup !pip install --pre -U tensorflow import math import tensorflow as tf 2024-08-27 01:20:40.536630: E external/local_xla/xla/stream_executor/cuda/cuda_fft.cc:485] Unable to register cuFFT factory: Attempting to register factory for plugin cuFFT when one has already been registered 2024-08-27 01:20:40.557820: E external/local_xla/xla/stream_executor/cuda/cuda_dnn.cc:8454] Unable to register cuDNN factory: Attempting to register factory for plugin cuDNN when one has already been registered 2024-08-27 01:20:40.563984: E external/local_xla/xla/stream_executor/cuda/cuda_blas.cc:1452] Unable to register cuBLAS factory: Attempting to register factory for plugin cuBLAS when one has already been registered Pendekatan Data Anda datang dalam banyak bentuk; tensor Anda juga harus. Mereka membuatnya mudah untuk menyimpan dan memproses data dengan bentuk yang tidak seragam, termasuk: Peningkatan tensi Variable-length fitur, seperti set aktor dalam film. Serangkaian input berurutan panjang variabel, seperti kalimat atau klip video. Input hierarki, seperti dokumen teks yang dibagi menjadi bagian, paragraf, kalimat, dan kata-kata. Bidang individual dalam input terstruktur, seperti buffer protokol. Apa yang Bisa Anda Lakukan dengan Tensor Tensor yang dipotong didukung oleh lebih dari seratus operasi TensorFlow, termasuk operasi matematika (seperti dan Operasi array (seperti dan Operasi manipulasi string (seperti Operasi pengendalian aliran (seperti dan ), dan banyak lainnya: tf.add tf.reduce_mean tf.concat tf.tile tf.strings.substr tf.while_loop tf.map_fn digits = tf.ragged.constant([[3, 1, 4, 1], [], [5, 9, 2], [6], []]) words = tf.ragged.constant([["So", "long"], ["thanks", "for", "all", "the", "fish"]]) print(tf.add(digits, 3)) print(tf.reduce_mean(digits, axis=1)) print(tf.concat([digits, [[5, 3]]], axis=0)) print(tf.tile(digits, [1, 2])) print(tf.strings.substr(words, 0, 2)) print(tf.map_fn(tf.math.square, digits)) WARNING: All log messages before absl::InitializeLog() is called are written to STDERR I0000 00:00:1724721643.161122 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.164924 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.168750 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.172328 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.183636 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.187178 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.190668 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.194028 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.197422 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.201089 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.204485 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721643.207934 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.469725 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.471772 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.473847 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.475930 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.477949 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.479867 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.481845 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.483831 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.486309 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.488220 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.490205 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.492181 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.532055 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.534019 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.536012 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.538150 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.540140 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.542032 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.543963 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.545991 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.547989 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.551435 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.553772 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 I0000 00:00:1724721644.556197 10064 cuda_executor.cc:1015] successful NUMA node read from SysFS had negative value (-1), but there must be at least one NUMA node, so returning NUMA node zero. See more at https://github.com/torvalds/linux/blob/v6.0/Documentation/ABI/testing/sysfs-bus-pci#L344-L355 tf.Tensor([2.25 nan 5.33333333 6. nan], shape=(5,), dtype=float64) Ada juga sejumlah metode dan operasi yang spesifik untuk tensor ragged, termasuk metode pabrik, metode konversi, dan operasi nilai-mapping. Dokumentasi Paket tf.ragged Tensor yang didorong didukung oleh banyak API TensorFlow, termasuk , yang , yang , yang dan Untuk informasi lebih lanjut, lihat bagian di bawah Keras Dataset F. Fungsi model penyelamatan F. Contoh TensorFlow APIs Seperti dengan tensor normal, Anda dapat menggunakan pengindeksan gaya Python untuk mengakses potongan-potongan tertentu dari tensor ragged. di bawah Indexing print(digits[0]) # First row tf.Tensor([3 1 4 1], shape=(4,), dtype=int32) print(digits[:, :2]) # First two values in each row. print(digits[:, -2:]) # Last two values in each row. Dan seperti tensor normal, Anda dapat menggunakan operator aritmatika dan perbandingan Python untuk melakukan operasi elemen. di bawah Overloaded operators print(digits + 3) print(digits + tf.ragged.constant([[1, 2, 3, 4], [], [5, 6, 7], [8], []])) Jika Anda perlu melakukan transformasi elemen ke nilai-nilai a Anda dapat menggunakan , yang mengambil fungsi ditambah satu atau lebih argumen, dan menerapkan fungsi untuk mengubah dengan nilai tersebut. RaggedTensor tf.ragged.map_flat_values RaggedTensor times_two_plus_one = lambda x: x * 2 + 1 print(tf.ragged.map_flat_values(times_two_plus_one, digits)) Tensor yang rusak dapat diubah menjadi Python yang bergelombang S dan NumPy S adalah : list array digits.to_list() [[3, 1, 4, 1], [], [5, 9, 2], [6], []] digits.numpy() array([array([3, 1, 4, 1], dtype=int32), array([], dtype=int32), array([5, 9, 2], dtype=int32), array([6], dtype=int32), array([], dtype=int32)], dtype=object) Membangun Tenor yang Bergerombol Cara termudah untuk membangun tensor ragged adalah dengan menggunakan yang membina Sesuai dengan Python yang terpasang dan NUMPY : tf.ragged.constant RaggedTensor list array sentences = tf.ragged.constant([ ["Let's", "build", "some", "ragged", "tensors", "!"], ["We", "can", "use", "tf.ragged.constant", "."]]) print(sentences) paragraphs = tf.ragged.constant([ [['I', 'have', 'a', 'cat'], ['His', 'name', 'is', 'Mat']], [['Do', 'you', 'want', 'to', 'come', 'visit'], ["I'm", 'free', 'tomorrow']], ]) print(paragraphs) Tensor ragged juga dapat dibangun dengan menggabungkan flat Tensi dengan tensor yang menunjukkan bagaimana nilai-nilai tersebut harus dibagi menjadi baris, menggunakan metode kelas pabrik seperti , yang dan . Nilai Partai-partai yang tf.RaggedTensor.from_value_rowids tf.RaggedTensor.from_row_lengths tf.RaggedTensor.from_row_splits tf.RaggedTensor.from_value_rowids tf.Tensor.from_value_rowids dari Jika Anda tahu baris mana masing-masing nilai milik, maka Anda dapat membangun Menggunakan a Pembagian Tensori : RaggedTensor value_rowids print(tf.RaggedTensor.from_value_rowids( values=[3, 1, 4, 1, 5, 9, 2], value_rowids=[0, 0, 0, 0, 2, 2, 3])) tf.RaggedTensor.from_row_lengths tf.Tensor.from_row_lengths dari Jika Anda tahu berapa panjang setiap baris, maka Anda dapat menggunakan Pembagian Tensori : row_lengths print(tf.RaggedTensor.from_row_lengths( values=[3, 1, 4, 1, 5, 9, 2], row_lengths=[4, 0, 2, 1])) tf.RaggedTensor.from_row_splits tf.Tensor.from_row_splits dari Jika Anda tahu indeks di mana setiap baris dimulai dan berakhir, maka Anda dapat menggunakan Pembagian Tensori : row_splits print(tf.RaggedTensor.from_row_splits( values=[3, 1, 4, 1, 5, 9, 2], row_splits=[0, 4, 4, 6, 7])) Lihatlah dokumentasi kelas untuk daftar lengkap metode pabrik. tf.RaggedTensor Catatan: Secara default, metode pabrik ini menambahkan pernyataan bahwa tensor partisi baris sudah terbentuk dengan baik dan konsisten dengan jumlah nilai. parameter validate=False dapat digunakan untuk melewatkan pemeriksaan ini jika Anda dapat menjamin bahwa input sudah terbentuk dengan baik dan konsisten. Catatan: Secara default, metode pabrik ini menambahkan pernyataan bahwa tensor partisi baris sudah terbentuk dengan baik dan konsisten dengan jumlah nilai. parameter validate=False dapat digunakan untuk melewatkan pemeriksaan ini jika Anda dapat menjamin bahwa input sudah terbentuk dengan baik dan konsisten. Apa yang bisa Anda simpan di dalam tenor yang ragged Seperti yang biasa s, nilai-nilai dalam a semua harus memiliki jenis yang sama; dan nilai-nilai harus semua berada pada kedalaman sarang yang sama ( Untuk Tensor : Tensor RaggedTensor Ranknya print(tf.ragged.constant([["Hi"], ["How", "are", "you"]])) # ok: type=string, rank=2 print(tf.ragged.constant([[[1, 2], [3]], [[4, 5]]])) # ok: type=int32, rank=3 try: tf.ragged.constant([["one", "two"], [3, 4]]) # bad: multiple types except ValueError as exception: print(exception) Can't convert Python sequence with mixed types to Tensor. try: tf.ragged.constant(["A", ["B", "C"]]) # bad: multiple nesting depths except ValueError as exception: print(exception) all scalar values must have the same nesting depth Contoh kasus penggunaan Contoh berikut menunjukkan bagaimana s dapat digunakan untuk membangun dan menggabungkan embeddings unigram dan bigram untuk serangkaian kueri panjang variabel, menggunakan penanda khusus untuk awal dan akhir setiap kalimat. Dokumentasi Paket RaggedTensor tf.ragged queries = tf.ragged.constant([['Who', 'is', 'Dan', 'Smith'], ['Pause'], ['Will', 'it', 'rain', 'later', 'today']]) # Create an embedding table. num_buckets = 1024 embedding_size = 4 embedding_table = tf.Variable( tf.random.truncated_normal([num_buckets, embedding_size], stddev=1.0 / math.sqrt(embedding_size))) # Look up the embedding for each word. word_buckets = tf.strings.to_hash_bucket_fast(queries, num_buckets) word_embeddings = tf.nn.embedding_lookup(embedding_table, word_buckets) # ① # Add markers to the beginning and end of each sentence. marker = tf.fill([queries.nrows(), 1], '#') padded = tf.concat([marker, queries, marker], axis=1) # ② # Build word bigrams and look up embeddings. bigrams = tf.strings.join([padded[:, :-1], padded[:, 1:]], separator='+') # ③ bigram_buckets = tf.strings.to_hash_bucket_fast(bigrams, num_buckets) bigram_embeddings = tf.nn.embedding_lookup(embedding_table, bigram_buckets) # ④ # Find the average embedding for each sentence all_embeddings = tf.concat([word_embeddings, bigram_embeddings], axis=1) # ⑤ avg_embedding = tf.reduce_mean(all_embeddings, axis=1) # ⑥ print(avg_embedding) tf.Tensor( [[-0.07189021 0.23444025 -0.04020268 -0.27113184] [ 0.10560822 0.00976487 -0.17885399 0.5371701 ] [-0.23479678 -0.15996003 0.07078557 0.24388357]], shape=(3, 4), dtype=float32) Ukuran dan ukuran yang seragam a yang adalah dimensi yang potongan-potongannya mungkin memiliki panjang yang berbeda. misalnya, dimensi internal (kolom) dari Sesuai dengan kriteria yang telah ditetapkan oleh Panwaslu ( , ... , Dimensi yang semua potongnya memiliki panjang yang sama disebut . Dimensi yang melimpah rt=[[3, 1, 4, 1], [], [5, 9, 2], [6], []] rt[0, :] rt[4, :] Ukuran yang seragam Dimensi yang melimpah Dimensi paling luar dari tensor ragged selalu seragam, karena terdiri dari satu potongan (dan, oleh karena itu, tidak ada kemungkinan panjang potongan yang berbeda). Dimensi yang tersisa dapat baik ragged atau seragam. misalnya, Anda dapat menyimpan embeddings kata untuk setiap kata dalam seragam kalimat menggunakan tensor ragged dengan bentuk Di mana partikel-partikel di sekitar Ini menunjukkan bahwa dimensi telah diatur. [num_sentences, (num_words), embedding_size] (num_words) Tensor yang diputar mungkin memiliki beberapa dimensi yang diputar. misalnya, Anda dapat menyimpan serangkaian dokumen teks terstruktur menggunakan tensor dengan bentuk (Di mana lagi parentes digunakan untuk mengindikasikan dimensi ragged). [num_documents, (num_paragraphs), (num_sentences), (num_words)] Seperti dengan , yang dari tensor ragged adalah jumlah total dimensi (termasuk kedua dimensi ragged dan uniform). adalah suatu nilai yang dapat menjadi a atau a . tf.Tensor Ranknya Potensi Tensioner tf.Tensor tf.RaggedTensor Ranknya Potensi Tensioner Sebagai contoh, seperti yang Anda lihat di atas, bentuk dari 3D RaggedTensor yang menyimpan embeddings kata untuk setiap kata dalam serangkaian kalimat dapat ditulis sebagai . [num_sentences, (num_words), embedding_size] yang atribut yang mengembalikan a untuk tensor ragged di mana dimensi ragged memiliki ukuran : RaggedTensor.shape tf.TensorShape None tf.ragged.constant([["Hi"], ["How", "are", "you"]]).shape TensorShape([2, None]) Metode yang dapat digunakan untuk menemukan bentuk perbatasan yang ketat untuk suatu : tf.RaggedTensor.bounding_shape RaggedTensor print(tf.ragged.constant([["Hi"], ["How", "are", "you"]]).bounding_shape()) tf.Tensor([2 3], shape=(2,), dtype=int64) Kemenangan vs Sparta Tensor yang terpasang harus dapat dipahami sebagai jenis tensor sparse. khususnya, tensor sparse adalah yang model data yang sama dalam format kompak; tetapi tensor ragged adalah yang memodelkan kelas data yang diperluas. perbedaan ini sangat penting saat menentukan operasi: Tidak Kode yang efektif untuk tf.Tensor Perpanjangan untuk tf.Tensor Mengaplikasikan op pada tensor tipis atau padat harus selalu memberikan hasil yang sama. Mengaplikasikan op pada tensor yang rusak atau rapuh dapat memberikan hasil yang berbeda. Sebagai contoh, pertimbangkan bagaimana operasi array seperti , yang dan Konkatenasi tensor ragged menyatukan setiap baris untuk membentuk satu baris dengan panjang gabungan: concat stack tile ragged_x = tf.ragged.constant([["John"], ["a", "big", "dog"], ["my", "cat"]]) ragged_y = tf.ragged.constant([["fell", "asleep"], ["barked"], ["is", "fuzzy"]]) print(tf.concat([ragged_x, ragged_y], axis=1)) Namun, menghubungkan tensor tipis setara dengan menghubungkan tensor tipis yang sesuai, seperti yang diilustrasikan oleh contoh berikut (di mana Ø menunjukkan nilai yang hilang): sparse_x = ragged_x.to_sparse() sparse_y = ragged_y.to_sparse() sparse_result = tf.sparse.concat(sp_inputs=[sparse_x, sparse_y], axis=1) print(tf.sparse.to_dense(sparse_result, '')) tf.Tensor( [[b'John' b'' b'' b'fell' b'asleep'] [b'a' b'big' b'dog' b'barked' b''] [b'my' b'cat' b'' b'is' b'fuzzy']], shape=(3, 5), dtype=string) Untuk contoh lain mengapa perbedaan ini penting, pertimbangkan definisi "nilai rata-rata setiap baris" untuk op seperti Untuk tensor ragged, nilai rata-rata untuk baris adalah jumlah nilai baris dibagi oleh lebar baris. tetapi untuk tensor langka, nilai rata-rata untuk baris adalah jumlah nilai baris dibagi oleh lebar keseluruhan tensor langka (yang lebih besar dari atau sama dengan lebar baris terpanjang). tf.reduce_mean Aplikasi TensorFlow Keras adalah API tingkat tinggi TensorFlow untuk membangun dan melatih model pembelajaran mendalam. Ia tidak memiliki dukungan ragged. tetapi ia mendukung tensor disamarkan. Jadi cara termudah untuk menggunakan tensor ragged dalam model Keras adalah untuk mengkonversi tensor ragged menjadi tensor padat, menggunakan dan kemudian menggunakan masker builtin Keras: tf. keras .to_tensor() # Task: predict whether each sentence is a question or not. sentences = tf.constant( ['What makes you think she is a witch?', 'She turned me into a newt.', 'A newt?', 'Well, I got better.']) is_question = tf.constant([True, False, True, False]) # Preprocess the input strings. hash_buckets = 1000 words = tf.strings.split(sentences, ' ') hashed_words = tf.strings.to_hash_bucket_fast(words, hash_buckets) hashed_words.to_list() [[940, 203, 668, 387, 790, 320, 939, 185], [315, 515, 791, 181, 939, 787], [564, 205], [820, 180, 993, 739]] hashed_words.to_tensor() tf.keras.Input? # Build the Keras model. keras_model = tf.keras.Sequential([ tf.keras.layers.Embedding(hash_buckets, 16, mask_zero=True), tf.keras.layers.LSTM(32, return_sequences=True, use_bias=False), tf.keras.layers.GlobalAveragePooling1D(), tf.keras.layers.Dense(32), tf.keras.layers.Activation(tf.nn.relu), tf.keras.layers.Dense(1) ]) keras_model.compile(loss='binary_crossentropy', optimizer='rmsprop') keras_model.fit(hashed_words.to_tensor(), is_question, epochs=5) Epoch 1/5 WARNING: All log messages before absl::InitializeLog() is called are written to STDERR I0000 00:00:1724721648.311913 10235 service.cc:146] XLA service 0x7f82d4008680 initialized for platform CUDA (this does not guarantee that XLA will be used). Devices: I0000 00:00:1724721648.311945 10235 service.cc:154] StreamExecutor device (0): Tesla T4, Compute Capability 7.5 I0000 00:00:1724721648.311949 10235 service.cc:154] StreamExecutor device (1): Tesla T4, Compute Capability 7.5 I0000 00:00:1724721648.311952 10235 service.cc:154] StreamExecutor device (2): Tesla T4, Compute Capability 7.5 I0000 00:00:1724721648.311955 10235 service.cc:154] StreamExecutor device (3): Tesla T4, Compute Capability 7.5 1/1 ━━━━━━━━━━━━━━━━━━━━ 4s 4s/step - loss: 8.0590 Epoch 2/5 1/1 ━━━━━━━━━━━━━━━━━━━━ 0s 47ms/step - loss: 8.0590 Epoch 3/5 1/1 ━━━━━━━━━━━━━━━━━━━━ 0s 44ms/step - loss: 8.0590 Epoch 4/5 1/1 ━━━━━━━━━━━━━━━━━━━━ 0s 44ms/step - loss: 8.0590 Epoch 5/5 I0000 00:00:1724721650.626376 10235 device_compiler.h:188] Compiled cluster using XLA! This line is logged at most once for the lifetime of the process. 1/1 ━━━━━━━━━━━━━━━━━━━━ 0s 43ms/step - loss: 8.0590 print(keras_model.predict(hashed_words.to_tensor())) 1/1 ━━━━━━━━━━━━━━━━━━━━ 0s 407ms/step [[-0.00517703] [-0.00227403] [-0.00706224] [-0.00354813]] F. Contoh adalah standar pengkodean untuk data TensorFlow. data yang s sering mencakup fitur panjang variabel. misalnya, kode berikut mendefinisikan serangkaian empat pesan dengan panjang fitur yang berbeda: F. Contoh Protobuf tf.Example tf.Example import google.protobuf.text_format as pbtext def build_tf_example(s): return pbtext.Merge(s, tf.train.Example()).SerializeToString() example_batch = [ build_tf_example(r''' features { feature {key: "colors" value {bytes_list {value: ["red", "blue"]} } } feature {key: "lengths" value {int64_list {value: [7]} } } }'''), build_tf_example(r''' features { feature {key: "colors" value {bytes_list {value: ["orange"]} } } feature {key: "lengths" value {int64_list {value: []} } } }'''), build_tf_example(r''' features { feature {key: "colors" value {bytes_list {value: ["black", "yellow"]} } } feature {key: "lengths" value {int64_list {value: [1, 3]} } } }'''), build_tf_example(r''' features { feature {key: "colors" value {bytes_list {value: ["green"]} } } feature {key: "lengths" value {int64_list {value: [3, 5, 2]} } } }''')] Anda dapat memindai data yang dikodekan ini menggunakan , yang mengambil tensor dari string serialis dan kamus spesifikasi fitur, dan mengembalikan nama fitur kartografi kamus ke tensor. Dalam kamus spesifikasi : tf.io.parse_example tf.io.RaggedFeature feature_specification = { 'colors': tf.io.RaggedFeature(tf.string), 'lengths': tf.io.RaggedFeature(tf.int64), } feature_tensors = tf.io.parse_example(example_batch, feature_specification) for name, value in feature_tensors.items(): print("{}={}".format(name, value)) colors= lengths= juga dapat digunakan untuk membaca fitur dengan beberapa dimensi ragged. untuk rincian, lihat . tf.io.RaggedFeature Dokumentasi api Dataset adalah API yang memungkinkan Anda untuk membangun pipa input yang kompleks dari bagian-bagian sederhana dan dapat digunakan kembali. , yang mewakili urutan elemen, di mana setiap elemen terdiri dari satu atau lebih komponen. F. Data yang tf.data.Dataset # Helper function used to print datasets in the examples below. def print_dictionary_dataset(dataset): for i, element in enumerate(dataset): print("Element {}:".format(i)) for (feature_name, feature_value) in element.items(): print('{:>14} = {}'.format(feature_name, feature_value)) Membangun Datasets dengan Tensor Ragged Datasets dapat dibangun dari tensor ragged menggunakan metode yang sama yang digunakan untuk membangunnya dari S atau NumPy S, seperti yang : tf.Tensor array Dataset.from_tensor_slices dataset = tf.data.Dataset.from_tensor_slices(feature_tensors) print_dictionary_dataset(dataset) Element 0: colors = [b'red' b'blue'] lengths = [7] Element 1: colors = [b'orange'] lengths = [] Element 2: colors = [b'black' b'yellow'] lengths = [1 3] Element 3: colors = [b'green'] lengths = [3 5 2] Catatan: Dataset.from_generator belum mendukung tensor ragged, tetapi dukungan akan ditambahkan segera. belum mendukung tensor ragged, tetapi dukungan akan ditambahkan segera. Note: Dataset.from_generator Batching dan unbatching Datasets dengan tensor ragged Dataset dengan tensor ragged dapat dibagi (yang menggabungkan dengan menggunakan unsur-unsur yang sama (menggunakan Metode yang n Dataset.batch batched_dataset = dataset.batch(2) print_dictionary_dataset(batched_dataset) Element 0: colors = lengths = Element 1: colors = lengths = Sebaliknya, set data batch dapat diubah menjadi set data datar menggunakan . Dataset.unbatch unbatched_dataset = batched_dataset.unbatch() print_dictionary_dataset(unbatched_dataset) Element 0: colors = [b'red' b'blue'] lengths = [7] Element 1: colors = [b'orange'] lengths = [] Element 2: colors = [b'black' b'yellow'] lengths = [1 3] Element 3: colors = [b'green'] lengths = [3 5 2] Batching Datasets dengan variable-length non-ragged tensors Jika Anda memiliki Dataset yang berisi tensor non-ragged, dan panjang tensor bervariasi di antara elemen, maka Anda dapat batch tensor non-ragged tersebut menjadi tensor ragged dengan menerapkan Untuk transformasi : dense_to_ragged_batch non_ragged_dataset = tf.data.Dataset.from_tensor_slices([1, 5, 3, 2, 8]) non_ragged_dataset = non_ragged_dataset.map(tf.range) batched_non_ragged_dataset = non_ragged_dataset.apply( tf.data.experimental.dense_to_ragged_batch(2)) for element in batched_non_ragged_dataset: print(element) WARNING:tensorflow:From /tmpfs/tmp/ipykernel_10064/1427668168.py:4: dense_to_ragged_batch (from tensorflow.python.data.experimental.ops.batching) is deprecated and will be removed in a future version. Instructions for updating: Use `tf.data.Dataset.ragged_batch` instead. Transformasi Datasets dengan Tensor Ragged Anda juga dapat membuat atau mengubah tensor ragged dalam Datasets menggunakan : Dataset.map def transform_lengths(features): return { 'mean_length': tf.math.reduce_mean(features['lengths']), 'length_ranges': tf.ragged.range(features['lengths'])} transformed_dataset = dataset.map(transform_lengths) print_dictionary_dataset(transformed_dataset) Element 0: mean_length = 7 length_ranges = Element 1: mean_length = 0 length_ranges = Element 2: mean_length = 2 length_ranges = Element 3: mean_length = 3 length_ranges = F. Fungsi adalah dekorator yang memprediksi grafik TensorFlow untuk fungsi Python, yang dapat secara substansial meningkatkan kinerja kode TensorFlow Anda. Misalnya, fungsi berikut bekerja dengan tantangan ragged dan non-ragged: F. Fungsi @tf.function @tf.function def make_palindrome(x, axis): return tf.concat([x, tf.reverse(x, [axis])], axis) make_palindrome(tf.constant([[1, 2], [3, 4], [5, 6]]), axis=1) make_palindrome(tf.ragged.constant([[1, 2], [3], [4, 5, 6]]), axis=1) 2024-08-27 01:20:51.662289: W tensorflow/core/grappler/optimizers/loop_optimizer.cc:933] Skipping loop optimization for Merge node with control input: RaggedConcat/assert_equal_1/Assert/AssertGuard/branch_executed/_9 Jika Anda ingin menjelaskan secara eksplisit tentang Untuk The maka Anda dapat melakukannya dengan menggunakan . input_signature tf.function tf.RaggedTensorSpec @tf.function( input_signature=[tf.RaggedTensorSpec(shape=[None, None], dtype=tf.int32)]) def max_and_min(rt): return (tf.math.reduce_max(rt, axis=-1), tf.math.reduce_min(rt, axis=-1)) max_and_min(tf.ragged.constant([[1, 2], [3], [4, 5, 6]])) ( , ) Fungsi konkret mengumpulkan grafik-grafik individu yang dibangun oleh Tensor yang dipotong dapat digunakan dengan transparan dengan fungsi beton. Fungsi konkret tf.function @tf.function def increment(x): return x + 1 rt = tf.ragged.constant([[1, 2], [3], [4, 5, 6]]) cf = increment.get_concrete_function(rt) print(cf(rt)) model penyelamatan a yang adalah program serialisasi TensorFlow, termasuk baik beban dan komputasi. dapat dibangun dari model Keras atau dari model kustom. Dalam kedua kasus, tensor ragged dapat digunakan secara transparan dengan fungsi dan metode yang didefinisikan oleh SavedModel. model penyelamatan Contoh: Menyelamatkan Model Keras import tempfile keras_module_path = tempfile.mkdtemp() keras_model.save(keras_module_path+"/my_model.keras") imported_model = tf.keras.models.load_model(keras_module_path+"/my_model.keras") imported_model(hashed_words.to_tensor()) Contoh: menyimpan model custom class CustomModule(tf.Module): def __init__(self, variable_value): super(CustomModule, self).__init__() self.v = tf.Variable(variable_value) @tf.function def grow(self, x): return x * self.v module = CustomModule(100.0) # Before saving a custom model, you must ensure that concrete functions are # built for each input signature that you will need. module.grow.get_concrete_function(tf.RaggedTensorSpec(shape=[None, None], dtype=tf.float32)) custom_module_path = tempfile.mkdtemp() tf.saved_model.save(module, custom_module_path) imported_model = tf.saved_model.load(custom_module_path) imported_model.grow(tf.ragged.constant([[1.0, 4.0, 3.0], [2.0]])) INFO:tensorflow:Assets written to: /tmpfs/tmp/tmpkmr703wo/assets INFO:tensorflow:Assets written to: /tmpfs/tmp/tmpkmr703wo/assets Catatan: Tanda tangan SavedModel adalah fungsi beton. seperti yang dibahas dalam bagian Functions Concrete di atas, tensor ragged hanya diperlakukan dengan benar oleh fungsi beton dimulai dengan TensorFlow 2.3. Catatan: Tanda tangan SavedModel adalah fungsi beton. seperti yang dibahas dalam bagian Functions Concrete di atas, tensor ragged hanya diperlakukan dengan benar oleh fungsi beton dimulai dengan TensorFlow 2.3. Tanda tangan Operator yang berlebihan yang kelas meliputi operator aritmatika dan perbandingan standar Python, membuatnya mudah untuk melakukan matematika elemental dasar: RaggedTensor x = tf.ragged.constant([[1, 2], [3], [4, 5, 6]]) y = tf.ragged.constant([[1, 1], [2], [3, 3, 3]]) print(x + y) Karena operator yang berlebihan melakukan perhitungan elemental, input untuk semua operasi biner harus memiliki bentuk yang sama atau broadcastable ke bentuk yang sama. x = tf.ragged.constant([[1, 2], [3], [4, 5, 6]]) print(x + 3) Untuk diskusi kasus yang lebih maju, periksa bagian di . Broadcasting Tensor yang berlebihan melebarkan set operator yang sama seperti yang biasa s: operator unary , yang dan · Operator biner , yang , yang , yang , yang , yang , yang , yang , yang , yang , yang , yang , yang , yang dan . Tensor - ~ abs() + - * / // % ** & | ^ == >= Awalnya diterbitkan di __TensorFlow __website, artikel ini muncul di sini di bawah judul baru dan berlisensi di bawah CC BY 4.0. Awalnya diterbitkan di __TensorFlow __website, artikel ini muncul di sini di bawah judul baru dan berlisensi di bawah CC BY 4.0. TensorFlow