Các loại phần mở rộng TensorFlow được giải thích bằng các ví dụ

Nội dung Overview Thiết lập Loại Extension Hỗ trợ APIs Yêu cầu Loại Field Mutability Chức năng bổ sung bởi ExtensionType xây dựng Representation in ấn Equality Operator Các hoạt động Phương pháp Validation Immutability bất biến Lời bài hát: TypeSpec Tùy chỉnh ExtensionType Overriding the default printable representation (bỏ qua đại diện mặc định) Định nghĩa phương pháp Định nghĩa các phương pháp class và staticmethods Định nghĩa tài sản Tải về Default Constructor Overriding the default equality operator (eq) (Tạm dịch: Tăng tỷ lệ bình đẳng mặc định) Sử dụng forward references Định nghĩa Subclasses Định nghĩa Private Fields Tùy chỉnh TypeSpec của ExtensionType Thiết lập !pip install -q tf_nightly import tensorflow as tf import numpy as np from typing import Tuple, List, Mapping, Union, Optional import tempfile Loại Extension Các loại được xác định bởi người dùng có thể làm cho các dự án dễ đọc hơn, mô-đun hơn, có thể duy trì hơn. Tuy nhiên, hầu hết các API TensorFlow đều có hỗ trợ rất hạn chế cho các loại Python được xác định bởi người dùng. , , ) và các API cấp thấp hơn (như và • TensorFlow có thể được sử dụng để tạo các kiểu hướng đối tượng được xác định bởi người dùng mà làm việc liền mạch với các API của TensorFlow. Để tạo một loại phần mở rộng, chỉ cần xác định một lớp Python với như là cơ sở của nó, và sử dụng để xác định loại cho mỗi trường. Keras tf.chức năng tf.SavedModel tf.while_loop tf.concat extension types tf.experimental.ExtensionType Loại annotations class TensorGraph(tf.experimental.ExtensionType): """A collection of labeled nodes connected by weighted edges.""" edge_weights: tf.Tensor # shape=[num_nodes, num_nodes] node_labels: Mapping[str, tf.Tensor] # shape=[num_nodes]; dtype=any class MaskedTensor(tf.experimental.ExtensionType): """A tensor paired with a boolean mask, indicating which values are valid.""" values: tf.Tensor mask: tf.Tensor # shape=values.shape; false for missing/invalid values. class CSRSparseMatrix(tf.experimental.ExtensionType): """Compressed sparse row matrix (https://en.wikipedia.org/wiki/Sparse_matrix).""" values: tf.Tensor # shape=[num_nonzero]; dtype=any col_index: tf.Tensor # shape=[num_nonzero]; dtype=int64 row_index: tf.Tensor # shape=[num_rows+1]; dtype=int64 Các Các lớp cơ bản hoạt động tương tự như và từ thư viện Python tiêu chuẩn. Đặc biệt, nó tự động thêm một constructor và các phương pháp đặc biệt (như và ) dựa trên các ghi chú loại trường. tf.experimental.ExtensionType typing.NamedTuple @dataclasses.dataclass __repr__ __eq__ Thông thường, các loại phần mở rộng có xu hướng rơi vào một trong hai loại: Cấu trúc dữ liệu, nhóm lại với nhau một tập hợp các giá trị liên quan, và có thể cung cấp các hoạt động hữu ích dựa trên các giá trị đó.Cấu trúc dữ liệu có thể khá chung (như ví dụ TensorGraph ở trên); hoặc chúng có thể được tùy chỉnh cao cho một mô hình cụ thể. Các loại trong thể loại này có một thứ hạng, một hình dạng, và thường là một dtype; và nó có ý nghĩa để sử dụng chúng với các hoạt động Tensor (như tf.stack, tf.add, hoặc tf.matmul). Cấu trúc dữ liệu Loại Tensor Hỗ trợ APIs Các loại phần mở rộng được hỗ trợ bởi các API TensorFlow sau: Keras: Các loại phần mở rộng có thể được sử dụng làm đầu vào và đầu ra cho Keras Models và Layers. tf.data.Dataset: Loại phần mở rộng có thể được bao gồm trong Datasets, và trả về bởi Dataset Iterators. TensorFlow Hub: Các loại phần mở rộng có thể được sử dụng làm đầu vào và đầu ra cho các mô-đun tf.hub. SavedModel: Các loại phần mở rộng có thể được sử dụng làm đầu vào và đầu ra cho các hàm SavedModel. tf.function: Các loại phần mở rộng có thể được sử dụng làm đối số và trả về giá trị cho các hàm được đóng gói với decorator @tf.function. Trong khi vòng: Các kiểu mở rộng có thể được sử dụng như các biến vòng trong tf.while_loop, và có thể được sử dụng như các đối số và giá trị trả về cho cơ thể của vòng trong khi. Các loại phần mở rộng có thể được chọn có điều kiện bằng cách sử dụng tf.cond và tf.case. tf.py_function: Các kiểu mở rộng có thể được sử dụng làm đối số và trả về giá trị cho đối số func để tf.py_function. Tensor ops: Loại phần mở rộng có thể được mở rộng để hỗ trợ hầu hết các tùy chọn TensorFlow chấp nhận đầu vào Tensor (chẳng hạn như tf.matmul, tf.gather, và tf.reduce_sum). Chiến lược phân phối: Các loại phần mở rộng có thể được sử dụng như các giá trị per-replica. Để biết thêm chi tiết, hãy xem phần "API TensorFlow hỗ trợ ExtensionTypes" bên dưới. Yêu cầu Loại Field Tất cả các trường – biến thể trường hợp – phải được tuyên bố, và phải cung cấp một ghi chú kiểu cho mỗi trường. Các ghi chú kiểu sau được hỗ trợ: Type Example Python integers i: int Python floats f: float Python strings s: str Python booleans b: bool Python None n: None Tensor shapes shape: tf.TensorShape s Tensor dtype dtype: tf.DType Tensors t: tf.Tensor Extension types mt: MyMaskedTensor Ragged tensors rt: tf.RaggedTensor Sparse tensors st: tf.SparseTensor Indexed slices s: tf.IndexedSlices Optional tensors o: tf.experimental.Optional Type unions int_or_float: typing.Union[int, float] Tuples params: typing.Tuple[int, float, tf.Tensor, int] Var-length tuples lengths: typing.Tuple[int, ...] Mappings tags: typing.Mapping[str, tf.Tensor] Optional values weight: typing.Optional[tf.Tensor] Python toàn diện i: int Python nổi f: float Python Strings s: str Python Boolean b: bool Python None n: None Tensor hình dạng shape: tf.TensorShape s Tensor dtype dtype: tf.DType Tensors t: tf.Tensor Loại Extension mt: MyMaskedTensor Tensile Tensile rt: tf.RaggedTensor Tiết kiệm Tensile st: tf.SparseTensor Slices chỉ mục s: tf.IndexedSlices Tensors Tùy chọn o: tf.experimental.Optional Loại hiệp hội int_or_float: typing.Union[int, float] đôi params: typing.Tuple[int, float, tf.Tensor, int] Độ dài tuples lengths: typing.Tuple[int, ...] Bản đồ tags: typing.Mapping[str, tf.Tensor] Giá trị tùy chọn weight: typing.Optional[tf.Tensor] Mutability Các loại phần mở rộng được yêu cầu phải không thay đổi. Điều này đảm bảo rằng chúng có thể được theo dõi chính xác bởi các cơ chế theo dõi đồ thị của TensorFlow. Nếu bạn thấy mình muốn đột biến giá trị kiểu phần mở rộng, hãy xem xét thay vào đó xác định các phương pháp chuyển đổi giá trị. Phương pháp thay đổi a Bạn có thể định nghĩa a Phương pháp trả về một : set_mask MaskedTensor replace_mask MaskedTensor class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def replace_mask(self, new_mask): self.values.shape.assert_is_compatible_with(new_mask.shape) return MaskedTensor(self.values, new_mask) Chức năng Added by Loại Extension Loại Extension Các Basic Class cung cấp các chức năng sau: ExtensionType Một nhà xây dựng (__init__) Một phương pháp biểu diễn có thể in (__repr__). Các nhà hoạt động bình đẳng và bất bình đẳng (__eq__). Một phương pháp xác thực (__validate__). Sự bất khả xâm phạm Tính năng của TypeSpec Hỗ trợ Tensor API. Đi đến “Customization” s" phần dưới đây để biết thêm thông tin về tùy chỉnh chức năng này. ExtensionType xây dựng Nhà sản xuất thêm bởi sử dụng mỗi trường như một đối số được đặt tên (trong thứ tự chúng được liệt kê trong định nghĩa lớp). trình xây dựng này sẽ kiểm tra mỗi tham số và chuyển đổi chúng khi cần thiết. Các trường được chuyển đổi bằng cách sử dụng · Các lĩnh vực được chuyển đổi thành s; và Các trường được chuyển đổi thành các câu không thể thay đổi. ExtensionType Tensor tf.convert_to_tensor Tuple tuple Mapping class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor # Constructor takes one parameter for each field. mt = MaskedTensor(values=[[1, 2, 3], [4, 5, 6]], mask=[[True, True, False], [True, False, True]]) # Fields are type-checked and converted to the declared types. # For example, `mt.values` is converted to a Tensor. print(mt.values) Nhà sản xuất nâng một Nếu một giá trị trường không thể được chuyển đổi sang kiểu được tuyên bố của nó: TypeError try: MaskedTensor([1, 2, 3], None) except TypeError as e: print(f"Got expected TypeError: {e}") Giá trị mặc định cho một trường có thể được xác định bằng cách đặt giá trị của nó ở cấp lớp: class Pencil(tf.experimental.ExtensionType): color: str = "black" has_erasor: bool = True length: tf.Tensor = 1.0 Pencil() Pencil(length=0.5, color="blue") Representation in ấn Đơn giản là bạn có thể sử dụng một phương pháp hiển thị ( ) bao gồm tên lớp và giá trị cho mỗi trường: ExtensionType __repr__ print(MaskedTensor(values=[1, 2, 3], mask=[True, True, False])) Equality Operator Các hoạt động Thêm các nhà điều hành bình đẳng mặc định ( và ) xem xét hai giá trị bằng nhau nếu chúng có cùng loại và tất cả các trường của chúng đều bằng nhau.Các trường Tensor được coi là bằng nhau nếu chúng có cùng hình dạng và bằng nguyên tố cho tất cả các yếu tố. ExtensionType __eq__ __ne__ a = MaskedTensor([1, 2], [True, False]) b = MaskedTensor([[3, 4], [5, 6]], [[False, True], [True, True]]) print(f"a == a: {a==a}") print(f"a == b: {a==b}") print(f"a == a.values: {a==a.values}") Lưu ý: Nếu bất kỳ trường nào có chứa một Tensor, sau đó __eq__ có thể trả về một scalar boolean Tensor (thay vì một giá trị Python boolean). Lưu ý: Nếu bất kỳ trường nào có chứa một Tensor, sau đó __eq__ có thể trả về một scalar boolean Tensor (thay vì một giá trị Python boolean). Phương pháp Validation Thêm a Nó được chạy sau khi nhà xây dựng được gọi, và sau khi các trường đã được kiểm tra kiểu và chuyển đổi sang các loại được tuyên bố của họ, vì vậy nó có thể giả định rằng tất cả các trường có các loại được tuyên bố của họ. ExtensionType __validate__ Các ví dụ cập nhật sau Để đánh giá các s và s của các lĩnh vực của nó: MaskedTensor shape dtype class MaskedTensor(tf.experimental.ExtensionType): """A tensor paired with a boolean mask, indicating which values are valid.""" values: tf.Tensor mask: tf.Tensor def __validate__(self): self.values.shape.assert_is_compatible_with(self.mask.shape) assert self.mask.dtype.is_bool, 'mask.dtype must be bool' try: MaskedTensor([1, 2, 3], [0, 1, 0]) # Wrong `dtype` for mask. except AssertionError as e: print(f"Got expected AssertionError: {e}") try: MaskedTensor([1, 2, 3], [True, False]) # shapes don't match. except ValueError as e: print(f"Got expected ValueError: {e}") Immutability bất biến Overrides các và các phương pháp để ngăn chặn đột biến, đảm bảo rằng các giá trị kiểu mở rộng là không thay đổi. ExtensionType __setattr__ __delattr__ mt = MaskedTensor([1, 2, 3], [True, False, True]) try: mt.mask = [True, True, True] except AttributeError as e: print(f"Got expected AttributeError: {e}") try: mt.mask[0] = False except TypeError as e: print(f"Got expected TypeError: {e}") try: del mt.mask except AttributeError as e: print(f"Got expected AttributeError: {e}") Lời bài hát: TypeSpec Mỗi lớp có tương ứng class, được tạo tự động và được lưu trữ như . ExtensionType TypeSpec .Spec Lớp này thu thập tất cả thông tin từ một giá trị đối với các giá trị của bất kỳ tensor niêm phong. đặc biệt, các cho một giá trị được tạo bằng cách thay thế bất kỳ Tensor, ExtensionType, hoặc CompositeTensor được niêm phong với . ngoại trừ TypeSpec TypeSpec class Player(tf.experimental.ExtensionType): name: tf.Tensor attributes: Mapping[str, tf.Tensor] anne = Player("Anne", {"height": 8.3, "speed": 28.1}) anne_spec = tf.type_spec_from_value(anne) print(anne_spec.name) # Records `dtype` and `shape`, but not the string value. print(anne_spec.attributes) # Records keys and TensorSpecs for values. các giá trị có thể được xây dựng rõ ràng, hoặc chúng có thể được xây dựng từ một Giá trị sử dụng : TypeSpec ExtensionType tf.type_spec_from_value spec1 = Player.Spec(name=tf.TensorSpec([], tf.float32), attributes={}) spec2 = tf.type_spec_from_value(anne) s được sử dụng bởi TensorFlow để chia các giá trị thành một và a : TypeSpec static component dynamic component Các thành phần tĩnh (được cố định tại thời gian graph-construction) được mã hóa với tf.TypeSpec. Các thành phần động (có thể thay đổi mỗi khi biểu đồ được chạy) được mã hóa như một danh sách tf.Tensors. Ví dụ, theo dõi chức năng đóng gói của nó bất cứ khi nào một đối số có một : tf.function TypeSpec @tf.function def anonymize_player(player): print(" >") return Player(" ", player.attributes) # Function gets traced (first time the function has been called): anonymize_player(Player("Anne", {"height": 8.3, "speed": 28.1})) # Function does NOT get traced (same TypeSpec: just tensor values changed) anonymize_player(Player("Bart", {"height": 8.1, "speed": 25.3})) # Function gets traced (new TypeSpec: keys for attributes changed): anonymize_player(Player("Chuck", {"height": 11.0, "jump": 5.3})) Để biết thêm thông tin, xem . tf.function hướng dẫn Custom hóa s Loại Extension Loại Extension Ngoài việc chỉ đơn giản tuyên bố các trường và các loại của chúng, các loại phần mở rộng có thể: Nâng cấp biểu tượng in mặc định (__repr__). Định nghĩa các phương pháp Xác định các phương pháp class và static. Định nghĩa tài sản Tắt trình tạo mặc định (__init__) Tóm tắt tính năng equality default (__eq__) Định nghĩa các nhà khai thác (như __add__ và ). Tuyên bố giá trị mặc định cho các trường. Xác định Subclasses Overriding the default printable representation (bỏ qua đại diện mặc định) Bạn có thể bỏ qua điều khiển chuyển đổi chuỗi mặc định này cho các loại phần mở rộng. ví dụ sau đây cập nhật class để tạo ra một đại diện chuỗi dễ đọc hơn khi các giá trị được in ở chế độ Eager. MaskedTensor class MaskedTensor(tf.experimental.ExtensionType): """A tensor paired with a boolean mask, indicating which values are valid.""" values: tf.Tensor mask: tf.Tensor # shape=values.shape; false for invalid values. def __repr__(self): return masked_tensor_str(self.values, self.mask) def masked_tensor_str(values, mask): if isinstance(values, tf.Tensor): if hasattr(values, 'numpy') and hasattr(mask, 'numpy'): return f' ' else: return f'MaskedTensor(values={values}, mask={mask})' if len(values.shape) == 1: items = [repr(v) if m else '_' for (v, m) in zip(values, mask)] else: items = [masked_tensor_str(v, m) for (v, m) in zip(values, mask)] return '[%s]' % ', '.join(items) mt = MaskedTensor(values=[[1, 2, 3], [4, 5, 6]], mask=[[True, True, False], [True, False, True]]) print(mt) Định nghĩa phương pháp Các loại phần mở rộng có thể xác định các phương pháp, giống như bất kỳ lớp Python bình thường nào. Loại có thể định nghĩa a phương pháp trả về một bản sao của với các giá trị được ngụy trang được thay thế bằng một giá trị. phương pháp có thể tùy chọn được ghi chú với Trang trí MaskedTensor with_default self default @tf.function class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def with_default(self, default): return tf.where(self.mask, self.values, default) MaskedTensor([1, 2, 3], [True, False, True]).with_default(0) định nghĩa s và s classmethod staticmethod Các kiểu mở rộng có thể xác định các phương pháp sử dụng và Các nhà thiết kế, ví dụ, các loại có thể xác định một phương pháp nhà máy che giấu bất kỳ yếu tố nào với một giá trị nhất định: @classmethod @staticmethod MaskedTensor class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def __repr__(self): return masked_tensor_str(self.values, self.mask) @staticmethod def from_tensor_and_value_to_mask(values, value_to_mask): return MaskedTensor(values, values != value_to_mask) x = tf.constant([[1, 0, 2], [3, 0, 0]]) MaskedTensor.from_tensor_and_value_to_mask(x, 0) Định nghĩa tài sản Các loại phần mở rộng có thể xác định các thuộc tính sử dụng trình bày, giống như bất kỳ lớp học Python bình thường nào. ví dụ, Loại có thể định nghĩa a Bất động sản đó là một đoạn ngắn cho các Về các giá trị: @property MaskedTensor dtype dtype class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor @property def dtype(self): return self.values.dtype MaskedTensor([1, 2, 3], [True, False, True]).dtype Tải về Default Constructor Các nhà xây dựng tùy chỉnh phải đặt một giá trị cho mỗi trường được tuyên bố; và sau khi nhà xây dựng tùy chỉnh trả về, tất cả các trường sẽ được kiểm tra nhập và các giá trị sẽ được chuyển đổi như được mô tả ở trên. class Toy(tf.experimental.ExtensionType): name: str price: tf.Tensor def __init__(self, name, price, discount=0): self.name = name self.price = price * (1 - discount) print(Toy("ball", 5.0, discount=0.2)) # On sale -- 20% off! Ngoài ra, bạn có thể xem xét để lại trình tạo mặc định như là, nhưng thêm một hoặc nhiều phương pháp nhà máy. Ví dụ: class Toy(tf.experimental.ExtensionType): name: str price: tf.Tensor @staticmethod def new_toy_with_discount(name, price, discount): return Toy(name, price * (1 - discount)) print(Toy.new_toy_with_discount("ball", 5.0, discount=0.2)) Tính năng chính của máy tính xách tay ( ) __eq__ Bạn có thể bỏ qua default Operator for extension types. The following example updates bỏ qua các yếu tố được che giấu khi so sánh vì sự bình đẳng. __eq__ MaskedTensor class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def __repr__(self): return masked_tensor_str(self.values, self.mask) def __eq__(self, other): result = tf.math.equal(self.values, other.values) result = result | ~(self.mask & other.mask) return tf.reduce_all(result) x = MaskedTensor([1, 2, 3, 4], [True, True, False, True]) y = MaskedTensor([5, 2, 0, 4], [False, True, False, True]) print(x == y) Lưu ý: Bạn thường không cần phải bỏ qua , vì triển khai mặc định của nó chỉ đơn giản là gọi __eq__ và phủ nhận kết quả. Bạn thường không cần phải vượt qua , vì việc thực hiện mặc định của nó chỉ đơn giản là gọi và phủ nhận kết quả. Note: __ne__ __eq__ Sử dụng forward references Nếu kiểu cho một trường chưa được xác định, bạn có thể sử dụng một chuỗi có chứa tên của loại thay vào đó. Nó được sử dụng để ghi chú lĩnh vực này bởi vì loại chưa được (hoàn toàn) xác định. "Node" children Node class Node(tf.experimental.ExtensionType): value: tf.Tensor children: Tuple["Node", ...] = () Node(3, [Node(5), Node(2)]) Định nghĩa Subclasses Loại phần mở rộng có thể được phân loại dưới bằng cách sử dụng phác thảo tiêu chuẩn Python. Loại phần mở rộng có thể thêm các trường, phương pháp và thuộc tính mới; và có thể thay thế cho constructor, đại diện có thể in, và operator equality. Các lớp học sử dụng 3 các trường để mã hóa một tập hợp các cạnh giữa các nút. Sau đó nó xác định một lớp con thêm một trường để ghi lại một "giá trị tính năng" cho mỗi nút. lớp con cũng xác định một phương pháp để truyền các giá trị tính năng dọc theo các cạnh. TensorGraph Tensor Tensor class TensorGraph(tf.experimental.ExtensionType): num_nodes: tf.Tensor edge_src: tf.Tensor # edge_src[e] = index of src node for edge e. edge_dst: tf.Tensor # edge_dst[e] = index of dst node for edge e. class TensorGraphWithNodeFeature(TensorGraph): node_features: tf.Tensor # node_features[n] = feature value for node n. def propagate_features(self, weight=1.0) -> 'TensorGraphWithNodeFeature': updates = tf.gather(self.node_features, self.edge_src) * weight new_node_features = tf.tensor_scatter_nd_add( self.node_features, tf.expand_dims(self.edge_dst, 1), updates) return TensorGraphWithNodeFeature( self.num_nodes, self.edge_src, self.edge_dst, new_node_features) g = TensorGraphWithNodeFeature( # Edges: 0->1, 4->3, 2->2, 2->1 num_nodes=5, edge_src=[0, 4, 2, 2], edge_dst=[1, 3, 2, 1], node_features=[10.0, 0.0, 2.0, 5.0, -1.0, 0.0]) print("Original features:", g.node_features) print("After propagating:", g.propagate_features().node_features) Định nghĩa Private Fields Các trường của loại phần mở rộng có thể được đánh dấu riêng tư bằng cách đặt trước chúng với một subcore (theo các quy ước tiêu chuẩn của Python). Điều này không ảnh hưởng đến cách mà TensorFlow xử lý các trường theo bất kỳ cách nào; nhưng chỉ đơn giản là một tín hiệu cho bất kỳ người dùng nào của loại phần mở rộng rằng các trường đó là riêng tư. Tùy chỉnh các S là ExtensionType TypeSpec Mỗi lớp có tương ứng class, được tạo tự động và được lưu trữ như Để biết thêm thông tin, hãy xem phần "Nested TypeSpec" ở trên. ExtensionType TypeSpec .Spec Để thói quen , chỉ cần xác định lớp niêm phong của riêng bạn được gọi là và sẽ sử dụng nó như là cơ sở cho việc xây dựng tự động Bạn có thể customize the Lớp bởi: TypeSpec Spec ExtensionType TypeSpec Spec Bỏ qua đại diện mặc định in ấn. Tải về Default Constructor Xác định phương pháp, phương pháp lớp, phương pháp tĩnh và các thuộc tính. Ví dụ sau đây mô tả các Lớp làm cho nó dễ sử dụng: MaskedTensor.Spec class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor shape = property(lambda self: self.values.shape) dtype = property(lambda self: self.values.dtype) def __repr__(self): return masked_tensor_str(self.values, self.mask) def with_values(self, new_values): return MaskedTensor(new_values, self.mask) class Spec: def __init__(self, shape, dtype=tf.float32): self.values = tf.TensorSpec(shape, dtype) self.mask = tf.TensorSpec(shape, tf.bool) def __repr__(self): return f"MaskedTensor.Spec(shape={self.shape}, dtype={self.dtype})" shape = property(lambda self: self.values.shape) dtype = property(lambda self: self.values.dtype) Lưu ý: Lớp Spec tùy chỉnh có thể không sử dụng bất kỳ biến thể trường hợp nào không được tuyên bố trong ExtensionType ban đầu. Lưu ý: Lớp Spec tùy chỉnh có thể không sử dụng bất kỳ biến thể trường hợp nào không được tuyên bố trong ExtensionType ban đầu. Ban đầu được xuất bản trên trang web TensorFlow, bài viết này xuất hiện ở đây dưới tiêu đề mới và được cấp phép theo CC BY 4.0. Ban đầu được xuất bản trên trang web TensorFlow, bài viết này xuất hiện ở đây dưới tiêu đề mới và được cấp phép theo CC BY 4.0. TensorFlow TensorFlow