Vrste proširenja TensorFlow objašnjene primjerima

Sadržaj Pregled postavljanje Vrste proširenja Podržani APIs zahtjevi Vrste polja Mutacija Dodana funkcionalnost ExtensionType Izgraditelj Printabilna reprezentacija Operatori ravnopravnosti Validacijska metoda Prisiljena nepromjenjivost Sljedeći Članak TypeSpec Prilagođene vrste proširenja Prevladavanje podrazumijevanja podrazumijevanja Definicija metoda Definicija klasičnih i statičkih metoda Definicija vlasništva Preuzimanje default konstruktora Prevladavanje podrazumijevanog operatora jednakosti (eq) Upotreba referencija unaprijed Definicija podkategorija Definicija privatnih polja Prilagođavanje ExtensionType's TypeSpec postavljanje !pip install -q tf_nightly import tensorflow as tf import numpy as np from typing import Tuple, List, Mapping, Union, Optional import tempfile Vrste proširenja Tipovi definirani od strane korisnika mogu učiniti projekte čitljivijim, modularnijim i održivijim. međutim, većina TensorFlow API-ja ima vrlo ograničenu podršku za tipove definirane od strane korisnika. , , ) i niže razine API-ja (kao što su i • TensorFlow Može se koristiti za stvaranje korisnički definiranih objektualnih tipova koji besprijekorno rade s TensorFlow-ovim API-jima. Kao osnova, i korištenje Da biste odredili vrstu za svako polje. Keras tf. funkcija tf.SavedModel tf.while_loop tf.concat extension types tf.experimental.ExtensionType Vrste anotacija class TensorGraph(tf.experimental.ExtensionType): """A collection of labeled nodes connected by weighted edges.""" edge_weights: tf.Tensor # shape=[num_nodes, num_nodes] node_labels: Mapping[str, tf.Tensor] # shape=[num_nodes]; dtype=any class MaskedTensor(tf.experimental.ExtensionType): """A tensor paired with a boolean mask, indicating which values are valid.""" values: tf.Tensor mask: tf.Tensor # shape=values.shape; false for missing/invalid values. class CSRSparseMatrix(tf.experimental.ExtensionType): """Compressed sparse row matrix (https://en.wikipedia.org/wiki/Sparse_matrix).""" values: tf.Tensor # shape=[num_nonzero]; dtype=any col_index: tf.Tensor # shape=[num_nonzero]; dtype=int64 row_index: tf.Tensor # shape=[num_rows+1]; dtype=int64 Naš Osnovna klasa djeluje slično i od standardne Python knjižnice. osobito, automatski dodaje konstruktor i posebne metode (kao što su i ) na temelju anotacija tipa polja. tf.experimental.ExtensionType typing.NamedTuple @dataclasses.dataclass __repr__ __eq__ Tipično, vrste proširenja imaju tendenciju da spadaju u jednu od dvije kategorije: Strukture podataka, koje grupiraju skup povezanih vrijednosti i mogu pružiti korisne operacije na temelju tih vrijednosti.Strukture podataka mogu biti prilično opće (kao što je primjer TensorGraph gore); ili mogu biti visoko prilagođene određenom modelu. Vrste u ovoj kategoriji imaju rang, oblik i obično dtip; i ima smisla koristiti ih s operacijama Tensor (kao što su tf.stack, tf.add, ili tf.matmul). Strukture podataka Tipovi poput tenora Podržani APIs Vrste proširenja podržavaju sljedeći TensorFlow API-ji: Keras: Vrste proširenja mogu se koristiti kao ulazi i izlazi za Keras modele i slojeve. tf.data.Dataset: Vrste proširenja mogu biti uključene u Datasete, a vraćaju ih iteratori dataseta. TensorFlow Hub: Vrste proširenja mogu se koristiti kao ulazi i izlazi za tf.hub module. SavedModel: Vrste proširenja mogu se koristiti kao ulazi i izlazi za funkcije SavedModel. tf.function: Vrste proširenja mogu se koristiti kao argumenti i vraćaju vrijednosti za funkcije koje su obložene dekoratorom funkcije @tf.function. Dok krugovi: Vrste proširenja mogu se koristiti kao promjenjive kruga u tf.while_loop i mogu se koristiti kao argumenti i povratne vrijednosti za tijelo kruga. Vrste proširenja mogu se uvjetno odabrati pomoću tf.cond i tf.case. tf.py_function: Vrste proširenja mogu se koristiti kao argumenti i vraćaju vrijednosti za argument funk za tf.py_function. Opcije Tensor: Vrste proširenja mogu se proširiti na većinu opcija TensorFlow koje prihvaćaju ulaze Tensor (kao što su tf.matmul, tf.gather i tf.reduce_sum). Strategija distribucije: Vrste proširenja mogu se koristiti kao vrijednosti za repliku. Više detalja potražite u odjeljku o "TensorFlow APIs koji podržavaju ExtensionTypes" ispod. zahtjevi Vrste polja Sva polja – promjenjive instance – moraju biti deklarirane, a za svako polje mora biti navedena anotacija tipa. Type Example Python integers i: int Python floats f: float Python strings s: str Python booleans b: bool Python None n: None Tensor shapes shape: tf.TensorShape s Tensor dtype dtype: tf.DType Tensors t: tf.Tensor Extension types mt: MyMaskedTensor Ragged tensors rt: tf.RaggedTensor Sparse tensors st: tf.SparseTensor Indexed slices s: tf.IndexedSlices Optional tensors o: tf.experimental.Optional Type unions int_or_float: typing.Union[int, float] Tuples params: typing.Tuple[int, float, tf.Tensor, int] Var-length tuples lengths: typing.Tuple[int, ...] Mappings tags: typing.Mapping[str, tf.Tensor] Optional values weight: typing.Optional[tf.Tensor] Python integratori i: int Python floatovi f: float Python strojevi s: str Python booleani b: bool Python None n: None Tenzorski oblici shape: tf.TensorShape s Tenzor dtype dtype: tf.DType tenzori t: tf.Tensor Vrste proširenja mt: MyMaskedTensor Raspršeni tenzori rt: tf.RaggedTensor Smanjite napetost st: tf.SparseTensor Indexirani dijelovi s: tf.IndexedSlices Opcijski tenzori o: tf.experimental.Optional Vrste sindikata int_or_float: typing.Union[int, float] dvostruki params: typing.Tuple[int, float, tf.Tensor, int] Var-dugotrajni tuples lengths: typing.Tuple[int, ...] Mappingovi tags: typing.Mapping[str, tf.Tensor] Opcionalne vrijednosti weight: typing.Optional[tf.Tensor] Mutacija Vrste proširenja moraju biti nepromjenjive. To osigurava da se mogu pravilno pratiti TensorFlowovim mehanizmima praćenja grafikona. Ako se nađete da želite izmijeniti vrijednost vrste proširenja, umjesto toga razmotrite definiciju metoda koje pretvaraju vrijednosti. Metoda za izmjenu a Možete definirati a Metoda koja vraća novu : set_mask MaskedTensor replace_mask MaskedTensor class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def replace_mask(self, new_mask): self.values.shape.assert_is_compatible_with(new_mask.shape) return MaskedTensor(self.values, new_mask) Funkcionalnost dodana ExtensionType Proširenje Naš Osnovna klasa pruža sljedeću funkcionalnost: ExtensionType A konstruktor (__init__) Printabilna metoda predstavljanja (__repr__) Operatori jednakosti i nejednakosti (__eq__) Jedan od načina validiranja (__validate__) Prisiljena imutabilnost Svijet TipSpec. Podrška za Tensor API dispatch Idite na "Prirast" S" odjeljak ispod za više informacija o prilagođavanju ove funkcionalnosti. ExtensionType Izgraditelj Proizvođač je dodao uzima svako polje kao nazvan argument (u redoslijedu u kojem su navedeni u definiciji klase). Ovaj konstruktor će provjeriti svaki parametar i pretvoriti ih gdje je to potrebno. Polja se pretvaraju pomoću • Polja se pretvaraju u s; i Polja se pretvaraju u nepromjenjive dikte. ExtensionType Tensor tf.convert_to_tensor Tuple tuple Mapping class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor # Constructor takes one parameter for each field. mt = MaskedTensor(values=[[1, 2, 3], [4, 5, 6]], mask=[[True, True, False], [True, False, True]]) # Fields are type-checked and converted to the declared types. # For example, `mt.values` is converted to a Tensor. print(mt.values) Proizvođač podiže ako vrijednost polja ne može biti pretvorena u deklarirani tip: TypeError try: MaskedTensor([1, 2, 3], None) except TypeError as e: print(f"Got expected TypeError: {e}") Podrazumijevana vrijednost za polje može se odrediti postavljanjem njegove vrijednosti na razini klase: class Pencil(tf.experimental.ExtensionType): color: str = "black" has_erasor: bool = True length: tf.Tensor = 1.0 Pencil() Pencil(length=0.5, color="blue") Printabilna reprezentacija Sljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći ( ) koja uključuje ime klase i vrijednost za svako polje: ExtensionType __repr__ print(MaskedTensor(values=[1, 2, 3], mask=[True, True, False])) Operatori ravnopravnosti Sljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći članakSljedeći ( i Tensor polja smatraju se jednakima ako imaju isti oblik i su elementski jednaka za sve elemente. ExtensionType __eq__ __ne__ a = MaskedTensor([1, 2], [True, False]) b = MaskedTensor([[3, 4], [5, 6]], [[False, True], [True, True]]) print(f"a == a: {a==a}") print(f"a == b: {a==b}") print(f"a == a.values: {a==a.values}") Napomena: ako bilo koje polje sadrži Tensor, __eq__ može vratiti skalarni Boolean Tensor ( umjesto Python Boolean vrijednosti). Napomena: ako bilo koje polje sadrži Tensor, __eq__ može vratiti skalarni Boolean Tensor ( umjesto Python Boolean vrijednosti). Validacijska metoda Dodaj A Pokreće se nakon poziva konstruktora, a nakon što su polja provjerena tipom i pretvorena u svoje deklarirane tipove, tako da može pretpostaviti da sva polja imaju svoje deklarirane tipove. ExtensionType __validate__ Sljedeći primjeri ažuriranja kako bi se validiralo S i S njezinih polja: MaskedTensor shape dtype class MaskedTensor(tf.experimental.ExtensionType): """A tensor paired with a boolean mask, indicating which values are valid.""" values: tf.Tensor mask: tf.Tensor def __validate__(self): self.values.shape.assert_is_compatible_with(self.mask.shape) assert self.mask.dtype.is_bool, 'mask.dtype must be bool' try: MaskedTensor([1, 2, 3], [0, 1, 0]) # Wrong `dtype` for mask. except AssertionError as e: print(f"Got expected AssertionError: {e}") try: MaskedTensor([1, 2, 3], [True, False]) # shapes don't match. except ValueError as e: print(f"Got expected ValueError: {e}") Prisiljena nepromjenjivost Prevladavaju ih i metode za sprečavanje mutacija, osiguravajući da su vrijednosti tipa proširenja nepromjenjive. ExtensionType __setattr__ __delattr__ mt = MaskedTensor([1, 2, 3], [True, False, True]) try: mt.mask = [True, True, True] except AttributeError as e: print(f"Got expected AttributeError: {e}") try: mt.mask[0] = False except TypeError as e: print(f"Got expected TypeError: {e}") try: del mt.mask except AttributeError as e: print(f"Got expected AttributeError: {e}") Sljedeći Članak TypeSpec Svaki Razred ima odgovarajuću klasu, koja se automatski stvara i pohranjuje kao . ExtensionType TypeSpec .Spec Ova klasa prikuplja sve informacije iz vrijednosti za vrijednosti svih nestalih tenzora. za vrijednost se stvara zamjenom bilo kojeg ugrađenog Tensor, ExtensionType ili CompositeTensor s njegovim . Osim TypeSpec TypeSpec class Player(tf.experimental.ExtensionType): name: tf.Tensor attributes: Mapping[str, tf.Tensor] anne = Player("Anne", {"height": 8.3, "speed": 28.1}) anne_spec = tf.type_spec_from_value(anne) print(anne_spec.name) # Records `dtype` and `shape`, but not the string value. print(anne_spec.attributes) # Records keys and TensorSpecs for values. vrijednosti mogu biti izričito konstruirane, ili se mogu izgraditi iz Vrijednost korištenja : TypeSpec ExtensionType tf.type_spec_from_value spec1 = Player.Spec(name=tf.TensorSpec([], tf.float32), attributes={}) spec2 = tf.type_spec_from_value(anne) s koriste TensorFlow kako bi podijelili vrijednosti u i a : TypeSpec static component dynamic component Statička komponenta (koja je fiksna u vrijeme grafičke konstrukcije) kodirana je tf.TypeSpec. Dinamička komponenta (koja se može mijenjati svaki put kada se grafikon pokrene) kodira se kao popis tf.Tensora. Na primjer, Pretraži svoju umotanu funkciju kad god argument ima prethodno neviđenu funkciju. : tf.function TypeSpec @tf.function def anonymize_player(player): print(" >") return Player(" ", player.attributes) # Function gets traced (first time the function has been called): anonymize_player(Player("Anne", {"height": 8.3, "speed": 28.1})) # Function does NOT get traced (same TypeSpec: just tensor values changed) anonymize_player(Player("Bart", {"height": 8.1, "speed": 25.3})) # Function gets traced (new TypeSpec: keys for attributes changed): anonymize_player(Player("Chuck", {"height": 11.0, "jump": 5.3})) Za više informacija, pogledajte . tf.function vodič prilagođavanje s ExtensionType Proširenje Osim jednostavnog deklariranja polja i njihovih vrsta, vrste proširenja mogu: Preusmjerite podrazumijevanje za štampanje (__repr__). Definirajte metode Definicija klasičnih i statičkih metoda. Definirajte svojstva Preuzmite podrazumijevani konstruktor (__init__). Preuzmite podrazumijevani operator jednakosti (__eq__). Definirajte operatore (kao što su __add__ i ). Deklaracija podrazumijevane vrijednosti za polja. Definicija podrazreda Prevladavanje podrazumijevanja podrazumijevanja Možete prevladati ovaj podrazumijevani operator za konverziju niza za vrste proširenja. klase za stvaranje čitljivijeg predstavljanja niza kada se vrijednosti ispisuju u Eager načinu. MaskedTensor class MaskedTensor(tf.experimental.ExtensionType): """A tensor paired with a boolean mask, indicating which values are valid.""" values: tf.Tensor mask: tf.Tensor # shape=values.shape; false for invalid values. def __repr__(self): return masked_tensor_str(self.values, self.mask) def masked_tensor_str(values, mask): if isinstance(values, tf.Tensor): if hasattr(values, 'numpy') and hasattr(mask, 'numpy'): return f' ' else: return f'MaskedTensor(values={values}, mask={mask})' if len(values.shape) == 1: items = [repr(v) if m else '_' for (v, m) in zip(values, mask)] else: items = [masked_tensor_str(v, m) for (v, m) in zip(values, mask)] return '[%s]' % ', '.join(items) mt = MaskedTensor(values=[[1, 2, 3], [4, 5, 6]], mask=[[True, True, False], [True, False, True]]) print(mt) Definicija metoda Vrste proširenja mogu definirati metode, baš kao i svaka normalna Python klasa. Vrsta može definirati a metoda koja vraća kopiju s maskiranim vrijednostima koje su zamijenjene danim Metode se mogu opcionalno anotirati s Dekoracijsko mjesto. MaskedTensor with_default self default @tf.function class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def with_default(self, default): return tf.where(self.mask, self.values, default) MaskedTensor([1, 2, 3], [True, False, True]).with_default(0) Definicija S i s classmethod staticmethod Vrste proširenja mogu definirati metode pomoću i Sljedeći članak: Na primjer, na tip može definirati tvornicu metode koja maskuje bilo koji element s određenom vrijednošću: @classmethod @staticmethod MaskedTensor class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def __repr__(self): return masked_tensor_str(self.values, self.mask) @staticmethod def from_tensor_and_value_to_mask(values, value_to_mask): return MaskedTensor(values, values != value_to_mask) x = tf.constant([[1, 0, 2], [3, 0, 0]]) MaskedTensor.from_tensor_and_value_to_mask(x, 0) Definicija vlasništva Vrste proširenja mogu definirati svojstva pomoću kao i svaki normalan Python razred, na primjer, Vrsta može definirati a Nekretnina koja je kratka za O vrijednostima : @property MaskedTensor dtype dtype class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor @property def dtype(self): return self.values.dtype MaskedTensor([1, 2, 3], [True, False, True]).dtype Preuzimanje default konstruktora Prilagođeni konstruktori moraju postaviti vrijednost za svako deklarirano polje; a nakon što se prilagođeni konstruktor vrati, sva će polja biti provjerena tipom, a vrijednosti će se pretvoriti kako je gore opisano. class Toy(tf.experimental.ExtensionType): name: str price: tf.Tensor def __init__(self, name, price, discount=0): self.name = name self.price = price * (1 - discount) print(Toy("ball", 5.0, discount=0.2)) # On sale -- 20% off! Alternativno, možete razmotriti ostavljanje podrazumijevanog konstruktora kao što je, ali dodavanje jedne ili više tvornica metoda. class Toy(tf.experimental.ExtensionType): name: str price: tf.Tensor @staticmethod def new_toy_with_discount(name, price, discount): return Toy(name, price * (1 - discount)) print(Toy.new_toy_with_discount("ball", 5.0, discount=0.2)) Sljedeći članakKako se riješiti neravnopravnosti ( ) __eq__ Možete ukloniti default Operater za vrste proširenja. Sljedeći primjer ažurira Ignorirati maskirane elemente pri usporedbi za jednakost. __eq__ MaskedTensor class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor def __repr__(self): return masked_tensor_str(self.values, self.mask) def __eq__(self, other): result = tf.math.equal(self.values, other.values) result = result | ~(self.mask & other.mask) return tf.reduce_all(result) x = MaskedTensor([1, 2, 3, 4], [True, True, False, True]) y = MaskedTensor([5, 2, 0, 4], [False, True, False, True]) print(x == y) Napomena: Općenito ne morate prekršiti , jer njezina podrazumijevana implementacija jednostavno poziva __eq__ i negira rezultat. Općenito ne trebate nadzirati , budući da je njegova podrazumijevana provedba jednostavno poziva I negira rezultat. Note: __ne__ __eq__ Upotreba referencija unaprijed Ako tip za polje još nije definiran, umjesto toga možete koristiti niz koji sadrži ime tipa. Koristi se za bilježenje Polje je zato što je Vrsta još nije (potpuno) definirana. "Node" children Node class Node(tf.experimental.ExtensionType): value: tf.Tensor children: Tuple["Node", ...] = () Node(3, [Node(5), Node(2)]) Definicija podkategorija Podrazredi vrste proširenja mogu dodati nova polja, metode i svojstva; i mogu nadmašiti konstruktor, predstavljanje koje se može ispisati i operator jednakosti. Klasa koja koristi tri polja za kodiranje niza rubova između čvorova. Zatim definira podrazred koji dodaje Podklasa također definira metodu za razmnožavanje vrijednosti značajki duž rubova. TensorGraph Tensor Tensor class TensorGraph(tf.experimental.ExtensionType): num_nodes: tf.Tensor edge_src: tf.Tensor # edge_src[e] = index of src node for edge e. edge_dst: tf.Tensor # edge_dst[e] = index of dst node for edge e. class TensorGraphWithNodeFeature(TensorGraph): node_features: tf.Tensor # node_features[n] = feature value for node n. def propagate_features(self, weight=1.0) -> 'TensorGraphWithNodeFeature': updates = tf.gather(self.node_features, self.edge_src) * weight new_node_features = tf.tensor_scatter_nd_add( self.node_features, tf.expand_dims(self.edge_dst, 1), updates) return TensorGraphWithNodeFeature( self.num_nodes, self.edge_src, self.edge_dst, new_node_features) g = TensorGraphWithNodeFeature( # Edges: 0->1, 4->3, 2->2, 2->1 num_nodes=5, edge_src=[0, 4, 2, 2], edge_dst=[1, 3, 2, 1], node_features=[10.0, 0.0, 2.0, 5.0, -1.0, 0.0]) print("Original features:", g.node_features) print("After propagating:", g.propagate_features().node_features) Definicija privatnih polja Polja vrste proširenja mogu biti označena privatnim tako što će ih prefixirati podcjenom (nakon standardnih konvencija Pythona).To ne utječe na način na koji TensorFlow tretira polja na bilo koji način; ali jednostavno služi kao signal bilo kojem korisniku vrste proširenja da su ta polja privatna. Prilagoditi ga s ExtensionType TypeSpec Svaki Razred ima odgovarajuću klasu, koja se automatski stvara i pohranjuje kao Za više informacija pogledajte odjeljak "Nested TypeSpec" iznad. ExtensionType TypeSpec .Spec Da bi se navikla , jednostavno definirajte svoju vlastitu ugrađenu klasu nazvanu i To će se koristiti kao osnova za automatski izgrađeni Možete naviknuti na Klase za: TypeSpec Spec ExtensionType TypeSpec Spec Prevladavanje podrazumijevanog tiskanog predstavljanja. Prevladavanje default konstruktora. Definiranje metoda, klasičnih metoda, statičkih metoda i svojstava. Sljedeći primjer prikazuje Klasa kako bi se olakšalo korištenje: MaskedTensor.Spec class MaskedTensor(tf.experimental.ExtensionType): values: tf.Tensor mask: tf.Tensor shape = property(lambda self: self.values.shape) dtype = property(lambda self: self.values.dtype) def __repr__(self): return masked_tensor_str(self.values, self.mask) def with_values(self, new_values): return MaskedTensor(new_values, self.mask) class Spec: def __init__(self, shape, dtype=tf.float32): self.values = tf.TensorSpec(shape, dtype) self.mask = tf.TensorSpec(shape, tf.bool) def __repr__(self): return f"MaskedTensor.Spec(shape={self.shape}, dtype={self.dtype})" shape = property(lambda self: self.values.shape) dtype = property(lambda self: self.values.dtype) Napomena: Klasa Spec po meri ne smije koristiti bilo koje promjenjive slučaja koje nisu deklarirane u izvornom ExtensionType-u. Napomena: Klasa Spec po meri ne smije koristiti bilo koje promjenjive slučaja koje nisu deklarirane u izvornom ExtensionType-u. Prvotno objavljen na web stranici TensorFlow, ovaj članak se ovdje pojavljuje pod novim naslovom i licenciran je pod CC BY 4.0. Prvotno objavljen na web stranici TensorFlow, ovaj članak se ovdje pojavljuje pod novim naslovom i licenciran je pod CC BY 4.0. TensorFlow TensorFlow

Vrste proširenja TensorFlow objašnjene primjerima

About Author

KOMENTARI

VIJESI OZNAKE

OVAJ ČLANAK JE PREDSTAVLJEN U

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps