Sadržaj Pregled 
 
 
 
 
 
 
 
 
 
 postavljanje Ušteda od tf.keras APIs za obuku Pisanje kontrolnih tačaka Priručnik za kontrolu Mehaničko punjenje Odgođene restauracije Ručno pregledavanje kontrolnih točaka Pretraga objekata sažetak Izraz "Save a TensorFlow model" obično znači jednu od dvije stvari: 
 
 
 Kontrolne točke, ili Spasiteljski model Kontrolne točke sakupljaju tačnu vrednost svih parametara ( Kontrolne tačke ne sadrže nikakav opis izračuna definisanog modelom i stoga su obično korisne samo kada je izvorni kod koji će koristiti sačuvane vrednosti parametara dostupan. tf.Variable SavedModel format, s druge strane, uključuje serijalizovani opis izračuna definisanog modelom uz vrednosti parametara (kontrolna tačka). Modeli u ovom formatu su nezavisni od izvornog koda koji je stvorio model. Oni su stoga pogodni za implementaciju preko TensorFlow Serving, TensorFlow Lite, TensorFlow.js, ili programa u drugim programskim jezicima (C, C++, Java, Go, Rust, C# itd. Ovaj vodič pokriva API za pisanje i čitanje kontrolnih točaka. postavljanje import tensorflow as tf
 class Net(tf.keras.Model):
  """A simple linear model."""

  def __init__(self):
    super(Net, self).__init__()
    self.l1 = tf.keras.layers.Dense(5)

  def call(self, x):
    return self.l1(x)
 net = Net()
 Ušteda od Obuka APIs tf.keras Uslovi korišćenja Pogledajte The Vodič za štednju i obnavljanje. tf.keras sačuvati TensorFlow kontrolnu tačku. tf.keras.Model.save_weights net.save_weights('easy_checkpoint')
 Pisanje kontrolnih tačaka Stalno stanje modela TensorFlow pohranjeno je u Ovi objekti se mogu direktno izgraditi, ali se često stvaraju pomoću API-ja visokog nivoa kao što su ili . tf.Variable tf.keras.layers tf.keras.Model Najlakši način upravljanja promjenjivima je da ih pričvrstite na Python objekte, a zatim uputite te objekte. Podkategorije U pitanju je i automatski prati varijable dodijeljene njihovim atributima. Sledeći primjer konstruira jednostavan linearni model, a zatim piše kontrolne tačke koje sadrže vrijednosti za sve varijable modela. tf.train.Checkpoint tf.keras.layers.Layer tf.keras.Model Možete lako sačuvati model-kontrolnu tačku sa . Model.save_weights Priručnik za kontrolu postavljanje Kako bi se pokazale sve značajke , definisati set podataka o igračkama i korak optimizacije: tf.train.Checkpoint def toy_dataset():
  inputs = tf.range(10.)[:, None]
  labels = inputs * 5. + tf.range(5.)[None, :]
  return tf.data.Dataset.from_tensor_slices(
    dict(x=inputs, y=labels)).repeat().batch(2)
 def train_step(net, example, optimizer):
  """Trains `net` on `example` using `optimizer`."""
  with tf.GradientTape() as tape:
    output = net(example['x'])
    loss = tf.reduce_mean(tf.abs(output - example['y']))
  variables = net.trainable_variables
  gradients = tape.gradient(loss, variables)
  optimizer.apply_gradients(zip(gradients, variables))
  return loss
 Kreiranje kontrolnih tačaka objekata Koristite A objekta da ručno kreirate kontrolnu tačku, u kojoj su objekti koje želite da kontrolnu tačku postavljeni kao atributi na objektu. tf.train.Checkpoint A Također može biti korisno za upravljanje višestrukim kontrolnim točkama. tf.train.CheckpointManager opt = tf.keras.optimizers.Adam(0.1)
dataset = toy_dataset()
iterator = iter(dataset)
ckpt = tf.train.Checkpoint(step=tf.Variable(1), optimizer=opt, net=net, iterator=iterator)
manager = tf.train.CheckpointManager(ckpt, './tf_ckpts', max_to_keep=3)
 Voz i kontrolna tačka model Sljedeća obuka kreira primerak modela i optimizera, a zatim ih skuplja u Poziva korak obuke u krugu na svaku seriju podataka i periodično piše kontrolne tačke na disk. tf.train.Checkpoint def train_and_checkpoint(net, manager):
  ckpt.restore(manager.latest_checkpoint)
  if manager.latest_checkpoint:
    print("Restored from {}".format(manager.latest_checkpoint))
  else:
    print("Initializing from scratch.")

  for _ in range(50):
    example = next(iterator)
    loss = train_step(net, example, opt)
    ckpt.step.assign_add(1)
    if int(ckpt.step) % 10 == 0:
      save_path = manager.save()
      print("Saved checkpoint for step {}: {}".format(int(ckpt.step), save_path))
      print("loss {:1.2f}".format(loss.numpy()))
 train_and_checkpoint(net, manager)
 Obnova i nastavak obuke Nakon prvog ciklusa obuke možete proći novi model i menadžer, ali pokupiti obuku tačno tamo gdje ste prestali: opt = tf.keras.optimizers.Adam(0.1)
net = Net()
dataset = toy_dataset()
iterator = iter(dataset)
ckpt = tf.train.Checkpoint(step=tf.Variable(1), optimizer=opt, net=net, iterator=iterator)
manager = tf.train.CheckpointManager(ckpt, './tf_ckpts', max_to_keep=3)

train_and_checkpoint(net, manager)
 Naši Objekt briše stare kontrolne tačke. Ispod je konfiguriran tako da zadrži samo tri najnovije kontrolne tačke. tf.train.CheckpointManager print(manager.checkpoints)  # List the three remaining checkpoints
 Ovi putevi, npr. , nisu datoteke na disku. Umjesto toga, one su prefiksi za datoteka i jedan ili više datoteka podataka koje sadrže vrednosti varijable. Izveštaj ( ) gde je Spasi svoju državu. './tf_ckpts/ckpt-10' index checkpoint './tf_ckpts/checkpoint' CheckpointManager ls ./tf_ckpts
 Mehaničko punjenje TensorFlow podudara varijable sa kontrolnim vrednostima tako što će proći kroz usmjereni grafikon s imenovanim rubovima, počevši od objekta koji se unosi. U Naši koristi svoje ključne reči imena argumenata, kao u U . "l1" self.l1 = tf.keras.layers.Dense(5) tf.train.Checkpoint "step" tf.train.Checkpoint(step=...) Graf zavisnosti iz gornjeg primera izgleda ovako: Optimizator je u crvenom, redovne varijable su u plavom, a varijable slot optimizera su u narandžastom. U crnom je. tf.train.Checkpoint Slot varijable su deo stanja optimizera, ali su stvorene za određenu varijable. gornji rubovi odgovaraju momentumu, koji Adam optimizator prati za svaku varijabilnu. Slot varijable se čuvaju samo u kontrolnoj točki ako bi se i varijabilna i optimizator čuvali, dakle razbijene rubove. 'm' pozivanje U pitanju je objekta čeka zahtevanih restauracija, vraćanje varijabilnih vrijednosti čim postoji put koji odgovara Na primer, možete učitati samo predrasude iz modela koji ste definisali gore tako što ćete rekonstruisati jedan put do njega kroz mrežu i sloj. restore tf.train.Checkpoint Checkpoint to_restore = tf.Variable(tf.zeros([5]))
print(to_restore.numpy())  # All zeros
fake_layer = tf.train.Checkpoint(bias=to_restore)
fake_net = tf.train.Checkpoint(l1=fake_layer)
new_root = tf.train.Checkpoint(net=fake_net)
status = new_root.restore(tf.train.latest_checkpoint('./tf_ckpts/'))
print(to_restore.numpy())  # This gets the restored value.
 Graf zavisnosti za ove nove objekte je mnogo manji podgraf veće kontrolne tačke koju ste napisali gore. Koristite broj kontrolnih točaka. tf.train.Checkpoint Vraća status objekta, koji ima neobavezne tvrdnje. Svi objekti stvoreni u novom Obnovljena je, tako Proći će. restore Checkpoint status.assert_existing_objects_matched status.assert_existing_objects_matched()
 Postoji mnogo objekata u kontrolnoj točki koji se nisu podudarali, uključujući jezgru sloja i varijable optimizera. prolazi samo ako se kontrolna tačka i program tačno podudaraju, i baciti izuzetak ovde. status.assert_consumed Odgođene restauracije objekata u TensorFlow može odgoditi stvaranje varijable na njihov prvi poziv, kada su ulazne oblike dostupne. jezgra sloja ovisi o ulaznim i izlaznim oblicima sloja, tako da izlazni oblik koji je potreban kao argument konstruktora nije dovoljno informacija za samostalno stvaranje varijable. takođe čita vrijednost varijable, restauracija se mora dogoditi između stvaranja varijable i njegove prve upotrebe. Layer Dense Layer Da bi podržali ovaj idiom, obnavlja defere koji još nemaju odgovarajuću varijantu. tf.train.Checkpoint deferred_restore = tf.Variable(tf.zeros([1, 5]))
print(deferred_restore.numpy())  # Not restored; still zeros
fake_layer.kernel = deferred_restore
print(deferred_restore.numpy())  # Restored
 Ručno pregledavanje kontrolnih točaka Povratak A koji daje pristup na nižem nivou sadržaju kontrolne tačke. Sadrži mape od ključa svake varijable, do oblika i dtipa za svaku varijable u kontrolnoj tački. Ključ varijable je njegov put objekta, kao u grafikonima prikazanim gore. tf.train.load_checkpoint CheckpointReader 
 
 Napomena: Ne postoji struktura višeg nivoa za kontrolnu tačku. On samo zna putove i vrednosti za varijable, i nema koncept modela, slojeva ili kako su povezani. Ne postoji struktura višeg nivoa za kontrolnu tačku. Ona samo zna staze i vrednosti za varijable, i nema koncept U pitanju je ili kako su povezani. Note: models layers reader = tf.train.load_checkpoint('./tf_ckpts/')
shape_from_key = reader.get_variable_to_shape_map()
dtype_from_key = reader.get_variable_to_dtype_map()

sorted(shape_from_key.keys())
 Dakle, ako ste zainteresovani za vrednost Možete dobiti vrednost pomoću sledećeg koda: net.l1.kernel key = 'net/l1/kernel/.ATTRIBUTES/VARIABLE_VALUE'

print("Shape:", shape_from_key[key])
print("Dtype:", dtype_from_key[key].name)
 Takođe pruža a metoda koja vam omogućuje da proverite vrednost varijable: get_tensor reader.get_tensor(key)
 Pretraga objekata Kontrolne tačke čuvaju i vraćaju vrednosti objekata tako što će "slediti" bilo koju varijantu ili objekat koji se može pratiti postavljen u jednom od njegovih atributa. tf.Variable Kao i kod direktnih atributa kao što su , dodjeljivanje lista i rječnika atributima će pratiti njihov sadržaj. self.l1 = tf.keras.layers.Dense(5) save = tf.train.Checkpoint()
save.listed = [tf.Variable(1.)]
save.listed.append(tf.Variable(2.))
save.mapped = {'one': save.listed[0]}
save.mapped['two'] = save.listed[1]
save_path = save.save('./tf_list_example')

restore = tf.train.Checkpoint()
v2 = tf.Variable(0.)
assert 0. == v2.numpy()  # Not restored yet
restore.mapped = {'two': v2}
restore.restore(save_path)
assert 2. == v2.numpy()
 Možete primijetiti objekte za zavijanje za liste i rječnike. Ovi objekti za zavijanje su verzije podrazumevanih struktura podataka koje se mogu kontrolisati. Baš kao i obilazak zasnovan na atributima, ovi objekti za zavijanje vraćaju vrijednost varijable čim se doda u spremnik. restore.listed = []
print(restore.listed)  # ListWrapper([])
v1 = tf.Variable(0.)
restore.listed.append(v1)  # Restores v1, from restore() in the previous cell
assert 1. == v1.numpy()
 Trackable objekti uključuju U pitanju je i njegove podkategorije (npr. i ), i prepoznati Python kontejneri: tf.train.Checkpoint tf.Module keras.layers.Layer keras.Model 
 
 
 
 dikt (i kolekcije.OrderedDict) Popis tuple (i kolekcije.namedtuple, tiping.NamedTuple) Ostali tipovi kontejnera Uključujući i: not supported 
 
 
 kolekcije.defaultdict set Svi ostali Python objekti su Uključujući i: ignored 
 
 
 
 Inter Struktura plutaju sažetak TensorFlow objekti pružaju jednostavan automatski mehanizam za čuvanje i vraćanje vrijednosti varijabilnih koje koriste. 
 
 Prvotno objavljen na web stranici TensorFlow, ovaj članak se pojavljuje ovdje pod novim naslovom i licenciran je pod CC BY 4.0. Prvotno objavljen na web stranici TensorFlow, ovaj članak se pojavljuje ovdje pod novim naslovom i licenciran je pod CC BY 4.0. Tenzorski tokovi Tenzorski tokovi

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

Ovaj audio je proizveden na originalnom jeziku priče!

Kako sačuvati i učitati TensorFlow modele

About Author

KOMENTARI

HANG TAGS

OVAJ ČLANAK JE PREDSTAVLJEN U

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps