Кои алатки можам да ги користам за да ги визуелизирам моделите на Keras? Старата клише "сликата вреди илјада зборови" може да биде уште повеќе вистина кога се работи со сложени модели за машинско учење. освен ако не сте благословени со фотографска меморија, брзо можете да ја изгубите трагата на моделската архитектура кога само читате преку код. Овој водич се фокусира на визуелизација на Keras модели и го користи следниот модел (на "тест модел") за демонстрација: def build_model(pad_len, imu_dim, tof_dim, n_classes):
   def time_sum(x):
      return K.sum(x, axis=1)

   def squeeze_last_axis(x):
      return tf.squeeze(x, axis=-1)

   def expand_last_axis(x):
      return tf.expand_dims(x, axis=-1)    
    
   filters_l1 = 64
   kernel_l1 = 3
   filters_l2 = 128
   kernel_l2 = 5
   reduction = 8
   pool_size = 2
   drop = 0.3
   wd = 1e-4
    
   inp = Input(shape=(pad_len, imu_dim + tof_dim))
   imu = Lambda(lambda t: t[:, :, :imu_dim])(inp)
   tof = Lambda(lambda t: t[:, :, imu_dim:])(inp)

   # First CNN branch
   shortcut_1 = imu
   x1 = Conv1D(filters_l1, kernel_l1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(imu)
   x1 = BatchNormalization()(x1)
   x1 = Activation("relu")(x1)
   x1 = Conv1D(filters_l1, kernel_l1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(x1)
   x1 = BatchNormalization()(x1)
   x1 = Activation("relu")(x1)

   ch = x1.shape[-1]
   se = GlobalAveragePooling1D()(x1)
   se = Dense(ch//reduction, activation="relu")(se)
   se = Dense(ch, activation="sigmoid")(se)
   se = Reshape((1, ch))(se)
   x1 = Multiply()([x1, se])

   if shortcut_1.shape[-1] != filters_l1:
      shortcut_1 = Conv1D(filters_l1, 1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(shortcut_1)
      shortcut_1 = BatchNormalization()(shortcut_1)
    
   x1 = add([x1, shortcut_1])
   x1 = Activation("relu")(x1)
   x1 = MaxPooling1D(pool_size)(x1)
   x1 = Dropout(drop)(x1)

   shortcut_2 = x1
   x1 = Conv1D(filters_l2, kernel_l2, padding="same", use_bias=False, kernel_regularizer=l2(wd))(x1)
   x1 = BatchNormalization()(x1)
   x1 = Activation("relu")(x1)
   x1 = Conv1D(filters_l2, kernel_l2, padding="same", use_bias=False, kernel_regularizer=l2(wd))(x1)
   x1 = BatchNormalization()(x1)
   x1 = Activation("relu")(x1)

   ch = x1.shape[-1]
   se = GlobalAveragePooling1D()(x1)
   se = Dense(ch//reduction, activation="relu")(se)
   se = Dense(ch, activation="sigmoid")(se)
   se = Reshape((1, ch))(se)
   x1 = Multiply()([x1, se])

   if shortcut_2.shape[-1] != filters_l2:
      shortcut_2 = Conv1D(filters_l2, 1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(shortcut_2)
      shortcut_2 = BatchNormalization()(shortcut_2)

   x1 = add([x1, shortcut_2])
   x1 = Activation("relu")(x1)
   x1 = MaxPooling1D(pool_size)(x1)
   x1 = Dropout(drop)(x1)
    
   # Second CNN branch
   x2 = Conv1D(filters_l1, kernel_l1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(tof)
   x2 = BatchNormalization()(x2)
   x2 = Activation("relu")(x2)
   x2 = MaxPooling1D(2)(x2)
   x2 = Dropout(0.2)(x2)
   x2 = Conv1D(filters_l2, kernel_l1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(x2)
   x2 = BatchNormalization()(x2)
   x2 = Activation("relu")(x2)
   x2 = MaxPooling1D(2)(x2)
   x2 = Dropout(0.2)(x2)    

   merged = Concatenate()([x1, x2])

   xa = Bidirectional(LSTM(128, return_sequences=True, kernel_regularizer=l2(wd)))(merged)
   xb = Bidirectional(GRU(128, return_sequences=True, kernel_regularizer=l2(wd)))(merged)
   xc = GaussianNoise(0.09)(merged)
   xc = Dense(16, activation="elu")(xc)

   x = Concatenate()([xa, xb, xc])
   x = Dropout(0.4)(x)
   score = Dense(1, activation="tanh")(x)
   score = Lambda(squeeze_last_axis)(score)
   weights = Activation("softmax")(score)
   weights = Lambda(expand_last_axis)(weights)
   context = Multiply()([x, weights])
   x = Lambda(time_sum)(context)

   x = Dense(256, use_bias=False, kernel_regularizer=l2(wd))(x)
   x = BatchNormalization()(x)
   x = Activation("relu")(x)
   x = Dropout(0.5)(x)

   x = Dense(128, use_bias=False, kernel_regularizer=l2(wd))(x)
   x = BatchNormalization()(x)
   x = Activation("relu")(x)
   x = Dropout(0.3)(x)

   out = Dense(n_classes, activation="softmax", kernel_regularizer=l2(wd))(x)
   return Model(inp, out)
 Како што можете да видите, горенаведениот модел е прилично сложен. Се користи за учење на обрасци од интерцијалната мерна единица ("IMU") и други податоци од сензорите. За да бидете јасни, не го изградив. Како што ќе забележите, дефиницијата на моделот во оригиналниот бележник користи прилагодени објекти за да инкапсулира одредена логика која се повторува во дизајнот на моделот. Креирај бележник Во овој водич се дискутираат следниве 3 алатки за визуелизација: 
 
 
 
 
 
 Netron 
 
 The   Python package visualkeras 
 
 TensorBoard Користење на Нетрон за да го визуелизирате вашиот модел на Керас е веројатно наједноставната алатка за визуелизација достапна. Само треба да кликнете на копчето на почетната страница, а потоа изберете го моделот што сакате да го визуелизирате. Еве визуелизација на првите неколку слоеви на тестот модел: Нетрон Open Model... Откако моделот ќе се вчита, можете да кликнете на јазли во графиконот на моделот за да ги видите нивните својства: Можете да го извезувате графиконот на моделот во и форматирање со кликнување на главната икона на менито и изборот на соодветната опција за извоз. .png .svg 2 Користење Визуализирајте го вашиот Keras модел Визуелизација Визуелизација на Пакетот Python е исто така многу лесен за користење и нуди удобен начин за визуелизација на модел пред обуката. : visualkeras pip pip install visualkeras
 Следниот Python код покажува основна употреба на пакетот: # [Imports for your Keras model here...]
import visualkeras

# [Utility function to build your Keras model...]
def build_model(model_params):
   # [Your model definition here...]

# [Build the model...]
model = build_model(model_params)

# [Visualize the model...]
visualkeras.graph_view(model).show()
 на методот произведува следнава графика на првите неколку слоеви на тестот модел: graph_view Пакетот исто така нуди метод кој произведува графика на моделите слоеви се разликуваат по тип и големина: layered_view visualkeras.layered_view(model, legend=True).show()
 Како што се гледа, поминувајќи Две од параметрот генерира легенда која го опишува секој слој: True legend Една од предностите на пакетот е контролата што ја нуди за тоа како се прикажуваат графиките. Можете да ги прегледате параметрите што се користат за да го промените графичкиот излез на Страницата . visualkeras Пакет на документација 3 Користење Визуелизација на Keras модел Тензор Тензор е погодна опција за визуелизација на Keras модел, бидејќи е инсталиран заедно со Со малку "масажа", исто така е можно да се користи да се визуелизира структурата на моделот пред обуката. TensorBoard TensorFlow TensorBoard 3.1 Инсталирање на Пакетот jupyter-tensorboard Овој дел користи Во контекст на а За ова е потребна инсталација на пакетот, кој пак има неколку зависности. Користете ги следниве чекори за да инсталирате : TensorBoard Jupyter notebook jupyter-tensorboard jupyter-tensorboard 
 
 
 
 
 
 Install the   package using  . jupyter pip install jupyer 
 
 Use the   command to   the   package which was installed with the   package installation process. The version of the   package installed with   which is   as of this writing is not compatible with  . This downgrade step installs a version of the   package that is compatible with  . See this   for more information. pip install --upgrade notebook==6.4.12 downgrade notebook jupyter notebook jupyter 7.4.5 jupyter-tensorboard notebook jupyter-tensorboard StackOverflow article 
 
 Install the   package using  . jupyter-tensorboard pip install jupyter-tensorboard 3.2 Поставување на Jupyter Notebook за да го визуелизирате вашиот Keras модел Како што споменавме погоре, можете да визуелизирате Keras модел во Следниот Jupyter бележник код покажува како да го направите тоа со користење на тест модел од воведниот дел: TensorBoard # Cell 1: Imports
import tensorflow as tf
from tensorflow.keras.models import Model, load_model
from tensorflow.keras.layers import (
   Input, Conv1D, BatchNormalization, Activation, add, MaxPooling1D, Dropout,
   Bidirectional, LSTM, GlobalAveragePooling1D, Dense, Multiply, Reshape,
   Lambda, Concatenate, GRU, GaussianNoise
)
from tensorflow.keras.regularizers import l2
from tensorflow.keras import backend as K

# Cell 2: Set logs directory
LOG_DIR = "logs"

# Cell 3: Utility function to build model
# [`build-model` function for test model from introductory section here...]

# Cell 4: Build the model
model = build_model(398, 12, 335, 18)

# Cell 5: Compile the model
model.compile(optimizer="adam", loss="categorical_crossentropy", metrics=["accuracy"])

# Cell 6: Create a TensorBoard callback
tensorboard_callback = tf.keras.callbacks.TensorBoard(
   log_dir=LOG_DIR,
   histogram_freq=1,
   write_graph=True,
   profile_batch=0 # Disable profiling
)

# Cell 7: Create dummy `x` and `y` training inputs that match model input and output shapes
dummy_x_input = tf.random.normal((1, 398, 347)) # Batch size 1, input shape (398,347)
dummy_y_input = tf.random.normal((1, 18)) # Batch size 1, input shape (18, )

# Cell 8: "Train" the model for zero epochs to create a conceptual graph of the model
model.fit(dummy_x_input, dummy_y_input, epochs=0, batch_size=1, callbacks=[tensorboard_callback])

# Cell 9: Load the TensorBoard notebook extension
%load_ext tensorboard

# Cell 10: Launch TensorBoard
%tensorboard --logdir $LOG_DIR --host localhost
 Ако го извршите кодот Jupyter Notebook погоре, последната ќелија треба да Откако ќе се заврши извршувањето на ќелијата, можете да Да се погледне на Дашборд Launching TensorBoard http://localhost:6006 TensorBoard 
 
 Можете да го модифицирате портата TensorBoard со преминување на опцијата --port на волшебната команда %tensorboard, на пример %tensorboard --logdir $LOG_DIR --host localhost --port 8088. Можете да го модифицирате портата TensorBoard со преминување на опцијата --port на волшебната команда %tensorboard, на пример %tensorboard --logdir $LOG_DIR --host localhost --port 8088. 
 
 Совети: Јас работам на Windows 10 каде што забележав некои чудно однесување во однос на TensorBoard. За да се добие TensorBoard да се кандидира правилно секој пат кога ќе се кандидира Jupyter лаптоп, јас мора прво да ги избришете сите привремени датотеки во C:\Users\[MY_WINDOWS_USERNAME]\AppData\Local\Temp\.tensorboard-info директориумот. Совети: Јас работам на Windows 10 каде што забележав некои чудно однесување во однос на TensorBoard. За да се добие TensorBoard да се кандидира правилно секој пат кога ќе се кандидира Jupyter лаптоп, јас мора прво да ги избришете сите привремени датотеки во C:\Users\[MY_WINDOWS_USERNAME]\AppData\Local\Temp\.tensorboard-info директориумот. 3.3 Визуализирање на вашиот Keras модел со TensorBoard TensorBoard автоматски треба да се отвори на табла. Ако не, можете да кликнете на опција на менито или можете алтернативно да изберете од паѓачкото мени. Graphs Graphs Graphs Од на Преглед, Изберете за да ја видите структурата на вашиот модел. Првично треба да видите еден јазол кој го претставува целиот модел. Двојно кликнете на јазолот за да ја видите структурата на под-графот. Graphs Conceptual graph Можете да кликнете двојно на поединечни јазли во структурата на под-графот за да ги видите нивните својства. TensorBoard исто така ви овозможува да го извезувате графиконот на моделот во во форма. .png Заклучок Секој метод за визуелизација дискутиран погоре има свои предности и недостатоци. Како што може да се види, TensorBoard може да се користи и со не-тренирани модели, но бара малку повеќе работа за да се постави правилно. visualkeras

This story contains new, firsthand information uncovered by the writer.

The code in this story is for educational purposes. The readers are solely responsible for whatever they build with it.

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

Read My Stories

Ова аудио е произведено на оригиналниот јазик на приказната!

3 начини лесно да се визуелизираат моделите за машинско учење на Keras

About Author

КОМЕНТАРИ

ВИСЕТЕ ТАГОВИ

ОВОЈ СТАТИЈА БЕШЕ ПРЕТСТАВЕН ВО

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps