¿Qué herramientas puedo usar para visualizar modelos de Keras? El viejo cliche "una imagen vale mil palabras" podría ser aún más cierto cuando se trabaja con complejos modelos de aprendizaje automático. a menos que se le bendiga con una memoria fotográfica, se puede perder rápidamente el rastro de la arquitectura del modelo cuando simplemente se lee a través del código. Esta guía se centra en la visualización de los modelos Keras y utiliza el siguiente modelo (el "modelo de prueba") para la demostración: def build_model(pad_len, imu_dim, tof_dim, n_classes):
   def time_sum(x):
      return K.sum(x, axis=1)

   def squeeze_last_axis(x):
      return tf.squeeze(x, axis=-1)

   def expand_last_axis(x):
      return tf.expand_dims(x, axis=-1)    
    
   filters_l1 = 64
   kernel_l1 = 3
   filters_l2 = 128
   kernel_l2 = 5
   reduction = 8
   pool_size = 2
   drop = 0.3
   wd = 1e-4
    
   inp = Input(shape=(pad_len, imu_dim + tof_dim))
   imu = Lambda(lambda t: t[:, :, :imu_dim])(inp)
   tof = Lambda(lambda t: t[:, :, imu_dim:])(inp)

   # First CNN branch
   shortcut_1 = imu
   x1 = Conv1D(filters_l1, kernel_l1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(imu)
   x1 = BatchNormalization()(x1)
   x1 = Activation("relu")(x1)
   x1 = Conv1D(filters_l1, kernel_l1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(x1)
   x1 = BatchNormalization()(x1)
   x1 = Activation("relu")(x1)

   ch = x1.shape[-1]
   se = GlobalAveragePooling1D()(x1)
   se = Dense(ch//reduction, activation="relu")(se)
   se = Dense(ch, activation="sigmoid")(se)
   se = Reshape((1, ch))(se)
   x1 = Multiply()([x1, se])

   if shortcut_1.shape[-1] != filters_l1:
      shortcut_1 = Conv1D(filters_l1, 1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(shortcut_1)
      shortcut_1 = BatchNormalization()(shortcut_1)
    
   x1 = add([x1, shortcut_1])
   x1 = Activation("relu")(x1)
   x1 = MaxPooling1D(pool_size)(x1)
   x1 = Dropout(drop)(x1)

   shortcut_2 = x1
   x1 = Conv1D(filters_l2, kernel_l2, padding="same", use_bias=False, kernel_regularizer=l2(wd))(x1)
   x1 = BatchNormalization()(x1)
   x1 = Activation("relu")(x1)
   x1 = Conv1D(filters_l2, kernel_l2, padding="same", use_bias=False, kernel_regularizer=l2(wd))(x1)
   x1 = BatchNormalization()(x1)
   x1 = Activation("relu")(x1)

   ch = x1.shape[-1]
   se = GlobalAveragePooling1D()(x1)
   se = Dense(ch//reduction, activation="relu")(se)
   se = Dense(ch, activation="sigmoid")(se)
   se = Reshape((1, ch))(se)
   x1 = Multiply()([x1, se])

   if shortcut_2.shape[-1] != filters_l2:
      shortcut_2 = Conv1D(filters_l2, 1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(shortcut_2)
      shortcut_2 = BatchNormalization()(shortcut_2)

   x1 = add([x1, shortcut_2])
   x1 = Activation("relu")(x1)
   x1 = MaxPooling1D(pool_size)(x1)
   x1 = Dropout(drop)(x1)
    
   # Second CNN branch
   x2 = Conv1D(filters_l1, kernel_l1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(tof)
   x2 = BatchNormalization()(x2)
   x2 = Activation("relu")(x2)
   x2 = MaxPooling1D(2)(x2)
   x2 = Dropout(0.2)(x2)
   x2 = Conv1D(filters_l2, kernel_l1, padding="same", use_bias=False, kernel_regularizer=l2(wd))(x2)
   x2 = BatchNormalization()(x2)
   x2 = Activation("relu")(x2)
   x2 = MaxPooling1D(2)(x2)
   x2 = Dropout(0.2)(x2)    

   merged = Concatenate()([x1, x2])

   xa = Bidirectional(LSTM(128, return_sequences=True, kernel_regularizer=l2(wd)))(merged)
   xb = Bidirectional(GRU(128, return_sequences=True, kernel_regularizer=l2(wd)))(merged)
   xc = GaussianNoise(0.09)(merged)
   xc = Dense(16, activation="elu")(xc)

   x = Concatenate()([xa, xb, xc])
   x = Dropout(0.4)(x)
   score = Dense(1, activation="tanh")(x)
   score = Lambda(squeeze_last_axis)(score)
   weights = Activation("softmax")(score)
   weights = Lambda(expand_last_axis)(weights)
   context = Multiply()([x, weights])
   x = Lambda(time_sum)(context)

   x = Dense(256, use_bias=False, kernel_regularizer=l2(wd))(x)
   x = BatchNormalization()(x)
   x = Activation("relu")(x)
   x = Dropout(0.5)(x)

   x = Dense(128, use_bias=False, kernel_regularizer=l2(wd))(x)
   x = BatchNormalization()(x)
   x = Activation("relu")(x)
   x = Dropout(0.3)(x)

   out = Dense(n_classes, activation="softmax", kernel_regularizer=l2(wd))(x)
   return Model(inp, out)
 Como puede ver, el modelo anterior es bastante complejo. Se utiliza para aprender patrones de la unidad de medición intertial ("IMU") y otros datos de sensores. Como notará, la definición del modelo en el notebook original utiliza objetos personalizados para encapsular cierta lógica que se repite en el diseño del modelo. he elegido eliminar esos objetos y explicitamente definir la lógica "inline" para ver mejor la estructura completa del modelo en mi implementación ligeramente modificada. Cajas de notas Esta guía aborda las siguientes 3 herramientas de visualización: 
 
 
 
 
 
 Netron 
 
 The   Python package visualkeras 
 
 TensorBoard Uso de Netron para visualizar su modelo de Keras es probablemente la herramienta de visualización más simple disponible. Solo tienes que hacer clic en el botón en la página principal y, a continuación, seleccione el modelo que desea visualizar. Aquí está una visualización de las primeras capas del modelo de prueba: Netrón Open Model... Una vez cargado el modelo, puede hacer clic en los nodos en el gráfico del modelo para ver sus propiedades: Puede exportar el gráfico del modelo en y Formatos haciendo clic en el icono del menú principal y seleccionando la opción de exportación adecuada. .png .svg 2 Uso Para visualizar su modelo Keras visualizaciones visualizaciones El El paquete Python también es muy fácil de usar y ofrece una manera conveniente de visualizar un modelo antes del entrenamiento. : visualkeras pip pip install visualkeras
 El siguiente código de Python demuestra el uso básico del paquete: # [Imports for your Keras model here...]
import visualkeras

# [Utility function to build your Keras model...]
def build_model(model_params):
   # [Your model definition here...]

# [Build the model...]
model = build_model(model_params)

# [Visualize the model...]
visualkeras.graph_view(model).show()
 El El método produce el siguiente gráfico de las primeras capas del modelo de prueba: graph_view El programa también ofrece a método que produce un gráfico de las capas del modelo distinguidas por tipo y tamaño: layered_view visualkeras.layered_view(model, legend=True).show()
 Como se ve, el paso Para el El parámetro genera una leyenda que describe cada capa: True legend Una ventaja de la paquete es el control que ofrece sobre cómo se muestran los gráficos. Puede revisar los parámetros utilizados para modificar la salida gráfica en el La página . visualkeras Documentación del paquete 3 Uso Para visualizar un modelo de Keras Tensores Tensores es una opción conveniente para la visualización de un modelo Keras ya que se instala junto con Con un poco de "masaje", también es posible usar para visualizar la estructura de un modelo antes del entrenamiento. TensorBoard TensorFlow TensorBoard 3.1 Instalación de El paquete jupyter-tensorboard Esta sección utiliza En el contexto de una Esto requiere la instalación de la paquete, que a su vez tiene un par de dependencias. Use los siguientes pasos para instalar : TensorBoard Jupyter notebook jupyter-tensorboard jupyter-tensorboard 
 
 
 
 
 
 Install the   package using  . jupyter pip install jupyer 
 
 Use the   command to   the   package which was installed with the   package installation process. The version of the   package installed with   which is   as of this writing is not compatible with  . This downgrade step installs a version of the   package that is compatible with  . See this   for more information. pip install --upgrade notebook==6.4.12 downgrade notebook jupyter notebook jupyter 7.4.5 jupyter-tensorboard notebook jupyter-tensorboard StackOverflow article 
 
 Install the   package using  . jupyter-tensorboard pip install jupyter-tensorboard 3.2 Configurar un notebook Jupyter para visualizar su modelo Keras Como se mencionó anteriormente, puede visualizar un modelo Keras en El siguiente código Jupyter muestra cómo hacerlo utilizando el modelo de prueba de la sección introductoria: TensorBoard # Cell 1: Imports
import tensorflow as tf
from tensorflow.keras.models import Model, load_model
from tensorflow.keras.layers import (
   Input, Conv1D, BatchNormalization, Activation, add, MaxPooling1D, Dropout,
   Bidirectional, LSTM, GlobalAveragePooling1D, Dense, Multiply, Reshape,
   Lambda, Concatenate, GRU, GaussianNoise
)
from tensorflow.keras.regularizers import l2
from tensorflow.keras import backend as K

# Cell 2: Set logs directory
LOG_DIR = "logs"

# Cell 3: Utility function to build model
# [`build-model` function for test model from introductory section here...]

# Cell 4: Build the model
model = build_model(398, 12, 335, 18)

# Cell 5: Compile the model
model.compile(optimizer="adam", loss="categorical_crossentropy", metrics=["accuracy"])

# Cell 6: Create a TensorBoard callback
tensorboard_callback = tf.keras.callbacks.TensorBoard(
   log_dir=LOG_DIR,
   histogram_freq=1,
   write_graph=True,
   profile_batch=0 # Disable profiling
)

# Cell 7: Create dummy `x` and `y` training inputs that match model input and output shapes
dummy_x_input = tf.random.normal((1, 398, 347)) # Batch size 1, input shape (398,347)
dummy_y_input = tf.random.normal((1, 18)) # Batch size 1, input shape (18, )

# Cell 8: "Train" the model for zero epochs to create a conceptual graph of the model
model.fit(dummy_x_input, dummy_y_input, epochs=0, batch_size=1, callbacks=[tensorboard_callback])

# Cell 9: Load the TensorBoard notebook extension
%load_ext tensorboard

# Cell 10: Launch TensorBoard
%tensorboard --logdir $LOG_DIR --host localhost
 Si ejecuta el código Jupyter del notebook de arriba, la última celda debe Una vez completada la ejecución de la celda, puede navegar a Para ver el El Dashboard. Launching TensorBoard http://localhost:6006 TensorBoard 
 
 Puede modificar el puerto TensorBoard pasando la opción --port al comando mágico %tensorboard, por ejemplo, %tensorboard --logdir $LOG_DIR --host localhost --port 8088. Puede modificar el puerto TensorBoard pasando el Opción para el Comando mágico, por ejemplo. . --port %tensorboard %tensorboard --logdir $LOG_DIR --host localhost --port 8088 
 
 Consejo: Estoy ejecutando en Windows 10 donde he notado algún comportamiento curioso con respecto a TensorBoard. Para que TensorBoard se inicie correctamente cada vez que ejecute un notebook Jupyter, primero debo eliminar todos los archivos temporales en el directorio C:\Users\[MY_WINDOWS_USERNAME]\AppData\Local\Temp\.tensorboard-info. Estoy ejecutando en Windows 10 donde he notado algún comportamiento curioso con respecto a TensorBoard. Para hacer que TensorBoard se inicie correctamente cada vez que ejecute un notebook Jupyter, tengo que borrar primero todos los archivos temporales en el El Directorio. Tip: C:\Users\[MY_WINDOWS_USERNAME]\AppData\Local\Temp\.tensorboard-info 3.3 Visualizar su modelo Keras con TensorBoard TensorBoard debe abrirse automáticamente a la dashboard. Si no lo hace, puede hacer clic en el opción de menú o puede seleccionar desde el menú desplegable. Graphs Graphs Graphs Desde la Vista, Selección para ver la estructura de su modelo. Inicialmente debe ver un nodo único que represente el modelo entero. Haga doble clic en el nodo para ver la estructura del subgrafo. Graphs Conceptual graph Puede hacer doble clic en los nodos individuales dentro de la estructura del sub-grafo para ver sus propiedades. TensorBoard también le permite exportar el gráfico del modelo en El formato. .png Conclusión Cada método de visualización discutido anteriormente tiene sus pros y contras. Netron es extremadamente fácil de usar con modelos entrenados mientras Como se puede ver, TensorBoard también se puede usar con modelos no entrenados, pero requiere un poco más de trabajo para configurar correctamente. visualkeras

This story contains new, firsthand information uncovered by the writer.

The code in this story is for educational purposes. The readers are solely responsible for whatever they build with it.

Walkthroughs, tutorials, guides, and tips. This story will teach you how to do something new or how to do something better.

Read My Stories

Este audio es producido en el idioma original de la historia!

3 maneras de visualizar fácilmente los modelos de aprendizaje automático de Keras

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Cómo mejorar su flujo de trabajo 10 veces: 17 aplicaciones esenciales

Las capas invisibles: por qué las entrevistas con los usuarios son un activo irremplazable

Una guía del arquitecto para crear una arquitectura de referencia para un lago de datos de IA/ML

Una breve introducción a la teoría del cerebro de Boltzmann

Cómo mejorar su flujo de trabajo 10 veces: 17 aplicaciones esenciales

Las capas invisibles: por qué las entrevistas con los usuarios son un activo irremplazable

Una guía del arquitecto para crear una arquitectura de referencia para un lago de datos de IA/ML

Una breve introducción a la teoría del cerebro de Boltzmann

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps