Я столкнулся с очевидной циклической зависимостью, пытаясь использовать данные журнала для TensorBoard во время поиска гиперпараметров, выполненного с помощью Keras. Тюнер для модели, созданной с помощью TF2. Типичная настройка для последнего требует настройки обратного вызова Tensorboard в методе search() тюнера, который обертывает метод fit() модели.
from kerastuner.tuners import RandomSearch
tuner = RandomSearch(build_model, #this method builds the model
hyperparameters=hp, objective='val_accuracy')
tuner.search(x=train_x, y=train_y,
validation_data=(val_x, val_y),
callbacks=[tensorboard_cb]
На практике метод обратного вызова tensorboard_cb должен настроить каталог, в который будут записываться данные, и этот каталог должен быть уникальным для каждой пробной версии. Обычный способ сделать это, назвав каталог на основе текущей временной метки, с кодом, как показано ниже.
log_dir = time.strftime('trial_%Y_%m_%d-%H_%M_%S')
tensorboard_cb = TensorBoard(log_dir)
Это работает при обучении модели с известными гиперпараметрами. Однако при поиске по гиперпараметрам я должен определить и указать обратный вызов TensorBoard перед вызовом tuner.search(). Вот в чем проблема: tuner.search() будет вызывать build_model() несколько раз, и у каждого из этих испытаний должен быть свой собственный каталог TensorBoard. В идеале определение log_dir будет выполняться внутри build_model(), но API поиска Keras Tuner заставляет TensorBoard определяться вне этой функции.
TL;DR: TensorBoard получает данные через обратный вызов и требует один каталог журнала для каждой пробной версии, но Keras Tuner требует определения обратного вызова один раз для всего поиска, до его выполнения, а не на пробу. Как в этом случае можно определить уникальные каталоги для каждого испытания?
