Почему графики тензорной доски странно изогнуты?

#python #tensorflow #deep-learning #visualization #tensorboard

#python #тензорный поток #глубокое обучение #визуализация #тензорная доска

Вопрос:

Недавно я начал использовать tensorboard для мониторинга прогресса обучения моих моделей, но я заметил, что, когда скаляры лежат слишком далеко друг от друга, график становится странно изогнутым (вы можете видеть это на втором графике, внезапные скачки имеют тенденцию рисовать странные линии к оси Y и обратно). Я ожидаю именно того, что находится на первом графике, — однократная точность категоризации выглядит для меня совершенно нормально.

В любом случае, я могу справиться с этим, чтобы сделать график удобным для глаз?

Вывод тензорной платы

Вывод на второй график выполняется, как в каждом цикле обучения глубокому обучению :

 writer = SummaryWriter()
for epoch in range(1, epochs   1): 
    for step, (images, labels) in enumerate(train_dataloader):
         *do deep learning stuff* 
         if step % 50 and step != 0:
             writer.add_scalar("Plot_name", loss, step)
 

PS. Слишком далеко я имею в виду, что у нас есть последовательность (скалярная, ступенчатая), которая выглядит следующим образом : [1.2, 50], [1.1, 100], [1.05, 150], [0.8, 200].

Это своего рода большой скачок между последним и предпоследним скалярным

Комментарии:

1. Вы случайно не перезапускаете скрипт без очистки каталога журнала?

2. Нет, в настоящее время он тренируется уже два часа без перерыва, и выглядит это так: ibb.co/Jq6m66M

Ответ №1:

Спасибо всем за участие, я только что узнал, что я строил потери / эпохи проверки на том же графике «Однократных потерь», так что он отображал некоторые значения около 0 (например [1.01, 1], [0.95, 2], [0.8, 3]), и вот почему он рисовал такие странно изогнутые линии.

Теперь это выглядит так, как и ожидалось.

Фиксированная тензорная доска