Pytorch中TensorBoard及torchsummary的使用詳解

1.TensorBoard神經網絡可視化工具

TensorBoard是一個強大的可視化工具,在pytorch中有兩種調用方法:

1.from tensorboardX import SummaryWriter

這種方法是在官方還不支持tensorboard時網上有大神寫的

2.from torch.utils.tensorboard import SummaryWriter

這種方法是後來更新官方加入的

1.1 調用方法

1.1.1 創建接口SummaryWriter

功能:創建接口

調用方法:

writer = SummaryWriter("runs")

參數:

log_dir:event file輸出文件夾

comment:不指定log_dir時,文件夾後綴

filename_suffix:event file文件名後綴

1.1.2 記錄標量add_scalars()

功能:記錄標量add_scalars()

調用方法:

writer.add_scalars("name",{"dic":val},epoch)

參數:

tag:圖像的標簽名

scalar_step:要記錄的標量

global_step:輪次

1.1.3 統計直方圖add_histogram()

功能:統計直方圖與多分位數折線圖

調用方法:

writer.add_histogram("weight",self.fc.weight,epoch)

參數:

tag:圖像的標簽名

values:要畫直方圖的數據

global_step:輪次

bins:取值有 ‘tensorflow’、‘auto’、‘fd’ 等

1.1.4 批次顯示圖像add_image()

功能:批次顯示圖像

調用方法:

writer.add_image(“Cifar10”, img_batch, epoch,'CHW')

參數:

tag:圖像的標簽名

img_tensor:圖像數據,註意尺寸

global_step:輪次

dataformats:數據形式,CHW,HWC,HW

1.1.5 查看模型圖add_graph()

功能:查看模型圖

調用方法:

writer.add_graph(model=net,input_to_model=torch.randn(1,3, 224, 224).to(device))

參數:

model:模型,必須是nn.Module

input_to_model:輸出給模型的數據

verbose:是否打印計算圖結構信息

寫完記得要寫 writer.close()

2.查看網絡層形狀、參數torchsummary

功能:查看網絡層形狀、參數

調用方法:

from torchsummary import summary
summary(net, input_size=(3, 224, 224))

參數:

model:pytorch模型

input_size:模型輸入size

batch_size:batch size

device:“cuda” or “cpu”

3.啟動tensorboard

在文件路徑中cmd打開終端,輸入

tensorboard --logdir="./runs"

runs是我保存文件的文件名,打開以下鏈接

在這裡插入圖片描述

補充:pytorch調用tensorboard方法嘗試

tensorboard提供瞭用於監視訓練損失很好的接口,可以幫助我們更好的調整參數。下文介紹如何在pytorch中調用tensorboard。

首先

安裝tensorboard、tensorflow以及tensorboardX

第二

在文件開頭導入SummaryWriter

from tensorboardX import SummaryWriter

第三

同tensorflow的tensorboard一樣,tensorboardX提供多種記錄方式如scalar、image等。

writer = SummaryWriter('path')

如果不添加path,則默認以時間命名。

第四

添加監視變量

writer.add_scalar('Train/Acc', Acc, iter)

第五

打開tensorboard

tensorboard --logdir 'path'

第六

在瀏覽器打開6006端口

以上為個人經驗,希望能給大傢一個參考,也希望大傢多多支持WalkonNet。如有錯誤或未考慮完全的地方,望不吝賜教。

推薦閱讀: