Pytorch中TensorBoard及torchsummary的使用詳解
1.TensorBoard神經網絡可視化工具
TensorBoard是一個強大的可視化工具,在pytorch中有兩種調用方法:
1.from tensorboardX import SummaryWriter
這種方法是在官方還不支持tensorboard時網上有大神寫的
2.from torch.utils.tensorboard import SummaryWriter
這種方法是後來更新官方加入的
1.1 調用方法
1.1.1 創建接口SummaryWriter
功能:創建接口
調用方法:
writer = SummaryWriter("runs")
參數:
log_dir:event file輸出文件夾
comment:不指定log_dir時,文件夾後綴
filename_suffix:event file文件名後綴
1.1.2 記錄標量add_scalars()
功能:記錄標量add_scalars()
調用方法:
writer.add_scalars("name",{"dic":val},epoch)
參數:
tag:圖像的標簽名
scalar_step:要記錄的標量
global_step:輪次
1.1.3 統計直方圖add_histogram()
功能:統計直方圖與多分位數折線圖
調用方法:
writer.add_histogram("weight",self.fc.weight,epoch)
參數:
tag:圖像的標簽名
values:要畫直方圖的數據
global_step:輪次
bins:取值有 ‘tensorflow’、‘auto’、‘fd’ 等
1.1.4 批次顯示圖像add_image()
功能:批次顯示圖像
調用方法:
writer.add_image(“Cifar10”, img_batch, epoch,'CHW')
參數:
tag:圖像的標簽名
img_tensor:圖像數據,註意尺寸
global_step:輪次
dataformats:數據形式,CHW,HWC,HW
1.1.5 查看模型圖add_graph()
功能:查看模型圖
調用方法:
writer.add_graph(model=net,input_to_model=torch.randn(1,3, 224, 224).to(device))
參數:
model:模型,必須是nn.Module
input_to_model:輸出給模型的數據
verbose:是否打印計算圖結構信息
寫完記得要寫 writer.close()
2.查看網絡層形狀、參數torchsummary
功能:查看網絡層形狀、參數
調用方法:
from torchsummary import summary summary(net, input_size=(3, 224, 224))
參數:
model:pytorch模型
input_size:模型輸入size
batch_size:batch size
device:“cuda” or “cpu”
3.啟動tensorboard
在文件路徑中cmd打開終端,輸入
tensorboard --logdir="./runs"
runs是我保存文件的文件名,打開以下鏈接
補充:pytorch調用tensorboard方法嘗試
tensorboard提供瞭用於監視訓練損失很好的接口,可以幫助我們更好的調整參數。下文介紹如何在pytorch中調用tensorboard。
首先
安裝tensorboard、tensorflow以及tensorboardX
第二
在文件開頭導入SummaryWriter
from tensorboardX import SummaryWriter
第三
同tensorflow的tensorboard一樣,tensorboardX提供多種記錄方式如scalar、image等。
writer = SummaryWriter('path')
如果不添加path,則默認以時間命名。
第四
添加監視變量
writer.add_scalar('Train/Acc', Acc, iter)
第五
打開tensorboard
tensorboard --logdir 'path'
第六
在瀏覽器打開6006端口
以上為個人經驗,希望能給大傢一個參考,也希望大傢多多支持WalkonNet。如有錯誤或未考慮完全的地方,望不吝賜教。
推薦閱讀:
- 教你如何在Pytorch中使用TensorBoard
- Pytorch中使用TensorBoard詳情
- 在Pytorch中簡單使用tensorboard
- Pytorch用Tensorboard來觀察數據
- Pytorch可視化的幾種實現方法