pytorch常用數據類型所占字節數對照表一覽
PyTorch上的常用數據類型如下
Data type | dtype | CPU tensor | GPU tensor | Size/bytes |
---|---|---|---|---|
32-bit floating | torch.float32 or torch.float | torch.FloatTensor | torch.cuda.FloatTensor | 4 |
64-bit floating | torch.float64 or torch.double | torch.DoubleTensor | torch.cuda.DoubleTensor | 8 |
16-bit floating | torch.float16or torch.half | torch.HalfTensor | torch.cuda.HalfTensor | – |
8-bit integer (unsigned) | torch.uint8 | torch.ByteTensor | torch.cuda.ByteTensor | 1 |
8-bit integer (signed) | torch.int8 | torch.CharTensor | torch.cuda.CharTensor | – |
16-bit integer (signed) | torch.int16or torch.short | torch.ShortTensor | torch.cuda.ShortTensor | 2 |
32-bit integer (signed) | torch.int32 or torch.int | torch.IntTensor | torch.cuda.IntTensor | 4 |
64-bit integer (signed) | torch.int64 or torch.long | torch.LongTensor | torch.cuda.LongTensor | 8 |
以上PyTorch中的數據類型和numpy中的相對應,占用字節大小也是一樣的
補充:pytorch tensor比較大小 數據類型要註意
如下
a = torch.tensor([[0, 0], [0, 0]]) print(a>=0.5)
輸出
tensor([[1, 1],
[1, 1]], dtype=torch.uint8)
結果明顯不對, 分析原因是因為, a是long類型, 而0.5是float. 0.5會被轉化為 long, 變為0. 因此結果會出錯, 做出如下修改就可以得到正確答案
正確用法:
a = torch.tensor([[0, 0], [0, 0]]).float() print(a>=0.5)
以上為個人經驗,希望能給大傢一個參考,也希望大傢多多支持WalkonNet。
推薦閱讀:
- Pytorch 實現變量類型轉換
- Pytorch數據類型與轉換(torch.tensor,torch.FloatTensor)
- PyTorch中Tensor和tensor的區別及說明
- pytorch教程之Tensor的值及操作使用學習
- pytorch算子torch.arange在CPU GPU NPU中支持數據類型格式