python繪制lost損失曲線加方差范圍的操作方法

Posted on by

1. 導入必要的包

我使用瞭seaborn，通過sns.set_style可以讓繪制出來的圖更漂亮，而且可以切換不同的類型

import re
import seaborn as sns
import matplotlib.pyplot as plt
import matplotlib.cm as cm
import shutil
import os
sns.set_style('whitegrid')

2. 數據的獲取（可跳過此步）

       我用的數據是通過深度強化得到的回報曲線。數據結構如下所示，我所需要的是從train開始的部分，分別對應總的回報，平均回報和回報的方差。我采用瞭re.findall的正則表達式去提取我所需要的數據，具體的操作方式可以查看源碼。

10-15 22:23:15 DATA/traffic DEBUG     train 0 totalreward : -99477.0 ReturnAvg : -102.55360824742269 ReturnStd : 34.34301970480272
10-15 22:23:29 DATA/traffic DEBUG     train 1 totalreward : -83131.0 ReturnAvg : -85.70206185567011 ReturnStd : 53.442993000985545

file_path = 'log.txt'
content = []
with open(file_path, 'r') as f:
    for line in f.readlines():
        line = line.strip('\n')
        content.append(line)
iter = []
totalreward = []
returnavg = []
returnstd = []
for line in content:
    str1 = re.findall('train.+', line)
    v = [float(x) for x in re.findall('-?\d+.?\d+|\d+', str1[0])]
    iter.append(v[0])
    totalreward.append(v[1])
    returnavg.append(v[2])
    returnstd.append(v[3])

3. 回報繪制

      直接將圖像保存到Plot的文件夾，這裡保存不瞭jpg格式，一直保存，最後將其保存為png格式成功。設置分辨率為1000，其實差不多，隻是線更清楚瞭。

color = cm.viridis(0.5)
f, ax = plt.subplots(1,1)
ax.plot(iter, totalreward, color=color)
ax.legend()
ax.set_xlabel('Iteration')
ax.set_ylabel('Return')
exp_dir = 'Plot/'
if not os.path.exists(exp_dir):
    os.makedirs(exp_dir, exist_ok=True)
else:
    os.makedirs(exp_dir, exist_ok=True)
f.savefig(os.path.join('Plot', 'reward' + '.png'), dpi=1000)

       曲線如下圖，可通過plt.show()顯示出來，或者直接在console輸入f並回車

4.含有方差的平均回報繪制

    在強化學習的論文中，我們經常看到一條收斂線，周圍還有淺淺的范圍線，那些范圍線就是方差。繪制代碼如下，主要包含瞭fill_between.

color = cm.viridis(0.7)
f, ax = plt.subplots(1,1)
ax.plot(iter, returnavg, color=color)
r1 = list(map(lambda x: x[0]-x[1], zip(returnavg, returnstd)))
r2 = list(map(lambda x: x[0]+x[1], zip(returnavg, returnstd)))
ax.fill_between(iter, r1, r2, color=color, alpha=0.2)
ax.legend()
ax.set_xlabel('Iteration')
ax.set_ylabel('Return')
exp_dir = 'Plot/'
if not os.path.exists(exp_dir):
    os.makedirs(exp_dir, exist_ok=True)
f.savefig(os.path.join('Plot', 'avgreward' + '.png'), dpi=50)

結果如下

可以看到深綠色上下包裹著淺綠色的線，這就是fill_between的作用，其中可以調節alpha來改變顏色深度。

到此這篇關於python繪制lost損失曲線加方差范圍的文章就介紹到這瞭,更多相關python損失曲線 內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet！

推薦閱讀：