Python數據擬合實現最小二乘法示例解析

Posted on by

所謂最小二乘法，即通過對數據進行擬合，使得擬合值與樣本值的方差最小。

線性擬合

在這裡插入圖片描述

在這裡插入圖片描述

這個表達式還是非常簡單的。

對於有些情況，我們往往選取自然序列作為自變量，這個時候在求自變量的取值時可以用到一些初等數學的推論，對於 x ∈ [ m , n ] 的自然序列來說，有

在這裡插入圖片描述

#文件名core.py
import numpy as np
def leastSquare(x,y):
    if len(x)==2:
    #此時x為自然序列
        sx = 0.5*(x[1]-x[0]+1)*(x[1]+x[0])
        ex = sx/(x[1]-x[0]+1)
        sx2 = ((x[1]*(x[1]+1)*(2*x[1]+1))
              -(x[0]*(x[0]-1)*(2*x[0]-1)))/6
        x = np.array(range(x[0],x[1]+1))
    else:
        sx = sum(x)
        ex = sx/len(x)
        sx2 = sum(x**2)    
    sxy = sum(x*y)
    ey = np.mean(y)
    a = (sxy-ey*sx)/(sx2-ex*sx)
    b = (ey*sx2-sxy*ex)/(sx2-ex*sx)
    return a,b

測試一下

>>> x = np.arange(25)
>>> y = x*15+20+np.random.randn(len(x))*5	#randn生成正態分佈噪聲
>>> a,b = core.leastSquare(x,y)				
>>> plt.scatter(x,y)						#原始數據散點圖
<matplotlib.collections.PathCollection object at 0x00000218DEBBEDC8>
>>> plt.plot(x,a*x+b)						#擬合直線
[<matplotlib.lines.Line2D object at 0x00000218E0314FC8>]
>>> plt.show()

得到

在這裡插入圖片描述

高階多項式

在這裡插入圖片描述

和前面一樣，約定

在這裡插入圖片描述

代碼如下

#傳入參數格式為np.array,n為階數
def leastSquareMulti(x,y,n):
    X = [np.sum(x**i) for i in range(2*n+1)]
    Y = np.array([[np.sum(y*x**i)] for i in range(n+1)])
    S = np.array([X[i:i+n+1] for i in range(n+1)])
    return np.linalg.solve(S,Y)		#

經測試結果如下：

>>> x = np.arange(25)
>>> y = x**3+3*x**2+2*x+12
>>> import core
>>> core.leastSquareMulti(x,y,3)
array([[12.],		#此為常數項
       [ 2.],
       [ 3.],
       [ 1.]])

多自變量

對於樣本

在這裡插入圖片描述

則相應地其誤差方程組可表示為

在這裡插入圖片描述

指數函數

在這裡插入圖片描述

則其代碼為

def expFit(x,y):
    y0 = y[0:-3]
    y1 = y[1:-2]
    y2 = y[2:-1]
    B,C = leastSquare(y2/y0,y1/y0)
    b1 = np.log((B-np.sqrt(B**2+4*C))/2)
    b2 = np.log((B+np.sqrt(B**2+4*C))/2)
    X = np.exp(b1-b2)*x
    Y = y/np.exp(b2*x)
    a1,a2 = leastSquare(X,Y)
    return a1,a2,b1,b2

以上就是Python數據擬合實現最小二乘法示例解析的詳細內容，更多關於Python實現最小二乘法的資料請關註WalkonNet其它相關文章！

推薦閱讀：