1,5.6 數(shù)據(jù)擬合與最小二乘法,實例：考察某種纖維的強度與其拉伸倍數(shù)的關(guān)系,下表 是實際測定的24個纖維樣品的強度與相應(yīng)的拉伸倍數(shù) 是記錄:,2,纖維強度隨拉伸 倍數(shù)增加而增加,,并且24個點大致分 布在一條直線附近,,---------(1),3,必須找到一種度量標準來衡量什么曲線最接近所有數(shù)據(jù)點,一、最小二乘法,考慮一般的線性超定方程：,寫成矩陣形式：,---------(2),4,其中，,---------(3),記,--(4),并稱向量 為超定方程組(2)的余向量,定義：稱n維向量 為線性超定方程組(2) 的最小二乘解，如果它使,達到最小值.,--(5),5,要使(5)達到最小值，即求F的最小值，因此有：,即：,6,上式寫成矩陣形式為：,---------(6),將n元線性方程組(6)稱為超定方程組(2)的正規(guī)方程組 或法方程組，其解稱為超定方程組(2)的最小二乘解,定理：如果線性超定方程組(2)的系數(shù)矩陣A的列向量組 線性無關(guān)，則其正規(guī)方程組(6)存在唯一的解向量 , 而且 是式(2)的最小二乘解，即對任意的n維向量 ， 當 時有,7,證：,因為A的列向量線性無關(guān)，所以由線性代數(shù)的知識 可以知道 是對稱正定矩陣，因此方程組(6)存在 唯一的解向量 . 設(shè) 記,8,9,二、數(shù)據(jù)擬和,已知n組實驗數(shù)據(jù),求表達式 ，使它盡可能地反映已知數(shù)據(jù)的變化 趨勢，也就是說要求誤差向量,按某種范數(shù)達到最小，這個問題稱為數(shù)據(jù)擬和(或曲線 擬和)問題，稱 為擬和曲線或經(jīng)驗公式,如果擬和曲線是次數(shù)低于n-1的代數(shù)多項式，則稱其為 多項式擬和,以下討論多項式擬和的最小二乘法,--(7),10,-(8),將 分別代入多項式(7)的兩端，得 一個含有m+1個未知數(shù)的線性超定方程組：,11,寫成矩陣形式為：,其中，,----(9),12,的解,其中,13,例1. 回到本節(jié)開始的實例，從散點圖可以看出,纖維強度和拉伸倍數(shù)之間近似與線性關(guān)系,故可選取線性函數(shù),為擬合函數(shù)， 的正規(guī)方程組,14,法方程組為,解得,15,擬合曲線與散點 的關(guān)系如右圖:,