解回歸方程的最小二乘法是如何計算的？

關(guān)于解回歸方程的最小二乘法是如何計算的？這個問題很多朋友還不知道，今天小六來為大家解答以上的問題，現(xiàn)在讓我們一起來看看吧！

1、計算方法：y = Ax + B:a = sigma[(yi-y均值)*(xi-x均值)] / sigma[(xi-x均值)的平方]；b = y均值 - a*x均值。

2、知識拓展最小二乘法求回歸直線方程的推導過程這里的是為了區(qū)分Y的實際值y（這里的實際值就是統(tǒng)計數(shù)據(jù)的真實值，我們稱之為觀察值），當x取值(i=1，2，3……n)時，Y的觀察值為，近似值為（或者說對應(yīng)的縱坐標是）。

3、其中式叫做Y對x的回歸直線方程，b叫做回歸系數(shù)。

4、要想確定回歸直線方程，我們只需確定a與回歸系數(shù)b即可。

5、設(shè)x，Y的一組觀察值為：i = 1，2，3……n其回歸直線方程為：當x取值(i=1，2，3……n)時，Y的觀察值為，差刻畫了實際觀察值與回歸直線上相應(yīng)點縱坐標之間的偏離程度，見下圖：實際上我們希望這n個離差構(gòu)成的總離差越小越好，只有如此才能使直線最貼近已知點。

6、換句話說，我們求回歸直線方程的過程其實就是求離差最小值的過程。

7、一個很自然的想法是把各個離差加起來作為總離差。

8、可是，由于離差有正有負，直接相加會互相抵消，如此就無法反映這些數(shù)據(jù)的貼近程度，即這個總離差不能用n個離差之和來表示，見下圖：一般做法是我們用離差的平方和，即：作為總離差 ，并使之達到最小。

9、這樣回歸直線就是所有直線中Q取最小值的那一條。

10、由于平方又叫二乘方，所以這種使“離差平方和為最小”的方法，叫做最小二乘法。

11、用最小二乘法求回歸直線方程中的a、b的公式如下：其中，、為和的均值，a、b的上方加“︿”表示是由觀察值按最小二乘法求得的估計值，a、b求出后，回歸直線方程也就建立起來了。

12、當然，我們肯定不能滿足于直接得到公式，我們只有理解這個公式怎么來的才能記住它，用好它，因此給出上面兩個公式的推導過程更加重要。

13、在給出上述公式的推導過程之前，我們先給出推導過程中用到的兩個關(guān)鍵變形公式的推導過程。

14、首先是第一個公式：接著是第二個公式：基本變形公式準備完畢，我們可以開始最小二乘法求回歸直線方程公式的推導了：至此，公式變形部分結(jié)束，從最終式子我們可以看到后兩項與a、b無關(guān)，屬于常數(shù)項，我們只需即可得到最小的Q值，因此：。

本文分享完畢，希望對大家有所幫助。

標簽：