如何推导线性回归方程公式?

如何推导线性回归方程公式?

设 、其中 ,则我们希望残差平方的均值达到最小值:

现在对两个变量求偏导数,得:

很明显R没有最大值且≥0,所以当两个偏导数=0时我们就能得到R(a,b)的最小值点,所以:

现在利用统计学知识,我们知道 ,所以我们就得到了a和b最终的表达式:

将上述两个表达式回代到R(a,b)中,我们就能得到线性回归均方差的最小值: