对于一元线性回归模型
普通最小二乘法（OLS, ordinary least squares）给出其拟合标准，即应使被解释变量的估计值与实际观测值之差的平方和
最小。此时得到的
为求两估计量，使上式一阶偏导数为零：
在这里我们习惯用小写字母表示对均值的离差，也就是
关于线性回归方程，我们给出三个最小二乘假设（least squares assumptions）。
假设一：
假设二：
假设三：
这些假设的成立可用于说明 OLS 方法的有效性。
为导出一些有用的性质，在这里介绍同方差（homoskedastic）的概念：
对每一
当我们说同方差假设是指，认为误差项是同方差的。
高斯 - 马尔可夫（Gauss-Markov）条件为
由最小二乘假设一，易得条件一成立；
由同方差假设与最小二乘假设三，易得条件二成立；
由最小二乘假设二，得
再由假设一，有
故可知，当最小二乘三假设和同方差假设成立时，有高斯 - 马尔可夫条件成立。
高斯 - 马尔可夫定理（Gauss-Markov Theorem）指出，在高斯 - 马尔可夫条件成立时，OLS 估计量
证明如下：
线性
在这里是指
对于离差
所以有
其中
无偏性
是指估计量
其中易得
故有
这里已使用了高斯 - 马尔可夫条件一。类似地，就有
至此，无偏性得证。
有效性（最佳方差）
有效性，是指在所有的线性无偏估计量中，OLS 估计量具有最小方差。
首先计算方差
上式中
由高斯 - 马尔可夫条件三，
由高斯 - 马尔可夫条件一，
又由高斯 - 马尔可夫条件二，有
完全类似地，得到
考察另一对线性无偏估计量
其中不妨令
考察其方差
其中
其中
所以有
此式说明
又有
其中
故
此式说明
于是 OLS 估计量的有效性得证。
至此我们已在高斯 - 马尔可夫条件下导出 OLS 估计量的线性、无偏性、有效性，也就是高斯 - 马尔可夫定理（Gauss-Markov Theorem）得证：
在高斯 - 马尔可夫条件成立时，OLS 估计量
2019.3