协方差矩阵

首先先了解方差与协方差：

协方差：
（1）针对一维样本集合时(y_i=x_i)，求出的协方差其实就是方差，既方差是协方差的一种特殊情况。协方差意义和方差一样，都是反应集合中各元素离散程度。
（2）针对二维样本集合时，求出的协方差反映的就是两个维度之间的相关性(正相关、负相关或无关)
（3）针对三维样本集合时，求出的结果是各个维度总体相关性，针对各个维度之间的关系，所以二维以上计算协方差，用的就是协方差矩阵

求协方差矩阵例子：
学生各科成绩之间的影响关系，比如：是否数学好，英语就不太好

学生各科成绩如下图：

接下来计算(学生成绩-平均值)得到差值，后用于协方差的计算:

这里的差值就是x_i-u_x或y_i-u_y

求出来的矩阵应该是：

cov11 = [24* 24+24* 24+(-6)* (-6)+(-6)* (-6) +36* 36]/5 = 504
(第一列与第一列)

cov23 = 0* 30 +30*(-30) + 0* 0 +0* 30 +(-30)*(-30) = 0
(第二列与第三列)

其他同理，最终得到：

为什么除于5而不是4？
因为这是针对整体进行计算的，不是针对样本总体，如果是样本总体要进行无偏估计就是n-1，因为有1个自由度