使用图像解释矩阵特征向量与特征值

特征值矩阵与特征向量矩阵

矩阵$A$的维度为n×n，则矩阵$A$与特征向量$v$特征值$\lambda$之间的关系是:$$Av=\lambda v$$
通过计算，我们可以求取$A$的一系列特征向量组成的特征矩阵$V=[v_1,v_2,v_3,...,v_n]$和对应的一系列特征值组成的特征值矩阵$\Lambda =diag[{\lambda }_{11},{\lambda }_{22},...,{\lambda }_{nn}]$，则有一下关系：$$A=V\Lambda V^T$$

奇异值矩阵与奇异矩阵

矩阵$A$的维度为n×m，则此时的$A$无法求解特征值和特征向量，但是可以求广义上的特征值与特征向量，这就牵涉到奇异矩阵的分解。
奇异值分解步骤如下：

1. 求解$A{A}^T$的特征矩阵$U$，$dim(U)=n\times n$；
2. 求解$A^{T}A$的特征矩阵$V$，$dim(V)=m\times m$；
3. 求出$A{A}^T$的特征向量对应的特征值矩阵$\Lambda =diag[{\lambda }_{11},{\lambda }_{22},...,{\lambda }_{nn}]$
4. 奇异值矩阵为$\Sigma =diag[{\sigma }_{11},{\sigma }_{12},...,{\sigma }_{nn}]$，${\sigma }_{ii}$与${\lambda }_{ii}$对应的关系为：${\sigma }_{ii}=\sqrt{{\lambda }_{ii}}$。$dim(\Sigma )=n\times m$；

矩阵$A$与奇异矩阵$U$、$V$，奇异值矩阵$\Sigma$之间的关系为：$$A=U\Sigma V^T$$
由上式得$A^T=V\Sigma U^T$，则$A{A}^T=U\Sigma V^{T}V\Sigma U^T=U{\Sigma }^2{U}^T=U\Lambda U^T$，即${\Sigma }^2=\Lambda$，这也是步骤4的来源。

使用图像解释特征向量与特征值

我们取灰度图$I$，$dim(I)=n\times m$，我们把$I$当作矩阵$A$。
思路如下：

1. 求解$A$的奇异矩阵$U$、$V$，奇异值矩阵$\Sigma$；
2. 选取最大的k个奇异值${\sigma }_i$，以及对应的奇异向量$u_i,v_i$；
3. 使用挑选出来的值组成新的奇异矩阵$U_{n\times k}$、$V_{m\times k}$，奇异值矩阵${\Sigma }_{k\times k}$；
4. 得到$A_{n\times m}=U_{n\times k}{\Sigma }_{k\times k}{V}_{m\times k}$

过程用python实现，代码如下：

image1 = Image.open(filepath)
image1 = image1.convert('L')
image1.show()
A = np.asarray(image1)

U,Sigma,V = np.linalg.svd(A)
k = 10
indexS = np.argsort(-Sigma)
K_index = indexS[:k]
U = U[:, K_index]
S = [[0.0 for i in range(k)] for i in range(k)]
Sigma = Sigma[K_index]
for i in range(k):
    S[i][i] = Sigma[i]
V = V[K_index,:]
X = np.matmul(U,S)
A = np.matmul(X,V)
A = Image.fromarray(A)
A.show()

原图：

特征图，仅使用前10个最大的特征值对应的特征矩阵：

特征图，排除前10个最大的特征值对应的特征矩阵：

你是不是一眼就看懂了特征向量的作用！！！
没有的话，但愿下面的解释可以帮助你：
矩阵较大的特征值及其对应的特征向量存储了矩阵关键整体的信息，较小的特征值及其对应的特征向量存储了矩阵细节信息。