矩阵的特征值与特征向量

1. 设矩阵$A$是$n$阶方阵，如果存在数$\lambda$和非零向量$x$，使得 $$Ax=\lambda x ，\tag{1}$$ 则称$\lambda$为矩阵$A$的特征值，称$x$为矩阵$A$对应特征值$\lambda$的一个特征向量.式（1）可写成 $$（A-\lambda E）x=0，\tag{2}$$ 上式说明齐次线性方程组（2）有非零解$x$，由齐次线性方程组有非零解的充分必要条件，得$|A-\lambda E|=0$，即 $$|A-\lambda E|=\left| \begin{matrix} a_{11}-\lambda & a_{12} & ... & a_{1n} \\ a_{21} & a{22}-\lambda & ... & a_{2n}\\ ... &...&&...\\ a_{n1} & a_{n2} & ... & a_{nn}-\lambda \end{matrix} \right| = 0 .\tag{3}$$ 记$f(\lambda)=|A-\lambda E|，f(\lambda)$是关于$\lambda$的一个$n$次多项式，称$f(\lambda)$为矩阵$A$的特征多项式.特征多项式$f(\lambda)$的根就是矩阵$A$的特征值.
   在复数范围内，$n$次多项式有$n$个根（重根按重数计算）.设$\lambda_1,\lambda_2,...,\lambda_n$是$n$阶方阵$A$的$n$个特征值（重根按重数计算），利用根与系数之间的关系，有
   
   1. $\lambda_1+\lambda_2+...+\lambda_n=a_{11}+a_{22}+...+a{nn}$；
   2. $\lambda_1 \cdot \lambda_2 \cdot ... \cdot \lambda_n=|A|$
      设$\lambda_0$是$n$阶方阵$A$的一个特征值，则$|A-\lambda_0E|=0$，从而齐次线性方程组$(A-\lambda_0E)x=0$有非零解，其非零解就是矩阵$A$对应特征值$\lambda_0$的特征向量，所有非零解即为矩阵$A$对应于特征值$\lambda_0$的全部特征向量
   • $n$阶矩阵$A$与它的转置矩阵$A^T$具有相同的特征多项式，从而具有相同的特征值.事实上， $$|A^T-\lambda E|=|(A-\lambda E)^T|=|A-\lambda E|.$$
   • 设$\lambda$是$n$阶矩阵$A$的特征值，则
     
     1. $\lambda^2$是$A^2$的特征值；
     2. 当$A$可逆时，$\frac{1}{\lambda}$是$A^{-1}$的特征值
   • 设$\lambda_1,\lambda_2,...,\lambda_m$是$n$阶矩阵$A$的$m$个互不相等的特征值，其对应的特征向量分别为$p_1,p_2,...,p_m$，则$p_1,p_2,...,p_m$线性无关

   • 相似矩阵

     1. 设矩阵$A,B$都是$n$阶方阵，如果存在可逆矩阵$P$，使$P^{-1}AP=B$，则称矩阵$A，B$相似.称变换$P^{-1}AP$为相似变换
     2. 相似矩阵具有相同的特征多项式，从而具有相同的特征值
     3. 如果矩阵$A$与对角矩阵 $$\Lambda=\left( \begin{matrix} \lambda_1 \\ &\lambda_2\\&&...\\&&&\lambda_n \end{matrix} \right)$$ 相似，则$\lambda_1,\lambda_2...,\lambda_n$就是矩阵$A$的特征值
     4. 如果$n$阶矩阵$A$与对角矩阵$\Lambda$相似，则称矩阵$A$可相似对角化（简称为可对角化）
     5. $n$阶矩阵$A$与对角矩阵$\Lambda=\left( \begin{matrix} \lambda_1 \\ &\lambda_2\\&&...\\&&&\lambda_n \end{matrix} \right)$相似的充分必要条件是矩阵$A$有$n$个线性无关的特征向量
     6. $n$阶矩阵$A$与对角矩阵$\Lambda$相似的充分必要条件是矩阵$A$的特征值的重数等于其对应的线性无关的特征向量的个数

     实对称矩阵的对角化

     向量的内积

     1. 设有$n$维向量 $$x=\left( \begin{matrix} x_1 \\ x_2 \\.\\.\\.\\x_n \end{matrix} \right)，y=\left( \begin{matrix} y_1 \\ y_2 \\.\\.\\.\\y_n \end{matrix} \right)，$$ 称$x_1y_1+x_2y_2+...+x_ny_n$为向量$x$与$y$的内积，记为$[x,y]$，即 $$[x,y]=x^Ty=x_1y_1+x_2y_2+...+x_ny_n$$
     2. 内积是两个向量之间的一种运算，其结果是一个实数.内积满足以下性质：
        
        1. $[x,y]=[y,x]；$
        2. $[\lambda x,y]=\lambda[x,y]；$
        3. $[x+y,z]=[x,z]+[y,z]；$
        4. $[x,x]\ge 0$，当且仅当$x=0$时，$[x,x]=0.$
           其中，$x,y,z$都为$n$维向量，$\lambda \in R.$
     3. 设$x=\left( \begin{matrix} x_1\\x_2\\.\\.\\.\\x_n \end{matrix} \right) \in R^n$，称$\sqrt{[x,x]}=\sqrt{x_1^2+x_2^2+...+x_n^2}$为向量$x$的长度（或范数），记为$||x||$，即$||x||=\sqrt{[x,x]}=\sqrt{x_1^2+x_2^2+...+x_n^2}$
     4. 向量的范数具有以下性质：
        
        1. 非负性：$||x||\ge 0$，当且仅当$x=0$时，$||x||=0$；
        2. 齐次性：$||\lambda x||=|\lambda|\cdot||x||$；
        3. 三角不等式：$||x+y||\le ||x||+||y||$；
        4. 对任意$n$维向量$x,y$，有$|[x,y]|\le ||x||\cdot ||y||$.
     5. 若令$x=\left( \begin{matrix} x_1 \\ x_2 \\.\\.\\.\\x_n \end{matrix} \right)，y=\left( \begin{matrix} y_1 \\ y_2 \\.\\.\\.\\y_n \end{matrix} \right)，$则上述性质（4）可表示为： $$|\sum_{i=1}|^{n}x_iy_i\le \sqrt{\sum_{i=1}^{n}x_i^2}\cdot \sqrt{\sum_{i=1}^{n}y_i^2}.$$ 上述不等式称为施瓦茨不等式
        当$||x||=1$时，称$x$为单位向量，
        当$x\not= 0,y\not= 0$时，由施瓦茨不等式，有 $$|\frac{[x,y]}{||x||\cdot||y||}|\le 1，$$ 称$\theta$为$n$维向量$x$与$y$的夹角
        当$[x,y]=0$时，称向量$x$与$y$正交.显然，若$x=0$，则$x$与任何向量都正交.
     6. 若$n$维向量$\alpha_1,\alpha_2,...,\alpha_r$是一组两两正交的非零向量，则$\alpha_1,\alpha_2,...,\alpha_r$线性无关
     7. • 设$n$维向量$e_1,e_2,...,e_r$是向量空间$V(V\subset R^n)$的一个基，如果$e_1,e_2,...,e_r$两两正交，且为单位向量，则称$e_1,e_2,...,e_r$为向量空间$V$的一个规范正交基（或标准正交基）
        • 设$\alpha_1,\alpha_2,...,\alpha_r$是向量空间$V$的一个基，为了得到与$\alpha_1,\alpha_2,...,\alpha_r$等价的一个规范正交基$e_1,e_2,...,e_r$.这一过程，称为把基 $$\alpha_1,\alpha_2,...,\alpha_r$$ 规范正交化，可按如下两个步骤进行：
          
          1. 正交化：令
             $\beta_1=\alpha_1$;
             $\beta_2=\alpha-\frac{[\beta_1,\alpha_2]}{[\beta_1,\beta_1]}\beta_1$；
             ……
             $\beta_r=\alpha_r-\frac{[\beta_1,\alpha_r]}{[\beta_1,\beta_1]}\beta_1-\frac{[\beta_2,\alpha_r]}{[\beta_2,\beta_2]}\beta_2-...--\frac{[\beta_{r-1},\alpha_r]}{[\beta_{r-1},\beta_{r-1}]}\beta_{r-1}.$容易验证$\beta_1,\beta_2,...,\beta_r$两两正交，且$\beta_1,\beta_2,...,\beta_r$与$\alpha_1,\alpha_2,...,\alpha_r$等价.上述过程也称为施密特正交化
          2. 单位化：令 $$e_1=\frac{1}{||\beta_1||}\beta_1，e_2=\frac{1}{||\beta_2||}\beta_2，...，e_r=\frac{1}{||\beta_r||}\beta_r，$$ 则$e_1,e_2,...,e_r$是向量空间$V$的一个规范正交基
        • 如果$n$阶矩阵$A$满足 $$A^TA=E，即A^{-1}=A^T，$$ 则称矩阵$A$为正交矩阵，简称正交阵
        • 正交矩阵具有以下性质：
          
          1. 如果矩阵$A$是正交矩阵，则$|A|=1$或$(-1)$；
          2. 如果矩阵$A，B$都是正交矩阵，则$AB$也是正交矩阵
        • $n$阶矩阵$A$为正交矩阵的充分必要条件是$A$的列向量组是两两正交的单位向量组.

     实对称矩阵的对角化

     1. 实对称矩阵的特征值一定是实数
     2. 设$\lambda_1，\lambda_2$是实对称矩阵$A$的两个不相等的特征值，其对应的特征向量分别为$p_1,p_2$，则$p_1$与$p_2$正交
     3. 设$A$为$n$阶实对称矩阵，$\lambda$是$A$的特征方程的$k$重根，则矩阵$A-\lambda E$的秩$R(A-\lambda E)=n-k$，从而对应特征值$\lambda$恰有$k$个线性无关的特征向量
     4. 设$A$为$n$阶实对称矩阵，则必有正交矩阵$P$，使$P^{-1}AP=P^TAP=\Lambda$.其中$\Lambda$是以$A$的$n$个特征值为对角元素的对角矩阵.
     5. 将一个$n$阶实对称矩阵$A$对角化的步骤为：
        
        1. 求出$A$的全部互不相等的特征值$\lambda_1,\lambda_2,...,\lambda_s$，它们的重数分别$k_1,k_2,...,k_s(k_1+k_2+...+k_s=n)$；
        2. 对每个$k_i$重特征值$\lambda_i$，由$(A-\lambda_iE)x=0$求出基础解系，得$k_i$个线性无关的特征向量，把它们正交化、单位化，便得$n$个两两正交的单位特征向量$p_1,p_2,...,p_n$；
        3. 令$P=(p_1,p_2,...,p_n)$，便有$P^{-1}AP=P^TAP=\Lambda$