一、范数、条件数与谱半径
1. 范数
1.1 向量范数
向量范数的具体形式可以有很多种(满足上述三个条件的),但常用的有以下三种
设 向 量 x = ( ξ 1 , ξ 2 , … , ξ n ) T ∈ C n , 设向量 x=\left(\xi_{1}, \xi_{2}, \dots, \xi_{n}\right)^{T} \in C^{n} ,设向量x=(ξ1,ξ2,…,ξn)T∈Cn,
( 1 ) ∥ x ∥ 1 = ∑ i = 1 n ∣ ξ i ∣ (1)\quad\|x\|_{1}=\sum_{i=1}^{n}| \xi_{i} |(1)∥x∥1=∑i=1n∣ξi∣ 1范数
( 2 ) ∥ x ∥ 2 = ( ∑ i = 1 n ∣ ξ i ∣ 2 ) 1 2 (2)\quad\|x\|_{2}=\left(\left.\sum_{i=1}^{n} |\xi_{i}\right|^{2}\right)^{\frac{1}{2}}(2)∥x∥2=(∑i=1n∣ξi∣2)21 2范数
( 3 ) ∥ x ∥ ∞ = max 1 ≤ i ≤ n ∣ ξ i ∣ (3)\|\boldsymbol{x}\|_{\infty}=\max _{1 \leq i \leq n}\left|\boldsymbol{\xi}_{i}\right|(3)∥x∥∞=max1≤i≤n∣ξi∣ ∞ \infty∞范数
上述三种范数可统一地表示为 p 范数, 即 ∥ x ∥ p = ( ∑ i = 1 n ∣ x i ∣ p ) 1 p \quad\|x\|_{p}=\left(\sum_{i=1}^{n}\left|\boldsymbol{x}_{i}\right|^{p}\right)^{\frac{1}{p}}∥x∥p=(∑i=1n∣xi∣p)p1
其 中 p = 1 , 2 时 很 清 楚 , 而 ∥ x ∣ ∞ = lim p → + ∞ ∥ x ∥ p 其中p=1,2 时很清楚, 而 \left\|\left.x\right|_{\infty}=\lim _{p \rightarrow+\infty}\right\| x \|_{p}其中p=1,2时很清楚,而∥x∣∞=limp→+∞∥x∥p
1.2 矩阵范数
算子范数
–由向量范数诱导的矩阵范数
设∥ ⋅ ∥ \quad\|·\|∥⋅∥ 是Cn上的向量范数, 定义 Cnxn 上的函数为矩阵A的m范数
∥ A ∥ m \quad\|A\|_{m}∥A∥m=max ∣ x ∣ = 1 ∥ A x ∥ , A ∈ C n × n \max _{|x|=1}\| A x \|, A \in C^{n \times n}max∣x∣=1∥Ax∥,A∈Cn×n
其中由向量1,2,∞ \infty∞范数诱导的矩阵范数∥ A ∥ 1 , ∥ A ∥ 2 , ∥ A ∥ ∞ \quad\|A\|_{1},\quad\|A\|_{2},\quad\|A\|_{\infty}∥A∥1,∥A∥2,∥A∥∞
( 1 ) ∥ A ∥ 1 = max ∣ ∥ x ∥ 1 = 1 ∥ A x ∥ 1 = max 1 ≤ j ≤ n ∑ i = 1 n ∣ a i j ∣ , (1) \|A\|_{1}=\max _{\mid\|x\|_{1}=1}\quad\|Ax\|_{1}=\max _{1 \leq j \leq n} \sum_{i=1}^{n}\left|a_{i j}\right| ,(1)∥A∥1=max∣∥x∥1=1∥Ax∥1=max1≤j≤n∑i=1n∣aij∣, L1诱导范数,极大列和
( 2 ) ∥ A ∥ ∞ = max ∣ x ∣ ∞ = 1 ∥ A x ∥ ∞ = max 1 ≤ i ≤ n ∑ j = 1 n ∣ a i j ∣ , (2) \|A\|_{\infty} =\max _{|x|_{\infty}=1}\quad\|Ax\|_{\infty}=\max _{1 \leq i \leq n} \sum_{j=1}^{n} \left|a_{i j}\right|,(2)∥A∥∞=max∣x∣∞=1∥Ax∥∞=max1≤i≤n∑j=1n∣aij∣,L无穷诱导范数,极大行和
( 3 ) ∥ A ∥ 2 = max ∣ x ∣ 2 = 1 ∥ A x ∥ 2 = λ max , λ max 是 A H A (3) \|A\|_{2}=\max _{|x|_{2}=1}\quad\|Ax\|_{2}=\sqrt{\lambda_{\max }}, \lambda_{\max } 是 A^{H} A(3)∥A∥2=max∣x∣2=1∥Ax∥2=λmax,λmax是AHA 的最大特征值 L2诱导范数,谱半径
矩阵范数
( 1 ) ∥ A ∥ m 1 = ∑ i = 1 n ∑ j = 1 n ∣ a i j ∣ (1) \|A\|_{m_{1}}=\sum_{i=1}^{n} \sum_{j=1}^{n}|a_{ij}|(1)∥A∥m1=∑i=1n∑j=1n∣aij∣ , m1 范数
( 2 ) ∥ A ∥ m ∞ = n max 1 ≤ i , j ≤ n a i j ∣ (2) \|\boldsymbol{A}\|_{m_{\infty}}=n \max _{1 \leq i, j \leq n} a_{i j} \mid \quad(2)∥A∥m∞=nmax1≤i,j≤naij∣, m无穷范数
( 3 ) ∥ A ∥ F = ∑ i = 1 n ∑ j = 1 n ∣ a i j ∣ 2 = tr ( A H A ) = tr ( A A H ) (3) \|A\|_{F}=\sqrt{\sum_{i=1}^{n} \sum_{j=1}^{n}\left|a_{i j}\right|^{2}}=\sqrt{\operatorname{tr}\left(A^{H} A\right)}=\sqrt{\operatorname{tr}\left(A A^{H}\right)}(3)∥A∥F=∑i=1n∑j=1n∣aij∣2=tr(AHA)=tr(AAH), F范数
例题
2. 谱半径ρ(A) 是矩阵A特征值模的最大值
- 谱半径小于1,矩阵序列{Ak}收敛;
- 谱半径是矩阵范数的下界 ,即 ||A||>= max(λi) = ρ(A)
3. 矩阵条件数
- 判断矩阵病态与否的一种度量,条件数越大矩阵越病态。对应矩阵的3种范数,相应地可以定义3种条件数: 函数 c o n d 1 ( A ) 、 c o n d ( 2 ( A ) 以 及 c o n d ∞ ( A ) cond_{1}(A)、cond(_{2}(A)以及cond_{∞}(A)cond1(A)、cond(2(A)以及cond∞(A)
- 病态:对于线性方程组Ax=b,如果A的条件数大,b的微小改变就能引起解x较大的改变,数值稳定性差。如果A的条件数小,b有微小的改变,x的改变也很微小,数值稳定性好
- cond(A) = ||A|| * ||A^-1||
定理:扰动误差,给矩阵A以扰动δA;其中x是Ax= b的唯一解,x̅是(A+δA)x = b的唯一解,有如下不等式`