线性空间:赋范线性空间

定义

VV是数域PP上的线性空间,如果定义了从VVRR的映射NN,满足下列条件

则称映射N(a)N(a)VV上的范数,定义了范数的线性空间称为赋范线性空间

向量范数

L0L_0 L1L_1 L2L_2 Lp,(p1)L_p, \,\,(p≥1) LL_∞
x0\|x\|_0 x1\|x\|_1 x2\|x\|_2x\vert{x}\vert xp\|x\|_p x\|x\|_∞
向量中非零元素的个数 i=1nxi\sum_{i=1}^{n} \vert{x_i}\vert i=1nxi2\sqrt{ \sum_{i=1}^{n} {x_i^2} } (i=1nxip)1p(\sum\limits_{i=1}^{n}{\vert{x_i}\vert}^p)^{\frac{1}{p}} max{x1,x2,.xn}\max\left\{\vert{x_1}\vert, \vert{x_2}\vert, \cdots. \vert{x_n}\vert\right\}
曼哈顿范数 欧式范数 切比雪夫范数
范数等价

a\|a\|a\|a\|_*是线性空间VV中的两个向量范数,若存在M>0,m>0M>0,m>0,使得对所有aVa∈V,都有

maaMam\|a\| ≤ \|a\|_* ≤ M\|a\|

则称范数a\|a\|a\|a\|_*等价。

有限维线性空间中任意两个向量范数都等价。

范数收敛

{a(k)}\{a^{(k)}\}是赋范线性空间VV中的向量序列,如果存在aVa∈V,使得limka(k)a=0\lim\limits_{k→∞} |a^{(k)}-a| = 0,则称序列{a(k)}\{a^{(k)}\}收敛于aa

方阵空间(Rn×nR^{n×n})上的范数

若映射N(A)N(A)满足赋范线性空间定义中的三条,则称映射N(A)N(A)Rn×nR^{n×n})上的广义矩阵范数

若再满足上述条件,则称映射N(A)N(A)Rn×nR^{n×n})上的矩阵范数

相容

Cn×nC^{n×n}中的矩阵范数A\|A\|CnC^n中的向量范数x\|x\|_*,如果对任意ACn×n,xCnA∈C^{n×n},x∈C^{n}都有

AxAx\|Ax\|_* ≤ \|A\| ⋅ \|x\|_*

则称矩阵范数A\|A\|_*与向量范数x\|x\|_*相容。

矩阵的FF-范数、22-范数均与x2\|x\|_2相容。

诱导范数(算子范数)

A=maxx0Axx\|A\| = \max_{x≠0} \dfrac{\|Ax\|_*}{\|x\|_*}

A1\|A\|_1 A2\|A\|_2 A\|A\|_∞
max1jni=1naij\max\limits_{1≤j≤n} \sum\limits_{i=1}^{n} \vert{a_{ij}}\vert λmax(ATA)\sqrt{λ_{max} (A^TA)} max1inj=1naij\max\limits_{1≤i≤n} \sum\limits_{j=1}^{n} \vert{a_{ij}}\vert
AA的列范数 AA的2-范数 AA的行范数

Frobenius范数

AF=i=1ni=jnaij2=tr[1](AHA)=λ(ATA)\|A\|_F = \sqrt{ \sum_{i=1}^{n} \sum_{i=j}^{n} |a_{ij}|^2 } = \sqrt{tr^{[1]}(A^HA)} = \sqrt{\sum λ(A^TA)}

谱半径

ρ(A)=max1inλi=minAρ(A) = \max\limits_{1≤i≤n} |λ_i| = \min_{*} \|A\|_*

谱半径是矩阵所有特征值中绝对值最大的,是所有矩阵范数中最小的(ρ(A)Aρ(A) ≤ \|A\|)。

特殊矩阵的性质

U,VU,Vnn阶正交阵则

AAnn阶对称矩阵,λiλ_i为其特征值,则