数值分析：绪论2

• 数值分析：绪论2
  • 范数
    • 向量点积
    • 向量范数
    • 矩阵范数
      • 例
  • 谱
    • 谱半径
  • 病态矩阵
    • 病态矩阵
    • 条件数
    • 谱条件数
    • 非条件数病态判别
  • 差商
    • 例1
    • 例2
  • 函数空间
    • 函数内积
    • 函数平方模
  • 正交多项式
    • 定义
      • 例
    • Legendre多项式
    • Chebyshev多项式
    • Laguere多项式
    • Hermite多项式

范数

向量点积

• $\vec{x} = (x_1,x_2,\cdots,x_n)^T$
• $\vec{y} = (y_1,y_2,\cdots,y_n)^T$

$\vec{x} \bullet \vec{y} = \sum_{i=1}^{n} x_iy_i = x_1y_1 + x_2y_2 + \cdots + x_ny_n$

向量的模、向量的长度、向量的L2范数

$|\vec{x}| = \sqrt{ \vec{x} \bullet \vec{x} } = \sqrt{|x_1|^2 + |x_2|^2 + \cdots + |x_n|^2}$

性质

• 当且仅当$\vec{x}=\vec{0}$时$\vec{x} \bullet \vec{x}=0$。
• $\vec{x} \bullet \vec{y} = \vec{y} \bullet \vec{x} = y^T x = x^T y$
• $(α\vec{x}) \bullet \vec{y} = α(\vec{x} \bullet \vec{y})$
• $(\vec{x}_a + \vec{x}_b) \bullet \vec{y} = \vec{x}_a \bullet \vec{y} + \vec{x}_b \bullet \vec{y}$
• 柯西—施瓦茨不等式：$|\vec{x} \bullet \vec{y}| ≤ |\vec{x}| ⋅ |\vec{y}|$
• 三角不等式：$|\vec{x} + \vec{y}| ≤ |\vec{x}| + |\vec{y}|$

向量范数

$L_0$	$L_1$	$L_2$	$L_p, \,\,(p≥1)$	$L_∞$
$\|x\|_0$	$\|x\|_1$	$\|x\|_2$、$\vert{x}\vert$	$\|x\|_p$	$\|x\|_∞$
向量中非零元素的个数	$\sum_{i=1}^{n} \vert{x_i}\vert$	$\sqrt{ \sum_{i=1}^{n} {x_i^2} }$	$(\sum\limits_{i=1}^{n}{\vert{x_i}\vert}^p)^{\frac{1}{p}}$	$\max\left\{\vert{x_1}\vert, \vert{x_2}\vert, \cdots. \vert{x_n}\vert\right\}$
	曼哈顿范数	欧式范数		切比雪夫范数

矩阵范数

矩阵论：矩阵范数

算子范数（从属范数）

设$x∈R^n$，$A∈R^{n×n}$，给出一种向量范数$\|x\|_{ν}$（eg：$ν=1,2,∞$），相对应地，定义一个矩阵的非负函数。

$\|A\|_ν = \max_{x≠0} \dfrac{\|Ax\|_{ν}}{\|x\|_{ν}}$

则$\|A\|_ν$满足矩阵范数的性质，称$\|A\|_ν$为算子范数。

性质

• $\|A\| ≥ 0$
• $\|cA\| = |c|⋅\|A\|$
• $\|A+B\| ≤ \|A\| + \|B\|$
• $\|AB\| ≤ \|A\|\|B\|$

例

$A= \left[\begin{array}{c} 1 & -2 \\ -3 & 4 \end{array}\right]$

• $\|A\|_1 = \max((1+3), (2+4))=6$
• $\|A\|_2 = \sqrt{15 + \sqrt{221}} ≈ 5.46$
• $\|A\|_∞ = \max((1+2), (3+4))=7$

谱

$A$的所有特征值的全体，称$A$的谱，记作$λ(A)$。

谱半径

$|a+bi| = \sqrt{a^2 + b^2}$

谱半径即包含所有特征值的圆的最小半径。

性质

• $ρ(A)≤\|A\|$（特征值上界）
• 若$A∈R^{n×n}$为对称矩阵，则$\|A\|_2 = ρ(A)$。
• 若$\|B\|<1$，则$I±B$为非奇异矩阵，且$\|(I±B)^{-1}\| ≤ \dfrac{1}{1-\|B\|}$

病态矩阵

病态矩阵

假设非奇异矩阵$A$，考虑$Ax=b$。如果矩阵$A$或常数项$b$的微小变化，引起方程组$Ax=b$解的巨大变化，则称此方程组为病态方程组，矩阵$A$为病态矩阵。否则称为良态方程组
、良态矩阵。

条件数

$\|A^{-1}\| ⋅ \|A\|$刻画了解对原始数据变化的灵敏程度，即方程组的病态程度。

称$cond(A)_v = \|A^{-1}\|_v ⋅ \|A\|_v$（eg：$v=1, 2, ∞$）为矩阵$A$的条件数。其中条件数越大，矩阵越病态。

性质

• 若$A$非奇异，则$cond(A)_v = \|A^{-1}\|_v ⋅ \|A\|_v ≥ \|A^{-1}⋅ A\|_v = 1$。
• $cond(cA)_v = cond(A)_v$
• 若$A$为正交矩阵（$A^{-1}=A^T$），则$cond(A)_2 = 1$
• 若$A$非奇异，且$R$正交，则$cond(RA)_2 = cond(AR)_2 = cond(A)_2$

谱条件数

非条件数病态判别

矩阵病态的其它充分条件

• 矩阵元素间数量级差很大，且无一定规律。
• 矩阵行列式值相对来说很小。
• 列主元消去过程中，出现了量级很小的主元素。
• 数值求解过程中，计算解$x$的剩余向量$r=b-Ax$已经很小，但$x$仍不符合要求。

差商

例1

$f(x)=1+x+x^2+x^3$，求$f[x_0,x_1,x_2,x_3]$

解

$f[x_0,x_1,x_2,x_3] = \dfrac{f^{(3)}(ξ)}{3!} = \dfrac{6}{3!} = 1$

例2

已知多项式$f(x)=(x-x_0)(x-x_1)\cdots(x-x_n)$有$n+1$个互异节点，若$p≤n$，求$f[x_0,x_1,\dots,x_p]$

解

$f[x_0, \cdots, x_p] = \sum\limits_{i=0}^{p} \left[ f(x_i) \left( \prod\limits_{^{j=0}_{j≠i}}^{k} \dfrac{1}{x_i-x_j} \right) \right]$

明显对任意$x_i, { \ \ \ } i=0,1,\dots,n$，$f(x_i)=0$

故$f[x_0, \cdots, x_p]=0$

函数空间

函数内积

记区间$[a,b]$上所有连续函数全体为$C[a,b]$（线性空间），记所有次数不超过$n$的多项式为$P_n$，则$P_n$是$C[a,b]$的子空间。

若$f(x), g(x) ∈ C[a,b]$，则称

$\int_a^b f(x)g(x) \,{\rm d}x$

为$f(x)$与$g(x)$的内积，记为$(f, g)$。

加权定义

$(f, g) = \int_a^b ρ(x)f(x)g(x) \,{\rm d}x$

性质

• $(f, g) = (g, f)$
• $(cf, g) = c(f, g)$
• $(f_1+f_2, g) = (f_1, g) + (f_2, g)$

正交

若$(f, g)=0$，则称$f(x)$与$g(x)$，记为$f⊥g$。

函数平方模

$\|f\|_2 = \sqrt{(f,f)} = \sqrt{\int_a^b f^2(x) \,{\rm d}x}$

加权定义

$\|f\|_2 = \sqrt{\int_a^b ρ(x)f^2(x) \,{\rm d}x}$

性质

• $\|f\|_2 = 0 \,⇔\, f(x) = 0$
• $\|cf\|_2 = |c| ⋅ \|f\|_2$
• $\|f+g\|_2 ≤ \|f\|_2 + \|g\|_2$
• $|(f,g)| ≤ \|f\|_2 ⋅ \|g\|_2$

正交多项式

定义

例

$\big\{\varphi_n(x)\big\}_{n=0}^{∞}$是区间$[0,1]$上，最高次项系数为$1$的正交多项式序列，其中$\varphi_0(x)=1$，求$\int_0^1 x\varphi_2(x) {\rm d}x =$

解

$\int_0^1 x\varphi_0(x)\varphi_n(x) {\rm d}x = \int_0^1 x\varphi_n(x) {\rm d}x = \begin{cases} 0 & n≠0 \\ \frac{1}{2} & n=0 \end{cases}$

故$\int_0^1 x\varphi_2(x) {\rm d}x = 0$

Legendre多项式

勒让德多项式

Chebyshev多项式

切比雪夫多项式

Laguere多项式

拉盖尔多项式

区间	权函数	表达式
$[0, +∞)$	$ρ(x)=e^{-x}$	$L_n(x)=e^x \dfrac{ {\rm d}^n }{ {\rm d}x^n } (x^ne^{-x})$

正交关系

$(L_m, L_n) = \int_{0}^{+∞} e^{-x}L_m(x)L_n(x) {\rm d}x = \begin{cases} 0 & m≠n \\ (n!)^2 & m=n \end{cases}$

递推关系

$\begin{cases} L_{n+1}(x) = (2n+1-x)L_n(x)-n^2L_{n-1}(x) & n=1,2,3,\cdots \\ L_0(x)=1 \\ L_1(x)=1-x \end{cases}$

Hermite多项式

埃尔米特多项式

区间	权函数	表达式
$(-∞, +∞)$	$ρ(x)=e^{-x^2}$	$H_n(x)=(-1)^n e^{x^2} \dfrac{ {\rm d}^n }{ {\rm d}x^n } (e^{-x^2})$

正交关系

$(H_m, H_n) = \int_{-∞}^{+∞} e^{-x^2}H_m(x)H_n(x) {\rm d}x = \begin{cases} 0 & m≠n \\ 2^n (n!)\sqrt{π} & m=n \end{cases}$

递推关系

$\begin{cases} H_{n+1}(x) = 2xH_n(x)-2nH_{n-1}(x) & n=1,2,3,\cdots \\ H_0(x)=1 \\ H_1(x)=2x \end{cases}$