本章大部分内容是熟悉的,只记录不熟悉的部分
记号:PN表示不超过N次的多项式;C[a,b]表示[a,b]上的连续函数
距离空间
距离的定义为:一个映射d:M×M→R,满足
- 正定性:d(x,y)≥0,d(x,y)=0↔x=y
- 对称性:d(x,y)=d(y,x)
- 三角不等式:d(x,y)+d(y,z)≥d(x,z)
完备性:距离空间的性质,即所有Cauchy序列必收敛
注意:Cauchy列和收敛列的定义都基于距离
Cauchy 列:
∀ϵ>0,∃N∈N,∀n>N,p∈N,d(xn,xn+p)<ϵ
即:给定一个小量,则某一项之后任意两项的距离都可以小于这个给定小量
距离空间的完备化:考虑Cauchy列的集合
M~={Cauchy x~={xn}∣xn∈M}
引入等价关系:
x~∼y~↔nlimd(xn,yn)=0
即:“收敛到相同值“的Cauchy列等价,但由于这里的收敛值不一定属于M,所以M本身不一定完备
则Cauchy列集合对等价关系的商集
M^=M~/∼
是完备的距离空间(相当于把那些在M中不存在的极限值补全了),其距离定义为
d^([x~],[y~])=nlimd(xn,yn)
M到M^的嵌入映射为
i(a)=[{a,a,a,…}]
尽管我没听过嵌入映射这个名词,这里似乎可以猜出它的意思:就是将原始空间中的元素映射到新空间中的对应元素,由于新空间是完备化后的,因此这个映射保证单射,不保证满射。注意右端项是等价类
赋范空间
范数是比距离更强的性质,因为从范数可以导出距离
范数需要定义在线性空间上,距离不需要
范数定义为映射∣∣⋅∣∣:S→R,满足
- 正定性:∣∣f∣∣≥0,∀f∈S∣∣f∣∣=0↔f=0
- 数乘相容:∣∣αf∣∣=∣α∣∣∣f∣∣
- 三角不等式:∣∣f+g∣∣≤∣∣f∣∣+∣∣g∣∣
完备的赋范空间称为Banach空间
Rn的范数:
∣∣x∣∣∞=imax∣xi∣
∣∣x∣∣1=i∑∣xi∣
∣∣x∣∣2=i∑xi2
范数的等价性:等价范数定义为
∃C1,C2>0,∀x∈S,C1∣∣x∣∣α≤∣∣x∣∣β≤C2∣∣x∣∣α
这可以近似理解为两个范数之间是渐近常数差异
如果只满足单边不等式:
∣∣x∣∣β≤C∣∣x∣∣α,∀x∈S
则称∣∣⋅∣∣α强于∣∣⋅∣∣β
大的范数渐近意义上大于等于小的范数的数量级
有限维线性空间的任意范数等价,无穷维线性空间则不一定
等价的范数一定同时完备或同时不完备。有限维赋范空间总是完备的,无穷维线性空间则可能出现某个范数完备,某个范数不完备的情况
内积空间
内积是强于范数的线性结构。内积可以诱导出范数
内积形如(⋅,⋅):S×S→P,满足
- 正定性:(x,x)≥0,(x,x)=0↔x=0
- 共轭对称性:(x,y)=(y,x)
- 第一变量线性:(ax+by,z)=a(x,z)+b(y,z)
第一变量线性可以诱导出第二变量共轭线性
内积的Cauchy-Schwarz不等式:
∣(x,y)∣≤∣∣x∣∣⋅∣∣y∣∣
证明为利用x−(y,y)(x,x)y的自内积非负性
由此可以得到内积导出范数的三角不等式
内积空间中元素线性无关当且仅当以下Gram矩阵非奇异:
Gn=(x1,x1)⋮(xn,x1)⋯⋱⋯(x1,xn)⋮(xn,xn)
坐标计算:求出以下分解的系数
x=a1x1+⋯+anxn
根据线性性质,有
(x,xi)=a1(x1,xi)+⋯+an(xn,xi)
于是
[(x,x1)⋯(x,xn)]=[a1⋯an]Gn
转化为了求解线性方程组的问题
特别地,如果是正交基,则Gn是对角矩阵,于是只需要做内积除法ai=(x,xi)/(xi,xi)即可
Schmidt正交化
yi=xi−j=1∑i−1(yj,yj)(xi,yj)yj
这本质上相当于,对一个新的向量,计算其在已有正交基上的坐标,然后刨去对应的投影组分
函数的带权内积:对于几乎处处为正且积分有限的权函数:
∫abρ(x)dx<+∞
带权内积
(f,g)=∫abρ(x)f(x)g(x)dx
是一个内积
正交多项式
在给定多项式内积空间上,对多项式组
{1,x,x2,…}
做Schmidt正交化得到的就是正交多项式
正交多项式的性质:
- 正交化后不降阶:degϕi=i
- 相互正交
- 是实系数多项式,且在积分区间的开区间(a,b)上恰有n个实单根
Legendre多项式
权函数为ρ=1,区间[a,b]=[−1,1]的正交多项式
Pn(x)=2nn!1dxndn{(x2−1)n}
满足递推关系:
(n+1)Pn+1(x)=(2n+1)xPn(x)−nPn−1(x)
Chebyshev多项式
权函数为ρ=1/1−x2,区间为[−1,1]
Tn(x)=cos(narccosx)
几个性质:
- 范数:(T0,T0)=π,(Tn,Tn)=2π,n≥1
- 递推:T0(x)=1,T1(x)=x,Tn+1=2xTn−Tn−1
矩阵空间
矩阵范数:矩阵范数比一般的向量范数要求多一条对矩阵乘法的相容性:
∣∣AB∣∣≤∣∣A∣∣⋅∣∣B∣∣
Frobenius范数
∣∣A∣∣F=i∑j∑∣aij∣2
由于矩阵和向量会一起运算(矩阵向量乘法),一般还要求满足矩阵范数和向量范数的相容性:
∣∣Ax∣∣V≤∣∣A∣∣M∣∣x∣∣V
矩阵F范数与向量2范数相容
算子范数:向量范数诱导的矩阵范数
∣∣A∣∣M=x=0sup∣∣x∣∣V∣∣Ax∣∣V=∣∣x∣∣V=1sup∣∣Ax∣∣
基础向量范数诱导的算子范数:
∣∣A∣∣∞=1≤i≤nmaxj=1∑n∣aij∣
∣∣A∣∣1=1≤j≤nmaxi=1∑n∣aij∣
∣∣A∣∣2=ρ(AHA)
其中ρ(A)为最大的特征值绝对值
无穷范数为最大行和,1范数为最大列和,2范数为最大奇异值
谱半径与矩阵范数的关系
对任意矩阵和任意和向量范数相容的矩阵范数,有
ρ(A)≤∣∣A∣∣
这是因为被放缩谱半径倍的向量总是存在的
同时,对任意矩阵和小量ϵ,总是存在某种算子范数,使得
∣∣A∣∣≤ρ(A)+ϵ
注意:这里范数的选取对不同矩阵不一定是一致的,否则就将存在一种严格等于谱半径的范数
证明比较复杂,略去
扰动引理
给定某种算子范数,则对∣∣B∣∣<1,I+B一定非奇异,且
∣∣(I+B)−1∣∣≤1−∣∣B∣∣1
证明:
假如I+B奇异,则B存在特征值−1,其算子范数至少是1,矛盾。此时设D=(I+B)−1,则有
(I+B)D=I↔D=I−BD→∣∣D∣∣≤1+∣∣B∣∣⋅∣∣D∣∣
扩展的扰动引理
如果A非奇异,且
∣∣C−A∣∣<∣∣A−1∣∣1
则C也非奇异,且
∣∣C−1∣∣≤1−∣∣A−1∣∣⋅∣∣C−A∣∣∣∣A−1∣∣
感觉扰动引理这部分只要看到能大概想到怎么证明就可以