第 04b 章 合同、惯性与同时对角化
对应原书:Horn & Johnson《Matrix Analysis》第 2 版,第 4 章 Hermitian Matrices, Symmetric Matrices, and Congruences 的 4.4–4.6 节(书 p.260–311,PDF p.280–331)。第 4 章前半(Rayleigh 商、Weyl 不等式、交错、优超)见第 04a 章。
第 04a 章研究的是"加一个矩阵"对特征值的影响。本章研究另一种变换:变量替换。组合权重换一组基、收益做线性变换、从相关矩阵换到协方差矩阵,协方差矩阵都按 \(\Sigma\mapsto S\Sigma S^T\) 变化,这叫合同(congruence)。合同会改变特征值,但不改变正、负、零特征值的个数(Sylvester 惯性定律),而且改变的幅度可以用 \(S\) 的奇异值精确控制(Ostrowski 定理)。本章的另一个主题是两个二次型的同时对角化,即广义特征值问题 \(Bx=\lambda Ax\),它是比较两个协方差矩阵、求最大 Sharpe 比、做 Fisher 判别的共同数学结构。
原书 4.4 节(酉合同与复对称矩阵)、4.5 节后半(*合同与合同标准形)和 4.6 节(共轭相似)是纯理论内容,在量化中基本没有直接应用,本章只作简介,告诉你它们讲什么、何时需要回原书。
学习目标
读完本章,你应当能够:
- 区分相似、酉相似与合同三种变换,知道协方差矩阵在线性变换下按 \(S\Sigma S^T\) 变化。
- 掌握惯性的定义与 Sylvester 惯性定律,会用 Ostrowski 定理估计合同变换后特征值的变化范围。
- 会用 Schur 补计算分块矩阵的惯性(Haynsworth 定理),并用于判断协方差正定性和 KKT 矩阵的结构。
- 掌握两个 Hermitian 矩阵同时对角化的条件,特别是"一个正定"时总能同时合同对角化,会用
scipy.linalg.eigh(B, A)解广义特征值问题。 - 知道复对称矩阵、Autonne–Takagi 分解、*合同标准形和共轭相似是什么,在需要时能找到原书相应位置。
读前导读
这一章在解决什么问题。 你在 CFA 里算过两资产组合方差 \(w_1^2\sigma_1^2+w_2^2\sigma_2^2+2w_1w_2\rho\sigma_1\sigma_2\),矩阵写法是 \(w^T\Sigma w\)。把 \(K\) 个组合的权重排成矩阵 \(W\),这些组合收益之间的协方差就是 \(W^T\Sigma W\)。这种"两边各乘一次"的变换叫合同。它和上一章的"相似"不同:相似保持特征值,合同不保持——把收益单位从小数改成百分比,协方差的特征值全部放大 10000 倍。那么合同下什么不变?答案是正、负、零特征值的个数(惯性)。直观上,"有没有方差为负的组合"不会因为换了记账单位而改变。
本章对你有用的结论有三条。第一,Ostrowski 定理:协方差矩阵 = 波动率 × 相关矩阵 × 波动率,所以协方差的特征值被相关矩阵特征值乘以最小、最大方差夹住,资产波动率差异越大协方差越病态。第二,Haynsworth 定理:分块矩阵的正负特征值个数可以拆成"左上块"加"Schur 补",由此看清条件协方差(对冲后残余风险)和带约束优化的 KKT 矩阵为什么总是不定。第三,广义特征值问题 \(Bw=\lambda Aw\):找出在两个协方差矩阵下"方差之比"最大或最小的组合。比较平静期与压力期、求最大 Sharpe 比,用的都是它。
需要先想起来的数学。
- 协方差的线性变换:标量情形 \(\operatorname{Var}(aX)=a^2\operatorname{Var}(X)\);向量情形 \(\operatorname{Cov}(SX)=S\Sigma S^T\)。\(S\) 是一行权重时,就是组合方差 \(w^T\Sigma w\)。见 第 00 册第 06 章 线性代数速成。
- 奇异值:任意矩阵 \(S\) 的奇异值是 \(S^TS\) 特征值的平方根,表示 \(S\) 在各方向上的最大和最小"拉伸倍数"。对角阵 \(D=\operatorname{diag}(0.1,0.4)\) 的奇异值就是 \(0.4\) 和 \(0.1\)。
- Schur 补:分块矩阵 \(\begin{bmatrix}B&C\\C^T&D\end{bmatrix}\) 中 \(D-C^TB^{-1}C\)。它就是第 03b 章说的条件协方差:用第一组资产对冲第二组之后剩下的协方差。
- 对称矩阵的平方根:\(A\succ0\) 时 \(A=P\Lambda P^T\),\(A^{1/2}=P\Lambda^{1/2}P^T\),满足 \(A^{1/2}A^{1/2}=A\);\(A^{-1/2}\) 类似。\(A^{-1/2}x\) 叫"白化":把相关的变量变成互不相关、方差为 1 的变量。
- 拉格朗日乘子与 KKT 条件:带等式约束的最小化 \(\min f(w)\) s.t. \(e^Tw=1\),令拉格朗日函数的梯度为零,得到一个线性方程组,其系数矩阵就是 KKT 矩阵。见 第 00 册第 05 章 多元微积分与优化。
符号提示:\(S^*\) 是共轭转置,实矩阵读作 \(S^T\),"*合同"在实数情形就是普通的合同;\(i_+,i_-,i_0\) 分别是正、负、零特征值个数;\(A/B\) 表示 \(A\) 关于子块 \(B\) 的 Schur 补;\(\kappa(\cdot)\) 是条件数(最大特征值 / 最小特征值);\(\bar A\) 是逐元素取复共轭。
怎么读这一章。 核心必读:4b.1、4b.2.1–4b.2.4(惯性、Sylvester、Ostrowski、Haynsworth 及各自的量化含义)、4b.3.1–4b.3.3(同时对角化与广义特征值),以及实战 1。4b.4(复对称矩阵)、4b.5(*合同标准形)、4b.6(共轭相似)与量化关系很弱,第一遍完全可以跳过,以后真遇到再回来查。4b.2.2 中的同伦证明、PDE 类型、4b.3.4 也可以先跳过。
4b.1 合同:二次型的变量替换(4.5 节开头)
4b.1.1 三个动机
原书 4.5 节用三个例子引出合同:
- 二阶偏微分方程的变量替换:\(Lf=\sum a_{ij}(x)\partial^2f/\partial x_i\partial x_j+\cdots\) 的系数矩阵 \(A\) 对称。做非奇异变量替换 \(s=s(x)\),Jacobian 为 \(S\),新系数矩阵变为 \(SAS^T\)。物理规律不应依赖坐标,所以人们关心 \(\{SAS^T\}\) 的不变量。
- 协方差矩阵:随机向量 \(X\) 的协方差 \(\operatorname{Cov}(X)=\Sigma\),对线性变换 \(SX\):
- 二次型:\(Q_A(x)=x^TAx\),\(H_B(x)=x^*Bx\),则 \(Q_A(Sx)=Q_{S^TAS}(x)\),\(H_B(Sx)=H_{S^*BS}(x)\)。
推导拆解:(4.5.3*) 的推导只用了"期望是线性的"。设 \(X\) 均值为 \(m\),则 \(SX\) 的均值为 \(Sm\)。\(\operatorname{Cov}(SX)=\mathbb E[(SX-Sm)(SX-Sm)^*]=\mathbb E[S(X-m)(X-m)^*S^*]=S\,\mathbb E[(X-m)(X-m)^*]\,S^*=S\Sigma S^*\)。中间那步把常数矩阵 \(S\) 提到期望外面,理由与 \(\mathbb E[aX]=a\mathbb E[X]\) 相同。(\(\mathbb E\) 表示期望。) 两个例子:\(S=w^T\)(一行权重)时得到组合方差 \(w^T\Sigma w\);\(S=\operatorname{diag}(1/\sigma_1,\dots,1/\sigma_n)\) 时得到相关矩阵 \(R=D^{-1}\Sigma D^{-1}\)。注意二次型那一条里 \(S\) 的位置是 \(S^TAS\),协方差那一条是 \(SAS^T\)——方向相反,只是看 \(S\) 作用在"权重"还是"收益"上,本质是同一种变换。
量化中的合同无处不在:组合 \(w\) 的方差 \(w^T\Sigma w\);\(K\) 个组合(矩阵 \(W\) 的列)的协方差 \(W^T\Sigma W\);因子模型 \(r=Bf+\varepsilon\) 中因子部分 \(BFB^T\);从相关矩阵到协方差矩阵 \(\Sigma=DRD\)(\(D\) 为波动率对角阵);把收益换成超额收益或换币种、做 PCA 旋转、做白化 \(\Sigma^{-1/2}r\),全都是合同变换。
4b.1.2 定义
定义 4.5.4 设 \(S\) 非奇异。
- \(B=SAS^*\):称 \(B\) 与 \(A\) *合同(star-congruent,conjunctive);
- \(B=SAS^T\):称 \(B\) 与 \(A\) 合同或 \(^T\)合同(T-congruent)。
两者都是等价关系(定理 4.5.5),合同的矩阵秩相同。即使 \(S\) 奇异,\(SAS^*\) 也保持 Hermitian,\(SAS^T\) 也保持对称。习惯上:Hermitian 矩阵用 *合同,复对称矩阵用 \(^T\)合同。对实对称矩阵和实的 \(S\),两者相同。
与相似 \(S^{-1}AS\) 对照:酉矩阵满足 \(U^{-1}=U^*\),所以酉相似既是相似也是 *合同,两种不变量(特征值、惯性)都保持。一般的合同只保持惯性,不保持特征值。
4b.2 惯性与 Sylvester 惯性定律
4b.2.1 惯性
定义 4.5.6 Hermitian 矩阵 \(A\) 的**惯性(inertia)**是三元组
分别是正、负、零特征值的个数。\(i_+-i_-\) 称为符号差(signature)。\(\operatorname{rank}A=i_++i_-\),所以惯性由秩和符号差唯一确定。
惯性矩阵:把 \(A=U\Lambda U^*\) 的特征值按"正、负、零"排列,令 \(D=\operatorname{diag}(|\lambda_1|^{1/2},\dots,|\lambda_r|^{1/2},1,\dots,1)\),则 \(\Lambda=D\,I(A)\,D\),其中
于是 \(A=(UD)I(A)(UD)^*\)。
定理 4.5.7 每个 Hermitian 矩阵都 *合同于它的惯性矩阵(实对称矩阵经实矩阵合同于其惯性矩阵)。
白话解释:合同允许"在每个主方向上任意缩放"。特征值 \(4\) 的方向乘以 \(1/2\),二次型在该方向上就从 \(4\) 变成 \(1\);特征值 \(-9\) 的方向乘以 \(1/3\),就变成 \(-1\)。但缩放因子是平方后起作用的(\((1/2)^2\cdot4\)),平方永远为正,所以符号改不了,零也变不成非零。把所有能缩的都缩到 \(\pm1\),剩下的就只有"几个 \(+1\)、几个 \(-1\)、几个 \(0\)",这就是惯性矩阵。 例:\(A=\operatorname{diag}(4,-9,0)\),取 \(D=\operatorname{diag}(2,3,1)\),\(A=D\operatorname{diag}(1,-1,0)D\),惯性 \((1,1,1)\)。
4b.2.2 Sylvester 惯性定律
定理 4.5.8(Sylvester 惯性定律,law of inertia) 两个 Hermitian 矩阵 *合同,当且仅当它们的惯性相同。
证明 充分性由 4.5.7。必要性:设 \(A=SBS^*\)。秩相同,故 \(i_0\) 相同,只需证 \(i_+\) 相同。令 \(S_+(A)\) 是 \(A\) 的正特征值对应特征向量张成的子空间,维数 \(i_+(A)\),其上 \(x^*Ax>0\)。子空间 \(S^*S_+(A)\) 维数也是 \(i_+(A)\),且对其中的 \(y=S^*x\ne0\),
由第 04a 章推论 4.2.12(在 \(k\) 维子空间上二次型为正 ⇒ 至少 \(k\) 个正特征值),\(i_+(B)\ge i_+(A)\)。交换 \(A,B\) 得反向不等式。\(\square\)
推导拆解:证明的思路是"把 \(A\) 下方差为正的那批组合,搬到 \(B\) 下看"。 第 1 步:\(A\) 有 \(i_+(A)\) 个正特征值,它们的特征方向张成一个子空间,里面任何非零组合在 \(A\) 下"方差"都为正(Rayleigh 商是正特征值的加权平均)。 第 2 步:用 \(S^*\) 把这个子空间映过去。\(S\) 非奇异,所以维数不变,仍是 \(i_+(A)\) 维。 第 3 步:映过去的每个向量 \(y=S^*x\) 在 \(B\) 下的二次型 \(y^*By\) 恰好等于 \(x^*Ax>0\)——这正是 \(A=SBS^*\) 的含义。 第 4 步:\(B\) 在一个 \(i_+(A)\) 维子空间上恒正,第 04a 章推论 4.2.12 说 \(B\) 至少有这么多正特征值。 再对称地反过来做一遍,两个数相等。\(i_0\) 由秩相等得到,\(i_-=n-i_+-i_0\) 也就相等了。
几条推论(原书练习):
- Hermitian 矩阵 *合同于 \(I\) 当且仅当它正定。所以正定性在任何非奇异线性变换下保持:协方差矩阵正定,则任何一组线性无关组合的协方差矩阵仍正定。
- 实对称矩阵经复矩阵 *合同 ⇔ 经实矩阵合同。
- \(A\) 与 \(SAS^*\) 的第 \(j\) 个(非减序)特征值同号。
- \(n\times n\) Hermitian 矩阵在 *合同下恰有 \(\binom{n+2}{2}\) 个等价类,由 \((i_+,i_-)\) 决定(4.5.P16);复对称矩阵在 \(^T\)合同下只有 \(n+1\) 类,按秩区分(定理 4.5.12:复数域上没有"符号",\(\sqrt{-1}\) 可以把负号吸收掉)。
一个漂亮的另证(4.5.P19,同伦论证):把 \(S\) 做 QR 分解 \(S=QR\),令 \(S(t)=tQ+(1-t)QR\)。对 \(t\in[0,1]\),\(S(t)=Q(tI+(1-t)R)\) 都非奇异(\(R\) 的对角元为正,\(tI+(1-t)R\) 是对角元为正的上三角矩阵)。\(S(t)AS(t)^*\) 的特征值连续变化且永远不过零(秩不变),所以惯性沿路径不变;\(t=1\) 时它与 \(A\) 酉相似。
PDE 的类型(4.5.P5):系数矩阵非奇异且特征值同号的二阶 PDE 是椭圆型(如 Laplace 方程),\(n-1\) 个同号、1 个异号是双曲型(如波动方程)。惯性定律保证类型不依赖坐标。Black–Scholes 方程(在时间方向上)是抛物型。
4b.2.3 Ostrowski 定理:惯性定律的定量版本
Sylvester 只说符号不变。合同变换把特征值放大或缩小多少?
定理 4.5.9(Ostrowski) 设 \(A\) Hermitian,\(S\) 非奇异,\(S\) 的奇异值为 \(\sigma_1\ge\cdots\ge\sigma_n>0\),特征值按非减排列。则对每个 \(k\),存在 \(\theta_k\in[\sigma_n^2,\sigma_1^2]\) 使
证明 \(\lambda_1(SS^*)=\sigma_n^2\),\(\lambda_n(SS^*)=\sigma_1^2\)。矩阵 \(A-\lambda_k(A)I\) 的第 \(k\) 个特征值为 0,由 Sylvester,
的第 \(k\) 个特征值也是 0。对它用 Weyl 不等式(第 04a 章 4.3.16):
\(\lambda_k(A)>0\) 时整理得 \(\sigma_n^2\lambda_k(A)\le\lambda_k(SAS^*)\le\sigma_1^2\lambda_k(A)\);\(\lambda_k(A)<0\) 时不等号方向相应调换。\(\square\)
推导拆解:"整理"这一步补全如下(设 \(\lambda_k(A)>0\),简写 \(\lambda=\lambda_k(A)\))。矩阵 \(-\lambda SS^*\) 的特征值是 \(SS^*\) 的特征值乘以 \(-\lambda<0\),乘负数会颠倒大小顺序,所以它的最小特征值是 \(-\lambda\sigma_1^2\),最大特征值是 \(-\lambda\sigma_n^2\)。代入:左边不等式 \(\lambda_k(SAS^*)-\lambda\sigma_1^2\le0\),即 \(\lambda_k(SAS^*)\le\sigma_1^2\lambda\);右边 \(0\le\lambda_k(SAS^*)-\lambda\sigma_n^2\),即 \(\lambda_k(SAS^*)\ge\sigma_n^2\lambda\)。令 \(\theta_k=\lambda_k(SAS^*)/\lambda\) 即得。 关键技巧是第一步:把"\(\lambda_k(SAS^*)\) 与 \(\lambda_k(A)\) 有多接近"转化成"某个矩阵的第 \(k\) 个特征值是否为 0",后者正是惯性定律能回答的符号问题。 数值例:\(A=\operatorname{diag}(1,2)\),\(S=\operatorname{diag}(0.1,0.4)\),\(SAS^T=\operatorname{diag}(0.01,0.32)\)。\(\theta_1=0.01\)、\(\theta_2=0.16\),都落在 \([0.1^2,0.4^2]=[0.01,0.16]\) 中。
特例:\(A=I\) 时 \(\theta_k=\lambda_k(SS^*)\);\(S\) 酉时 \(\theta_k=1\)。\(S\) 奇异时由连续性(\(S+\epsilon I\),\(\epsilon\to0\))得 \(\theta_k\in[0,\sigma_1^2]\)(推论 4.5.11):\(SAS^*\) 的正(负)特征值个数不超过 \(A\) 的。(原书 4.5.11 此处写作"nonincreasing order (4.2.1)",按 4.2.1 的约定实为非减排列。)
量化含义:相关矩阵与协方差矩阵的谱。\(\Sigma=DRD\),\(D=\operatorname{diag}(\sigma_1,\dots,\sigma_n)\) 是各资产波动率。\(D\) 的奇异值就是波动率,Ostrowski 定理给出
\[\sigma_{\min}^2\,\lambda_k(R)\ \le\ \lambda_k(\Sigma)\ \le\ \sigma_{\max}^2\,\lambda_k(R).\]协方差的第 \(k\) 个特征值等于相关矩阵的第 \(k\) 个特征值乘以一个介于最小、最大方差之间的因子。由此 \(\kappa(\Sigma)\le\kappa(R)\cdot(\sigma_{\max}/\sigma_{\min})^2\):资产波动率差异越大,协方差矩阵越病态。这是许多实务模型先在相关矩阵上做 PCA 或收缩、再乘回波动率的原因之一。
相对扰动界(4.5.P8):由 Ostrowski,
若 \(S\) 接近酉矩阵,特征值的相对变化很小,不论特征值本身多小。这和 Weyl 的绝对误差界 \(\|E\|_2\) 互补:对于很小的特征值,Weyl 界可能远大于特征值本身,而乘法型扰动的相对界仍然有意义。
4b.2.4 Haynsworth 惯性加性定理
习题 4.5.P21(Haynsworth) 设 \(A=\begin{bmatrix}B&C\\C^*&D\end{bmatrix}\) Hermitian,\(B\) 非奇异,Schur 补 \(A/B=D-C^*B^{-1}C\)。则 \(A\) 与 \(B\oplus(A/B)\) *合同,所以
证明就是分块消元(第 00 章):
左右两个矩阵互为共轭转置,这正是一次 *合同。习题 4.5.P22 说明可以由此给出 Cauchy 交错定理的另一个证明。
推导拆解:分块乘法分两步做。先右乘:\(\begin{bmatrix}B&C\\C^*&D\end{bmatrix}\begin{bmatrix}I&-B^{-1}C\\0&I\end{bmatrix}=\begin{bmatrix}B&-C+C\\C^*&-C^*B^{-1}C+D\end{bmatrix}=\begin{bmatrix}B&0\\C^*&A/B\end{bmatrix}\),右上块被消掉。再左乘 \(\begin{bmatrix}I&0\\-C^*B^{-1}&I\end{bmatrix}\):左下块变成 \(-C^*B^{-1}B+C^*=0\),其余不变。左右两个消元矩阵都是单位三角阵,行列式为 1,必然非奇异,所以这是合法的合同;再由 Sylvester 惯性定律,\(A\) 和 \(B\oplus(A/B)\) 惯性相同,而分块对角矩阵的惯性就是各块惯性之和。 标量例:\(K=\begin{bmatrix}2&1\\1&0\end{bmatrix}\),\(B=2\),Schur 补 \(0-1\cdot\tfrac12\cdot1=-\tfrac12\)。所以 \(i(K)=(1,0,0)+(0,1,0)=(1,1,0)\):一正一负。直接算特征值 \(1\pm\sqrt2\),确实一正一负。
量化含义:
- 分块检查正定性:\(A\succ0\iff B\succ0\) 且 \(A/B\succ0\)。大规模协方差矩阵可以分块检验,Cholesky 分解本质上就是反复取 Schur 补。
- 条件协方差 = Schur 补:联合正态的 \((X_1,X_2)\) 中,\(\operatorname{Cov}(X_1\mid X_2)=\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}\),也是用 \(X_2\) 中的工具做最优线性对冲后的残余协方差(第 00 章已推导)。由于 \(\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}\succeq0\),第 04a 章的单调性定理给出:对冲后残余协方差的每个特征值都不超过对冲前的。
- KKT 矩阵的惯性:预算约束下的最小方差问题 \(\min\tfrac12w^T\Sigma w\) s.t. \(e^Tw=1\) 的 KKT 矩阵 \(K=\begin{bmatrix}\Sigma&e\\e^T&0\end{bmatrix}\)。Schur 补为 \(-e^T\Sigma^{-1}e<0\),所以 \(i(K)=(n,1,0)\):KKT 矩阵总是不定的,不能用 Cholesky 分解,要用对称不定分解(\(LDL^T\))或零空间法(见第 04 册约束优化部分)。一般地,\(m\) 个线性无关约束的等式约束二次规划,KKT 矩阵恰有 \(m\) 个负特征值当且仅当 Hessian 在约束零空间上正定。
金融直觉:KKT 矩阵为什么一定有负特征值?拉格朗日乘子 \(\lambda\) 可以理解为"预算约束的影子价格",KKT 系统是在 \((w,\lambda)\) 上找鞍点:对权重 \(w\) 求最小(方差越小越好),对乘子 \(\lambda\) 求最大(约束最紧的价格)。一个方向往上弯、一个方向往下弯,这就是不定矩阵;有几个约束,就有几个往下弯的方向。 关于上面最后一句的精确说法:更准确的结论是 \(i(K)=i(Z^THZ)+(m,m,0)\),\(Z\) 的列是约束零空间的一组基。所以"\(K\) 恰有 \(m\) 个负特征值"只能推出约束零空间上的 Hessian 半正定(可能有零特征值);要得到"正定",还需要 \(K\) 非奇异,即 \(i(K)=(n,m,0)\)。这正是练习 4 的答案形式。
4b.3 两个二次型的同时对角化
4b.3.1 动机:小振动与广义特征值
原书的动机来自力学:稳定平衡点附近势能 \(V=q^TAq\)、动能 \(T=\dot q^TB\dot q\)(\(A,B\) 实对称)。若存在非奇异 \(S\) 使 \(SAS^T\) 与 \(SBS^T\) 同时为对角阵,则在新坐标下运动方程解耦成 \(n\) 个独立振子(简正模态,normal modes)。动能矩阵正定就足以保证这一点。
量化里的对应问题是:给定两个协方差矩阵 \(A\) 和 \(B\),能否找到一组组合(坐标),使它们在两个矩阵下同时互不相关? 这些组合的"方差比"是什么?
4b.3.2 酉型同时对角化
定理 4.5.15(a) Hermitian 矩阵 \(A,B\) 可以被同一个酉矩阵同时对角化(\(A=U\Lambda U^*\),\(B=UMU^*\)),当且仅当 \(AB=BA\)。
两个不同时期的协方差矩阵一般不可交换,所以要求太强。放松要求:只要求 \(S\) 非奇异,用合同代替酉相似。
(定理 4.5.15(b)(c) 处理"对称与对称""Hermitian 与对称"的酉型同时对角化,条件分别是 \(A\bar B\) 正规 / Hermitian、\(AB=B\bar A\),属于复对称理论,量化中用不到。)
4b.3.3 非奇异合同下的同时对角化
定理 4.5.17(a) 设 \(A,B\) Hermitian,\(A\) 非奇异,\(C=A^{-1}B\)。存在非奇异 \(S\) 和实对角阵 \(\Lambda,M\) 使
当且仅当 \(C\) 可对角化且特征值全为实数。
白话解释:为什么条件落在 \(C=A^{-1}B\) 上?若 \(A=S\Lambda S^*\)、\(B=SMS^*\),则 \(A^{-1}B=S^{-*}\Lambda^{-1}S^{-1}SMS^*=S^{-*}(\Lambda^{-1}M)S^*\)——\(C\) 相似于实对角阵 \(\Lambda^{-1}M\),所以必须可对角化且特征值为实数(这是必要性)。直观上,\(C\) 的特征值就是"同一个方向在 \(B\) 下与在 \(A\) 下的二次型之比",同时对角化就是要找到一组方向,使这些比值成为"各自独立"的数。
充分性证明要点 设 \(C=S\Lambda S^{-1}\),\(\Lambda=\lambda_1I_{n_1}\oplus\cdots\oplus\lambda_dI_{n_d}\)(\(\lambda_i\) 实且互不相同)。由 \(BS=AS\Lambda\) 得 \(S^*BS=S^*AS\Lambda\)。按 \(\Lambda\) 分块,比较 \((i,j)\) 块并利用两边都是 Hermitian,得到 \((\lambda_i-\lambda_j)A_{ij}^*=0\),所以 \(i\ne j\) 时 \(A_{ij}=0\):\(S^*AS\) 是分块对角的。再把每个对角块酉对角化即可。\(\square\)
最重要的特例:若 \(A\) 正定,则 \(C=A^{-1}B\) 相似于 Hermitian 矩阵 \(A^{-1/2}BA^{-1/2}\),必然可对角化且特征值为实数。于是:
一个正定、一个 Hermitian 的两个矩阵总能同时合同对角化:存在非奇异 \(W\) 使
\[W^*AW=I,\qquad W^*BW=\Lambda=\operatorname{diag}(\lambda_1,\dots,\lambda_n),\]其中 \(\lambda_i\) 是广义特征值问题 \(Bw=\lambda Aw\) 的特征值,\(W\) 的列是广义特征向量。
构造很直接:先用 \(A^{-1/2}\) 把 \(A\) 白化成 \(I\),再对 \(A^{-1/2}BA^{-1/2}\) 做普通的谱分解。数值上 scipy.linalg.eigh(B, A) 用 Cholesky 分解 \(A=LL^T\) 代替 \(A^{1/2}\),输出的 \(W\) 直接满足 \(W^TAW=I\)。
推导拆解:两步构造逐步写出。 第 1 步(白化):令 \(C=A^{-1/2}BA^{-1/2}\),它是对称的。\(A^{-1/2}AA^{-1/2}=I\),所以在新坐标下 \(A\) 已经变成单位阵。 第 2 步(旋转):对 \(C\) 做谱分解 \(C=Q\Lambda Q^T\),\(Q\) 正交。正交旋转不会破坏单位阵:\(Q^TIQ=I\)。 合起来取 \(W=A^{-1/2}Q\):\(W^TAW=Q^TA^{-1/2}AA^{-1/2}Q=I\),\(W^TBW=Q^TCQ=\Lambda\)。把 \(W^TBW=\Lambda W^TAW\) 两边左乘 \(W^{-T}\),得 \(BW=AW\Lambda\),即每一列满足 \(Bw_i=\lambda_iAw_i\)。 为什么一般情况做不到而这里能:普通谱分解要用正交矩阵,两个不交换的矩阵没有共同的正交特征基;白化先用"非正交"的变换把 \(A\) 变成 \(I\),而 \(I\) 在任何旋转下都不变,于是只剩一个矩阵需要对角化。 数值例:\(A=\operatorname{diag}(4,1)\),\(B=\begin{bmatrix}4&1\\1&2\end{bmatrix}\)。\(A^{-1/2}=\operatorname{diag}(\tfrac12,1)\),\(C=\begin{bmatrix}1&0.5\\0.5&2\end{bmatrix}\),特征值 \(1.5\pm\sqrt{0.5}\approx0.79,\ 2.21\)——这就是广义特征值。
广义 Rayleigh 商给出变分刻画:
中间的特征值有类似的 Courant–Fischer 刻画(对 \(A^{-1/2}BA^{-1/2}\) 用第 04a 章的结论)。
量化中的广义特征值问题:
- 比较两个协方差矩阵:\(A=\Sigma_{\text{平静}}\),\(B=\Sigma_{\text{压力}}\)。广义特征值是"同一个组合在压力期与平静期的方差比",最大的那个给出对市场状态最敏感的组合方向,最小的给出最"稳健"的方向。样本内 / 样本外协方差的比较同理。
- 最大 Sharpe 比:\(\max_w(w^T\mu)^2/w^T\Sigma w\) 是 \(B=\mu\mu^T\)(秩一)的广义 Rayleigh 商,唯一的非零广义特征值是 \(\mu^T\Sigma^{-1}\mu\),即最大 Sharpe 比的平方,特征向量 \(\propto\Sigma^{-1}\mu\)。
- Fisher 判别 / 信号对噪声:\(\max_w w^TS_bw/w^TS_ww\)(类间散度 / 类内散度),用于构造区分两类市场状态的线性信号。
- 典型相关分析(CCA):寻找两组变量(如股票收益与宏观因子)之间相关最大的线性组合,也化为广义特征值问题。
实战 1 第 3、4 部分演示 1 和 2。
推导拆解:第 2 条(最大 Sharpe 比)为什么成立。 第 1 步:Sharpe 比 \(w^T\mu/\sqrt{w^T\Sigma w}\) 的平方就是 \(\dfrac{w^T(\mu\mu^T)w}{w^T\Sigma w}\),即 \(B=\mu\mu^T\)、\(A=\Sigma\) 的广义 Rayleigh 商。它对 \(w\) 的缩放不敏感,所以杠杆不改变 Sharpe 比,这与你熟悉的"资本配置线上所有组合 Sharpe 相同"一致。 第 2 步:白化后 \(C=\Sigma^{-1/2}\mu\mu^T\Sigma^{-1/2}=vv^T\),\(v=\Sigma^{-1/2}\mu\)。秩一矩阵 \(vv^T\) 的唯一非零特征值是 \(v^Tv=\mu^T\Sigma^{-1}\mu\),特征向量是 \(v\) 本身。 第 3 步:换回原坐标,\(w=\Sigma^{-1/2}v=\Sigma^{-1}\mu\)。这正是 CFA 里切点组合(tangency portfolio)的权重方向(\(\mu\) 取超额收益)。 也可以用柯西–施瓦茨不等式一步看出:\((w^T\mu)^2=\big((\Sigma^{1/2}w)^T(\Sigma^{-1/2}\mu)\big)^2\le(w^T\Sigma w)(\mu^T\Sigma^{-1}\mu)\)。
4b.3.4 其他同时对角化结论
- 定理 4.5.17(b)(c):对称–对称、Hermitian–对称的非奇异同时对角化,条件分别是 \(A^{-1}B\) 可对角化、可共轭对角化。
- 4.5.P4:一族 Hermitian 矩阵 \(A_1,\dots,A_k\)(\(A_1\) 非奇异)可同时 *合同对角化,当且仅当 \(\{A_1^{-1}A_i\}\) 是特征值全实、可对角化、两两可交换的矩阵族。
- 4.5.P18:若 \(\det(tA-B)\) 有 \(n\) 个互异零点,则 \(A,B\) 可同时合同对角化。
- 反例(4.5.P6–P7):\(\begin{bmatrix}0&1\\1&0\end{bmatrix}\) 与 \(\begin{bmatrix}1&0\\0&-1\end{bmatrix}\) 都不定,不能同时 *合同对角化;\(\begin{bmatrix}1&1\\1&0\end{bmatrix}\) 与 \(\begin{bmatrix}0&1\\1&0\end{bmatrix}\) 两种方式都不行。两个都不定时,同时对角化可能失败——正定性假设很关键。
- 4.5.P36:若 \(A\) 不定,且 \(x^*Ax=0\Rightarrow x^*Bx=0\),则 \(B=\kappa A\)(\(\kappa\) 实)。原书注记:在狭义相对论中取 \(A=\operatorname{diag}(1,1,1,-c)\),这条结论推出 Lorentz 变换是唯一与"光速不变"相容的线性坐标变换。
4b.4 复对称矩阵与酉合同(4.4 节,选读)
这一节研究 \(A=A^T\) 的复矩阵(不是 Hermitian)。它在单叶函数论(Grunsky 不等式)、矩问题(Hankel 矩阵)、阻尼振动等领域出现;量化中基本不出现,因为量化中的复矩阵几乎都来自傅里叶变换,而且需要的是 Hermitian 结构。下面只列要点。
酉合同:\(A\mapsto UAU^T\)(\(U\) 酉)。它保持对称、斜对称。若 \(A=UBU^T\),则 \(A\bar A=U(B\bar B)U^*\),所以 \(A\bar A\) 的谱是酉合同不变量。
\(A\bar A\) 的谱结构(推论 4.4.13):\(A\bar A\) 总相似于实矩阵的平方,因而非实特征值成共轭对出现,负实特征值成相等的对出现(\(2\times2\) 的情形已经不平凡,见命题 4.4.5)。
Youla 分解(定理 4.4.9):任何方阵都酉合同于一个分块上三角矩阵,对角块是 \(1\times1\) 的非负数(对应 \(A\bar A\) 的非负特征值)或 \(2\times2\) 的标准块。它之于酉合同,犹如 Schur 三角化之于酉相似。
Autonne–Takagi 分解(推论 4.4.4(c)):若 \(A\) 复对称,则存在酉矩阵 \(U\) 使
\(\Sigma\) 是以 \(A\) 的奇异值为对角元的非负对角阵。这是复对称矩阵的"对称 SVD"。奇异值互不相同时,\(U\) 在乘以 \(\pm1\) 对角阵的意义下唯一(4.4.4(d))。
共轭正规矩阵(定义 4.4.14:\(AA^*=\overline{A^*A}\)):包括复对称、复斜对称、酉矩阵、实正规矩阵;它们酉合同于若干实正交矩阵的非负倍数的直和(推论 4.4.18)。特例:斜对称矩阵的秩为偶数,酉合同于 \(0\oplus\bigoplus_j\begin{bmatrix}0&s_j\\-s_j&0\end{bmatrix}\)(推论 4.4.19)。
复对称矩阵没有特殊的 Jordan 结构(定理 4.4.24):每个复方阵都相似于一个复对称矩阵。这与实对称矩阵(必可对角化)截然不同。推论:每个复方阵都是两个复对称矩阵之积(4.4.25);复对称矩阵可对角化当且仅当可经复正交矩阵 \(Q\)(\(Q^TQ=I\))对角化(4.4.27)。复情形的麻烦来自迷向向量(isotropic vector):\(x=[1,i]^T\ne0\) 但 \(x^Tx=0\)。
QS 分解(4.4.P38–P39):\(A=QS\)(\(Q\) 复正交、\(S\) 复对称)存在当且仅当 \(AA^T\) 与 \(A^TA\) 相似;非奇异时总存在。
4b.5 *合同与合同的标准形(4.5 节后半,选读)
Sylvester 惯性定律解决了 Hermitian 矩阵在 *合同下的分类。对任意方阵 \(A\),*合同的分类要复杂得多。
化归:由 Toeplitz 分解 \(A=H+iK\),\(A\) 可 *合同对角化当且仅当 \(H,K\) 可同时 *合同对角化(引理 4.5.18)。所以"两个 Hermitian 矩阵的同时对角化"等价于"一个复矩阵的 *合同对角化"。
*合同标准形(定理 4.5.21):每个复方阵 *合同于下列三类块的直和,在块的排列意义下唯一:
- Type 0:奇异 Jordan 块 \(J_k(0)\);
- Type I:\(e^{i\theta}\Delta_k\),\(\Delta_k\) 是反对角线为 1、其下一条反对角线为 \(i\) 的 Hankel 矩阵;
- Type II:\(H_{2k}(\mu)=\begin{bmatrix}0&I_k\\J_k(\mu)&0\end{bmatrix}\),\(|\mu|>1\)。
非奇异部分由 *余平方(*cosquare)\(A^{-*}A\) 的 Jordan 形决定(Type I 块的正负号需要另外的信息)。对 Hermitian 矩阵,标准角只有 0 和 \(\pi\),重数就是 \(i_+,i_-\)——*合同标准形定理是 Sylvester 惯性定律的推广(4.5.P11–P12)。
合同标准形(定理 4.5.25):类似,用块 \(J_k(0)\)、\(\Gamma_k\)、\(H_{2k}(\mu)\),由余平方 \(A^{-T}A\) 的 Jordan 形完全决定;非奇异 \(A,B\) 合同当且仅当 \(A^{-T}A\) 与 \(B^{-T}B\) 相似(定理 4.5.27)。
消去定理(4.5.22、4.5.26):\(A\oplus C\) 与 \(B\oplus C\) *合同(合同)当且仅当 \(A\) 与 \(B\) *合同(合同)。
可正规化矩阵(4.5.P37):非奇异 \(A\) 可 *合同对角化(\(A=S\Lambda S^*\),\(\Lambda\) 对角)等价于 \(A^{-*}A\) 可对角化且特征值模为 1,等价于 \(A=BCB\)(\(B\) 正定、\(C\) 正规)等六种说法——它们都是正规矩阵性质的类比。
需要这些结论时(例如研究非对称矩阵的二次型分类),回查原书 PDF p.309–315 及 Horn–Sergeichuk 的系列论文。
4b.6 共轭相似(4.6 节,选读)
定义 4.6.1 若存在非奇异 \(S\) 使 \(A=SB\bar S^{-1}\),称 \(A,B\) 共轭相似(consimilar)。它来自反线性变换(\(T(ax)=\bar aTx\),如量子力学中的时间反演)在不同基下的表示。酉矩阵满足 \(\bar U^{-1}=U^T\),所以酉共轭相似就是酉合同。
共轭特征值(定义 4.6.5):\(A\bar x=\lambda x\),\(x\ne0\)。若 \(\lambda\) 是共轭特征值,则 \(e^{i\theta}\lambda\) 对一切 \(\theta\) 都是(相位自由),通常取非负代表 \(|\lambda|\);\(\lambda\) 是共轭特征值仅当 \(|\lambda|^2\) 是 \(A\bar A\) 的特征值。例如 \(\begin{bmatrix}0&-1\\1&0\end{bmatrix}\) 没有共轭特征向量(\(A\bar A=-I\))。
主要结论:
- 定理 4.6.3:\(A\) 可共轭三角化 ⇔ 可酉共轭三角化 ⇔ \(A\bar A\) 的特征值全为非负实数。
- 定理 4.6.4:\(A\) 可酉共轭对角化 ⇔ \(A\) 对称(即 Autonne–Takagi)。
- 定理 4.6.11:\(A\) 可共轭对角化 ⇔ \(A\bar A\) 可对角化、特征值全为非负实数、且 \(\operatorname{rank}A=\operatorname{rank}A\bar A\)。
- 共轭相似标准形(4.6.12):块 \(J_k(0)\)、\(J_k(\sigma)\)(\(\sigma>0\))、\(H_{2k}(\mu)\)(\(\mu\) 非实或负实),由 \(A\bar A\) 的 Jordan 形加上秩序列决定(4.6.14)。
- 推论 4.6.15:每个方阵共轭相似于 \(-A\)、\(\bar A\)、\(A^T\)、\(A^*\)、某个 Hermitian 矩阵、某个实矩阵。
- 4.6.P2:可对角化与可共轭对角化互不包含,\(\begin{bmatrix}i&1\\0&i\end{bmatrix}\) 不可对角化但可共轭对角化,\(\begin{bmatrix}1&-1\\1&1\end{bmatrix}\) 反之。
- 4.6.P12:\(\begin{bmatrix}1&i\\i&-1\end{bmatrix}\) 的 Jordan 形是 \(J_2(0)\)(幂零),但共轭相似标准形是 \(J_1(2)\oplus J_1(0)\)(它对称,奇异值为 2 和 0)。
这些结果在量化中没有已知的直接应用。
量化实战
实战 1:波动率与谱、对冲后的残余风险、KKT 矩阵、状态比较与最大 Sharpe
import numpy as np
import scipy.linalg as sla
rng = np.random.default_rng(11)
def inertia(M, tol=1e-10):
lam = np.linalg.eigvalsh(M)
return (int((lam > tol).sum()), int((lam < -tol).sum()), int((abs(lam) <= tol).sum()))
# ---------- 1. Ostrowski:协方差 Σ = D R D 的特征值被 vol² 夹住 ----------
n = 6
A = rng.standard_normal((n, 2)); R = A @ A.T + np.eye(n)
R = R / np.sqrt(np.outer(np.diag(R), np.diag(R))) # 相关矩阵
vol = np.array([0.15, 0.20, 0.25, 0.30, 0.40, 0.60]) # 年化波动
D = np.diag(vol)
lam_R, lam_S = np.linalg.eigvalsh(R), np.linalg.eigvalsh(D @ R @ D)
theta = lam_S / lam_R
print("θ_k = λ_k(DRD)/λ_k(R):", theta.round(4))
print(f"Ostrowski 区间 [σ_min², σ_max²] = [{vol.min()**2:.4f}, {vol.max()**2:.4f}],"
f"全部落入?{np.all((theta >= vol.min()**2 - 1e-12) & (theta <= vol.max()**2 + 1e-12))}")
# ---------- 2. Haynsworth:KKT 矩阵的惯性 = Σ 的惯性 + Schur 补的惯性 ----------
N = 5
G = rng.standard_normal((N, N)); Sigma = G @ G.T / N + 0.1 * np.eye(N)
e = np.ones((N, 1))
KKT = np.block([[Sigma, e], [e.T, np.zeros((1, 1))]]) # 预算约束下最小方差的 KKT 矩阵
schur = -e.T @ np.linalg.solve(Sigma, e) # Schur 补 0 - eᵀΣ⁻¹e
print(f"\ni(Σ) = {inertia(Sigma)}, i(Schur 补) = {inertia(schur)}, i(KKT) = {inertia(KKT)}")
# 条件协方差 = Schur 补:用 2 个对冲工具对冲 4 只股票后的残余协方差
M = rng.standard_normal((6, 6)); C = M @ M.T / 6 + 0.05 * np.eye(6)
C11, C12, C22 = C[:4, :4], C[:4, 4:], C[4:, 4:]
resid = C11 - C12 @ np.linalg.solve(C22, C12.T) # 最优对冲后的残余协方差
print("残余协方差 ⪯ 原协方差(逐个特征值更小)?",
np.all(np.linalg.eigvalsh(resid) <= np.linalg.eigvalsh(C11) + 1e-12))
# ---------- 3. 同时对角化 / 广义特征值:平静期 vs 压力期 ----------
N = 10
B = rng.normal(1, 0.3, (N, 1))
Sig_calm = 0.01 * B @ B.T + np.diag(rng.uniform(0.02, 0.04, N))
Sig_stress = 0.06 * B @ B.T + np.diag(rng.uniform(0.02, 0.04, N)) # 市场因子方差 ×6
lam, W = sla.eigh(Sig_stress, Sig_calm) # 解 Σ_s w = λ Σ_c w,W 满足 WᵀΣ_c W = I
print("\nWᵀΣ_calm W = I?", np.allclose(W.T @ Sig_calm @ W, np.eye(N)),
" WᵀΣ_stress W 对角?", np.allclose(W.T @ Sig_stress @ W, np.diag(lam)))
print("广义特征值(压力期/平静期方差比):", lam.round(2))
w_eq = np.ones(N) / N
ratio = lambda w: (w @ Sig_stress @ w) / (w @ Sig_calm @ w)
print(f"方差比:最敏感方向 {ratio(W[:, -1]):.2f},等权组合 {ratio(w_eq):.2f},"
f"最不敏感方向 {ratio(W[:, 0]):.2f}")
beta_exp = lambda w: abs(float(B[:, 0] @ w)) / np.linalg.norm(w)
print(f"单位范数下的市场暴露 |bᵀw|/‖w‖:最敏感方向 {beta_exp(W[:, -1]):.2f},最不敏感方向 {beta_exp(W[:, 0]):.2f}")
# ---------- 4. 最大 Sharpe 比 = 秩一广义特征问题 ----------
mu = rng.normal(0.05, 0.03, N)
lam_mu, _ = sla.eigh(np.outer(mu, mu), Sig_calm)
print(f"\nmax (wᵀμ)²/wᵀΣw = {lam_mu[-1]:.4f},μᵀΣ⁻¹μ = {mu @ np.linalg.solve(Sig_calm, mu):.4f}"
f"(最大 Sharpe = {np.sqrt(lam_mu[-1]):.3f})")
关键输出:
θ_k = λ_k(DRD)/λ_k(R): [0.0394 0.0554 0.0791 0.0999 0.096 0.1759]
Ostrowski 区间 [σ_min², σ_max²] = [0.0225, 0.3600],全部落入?True
i(Σ) = (5, 0, 0), i(Schur 补) = (0, 1, 0), i(KKT) = (5, 1, 0)
残余协方差 ⪯ 原协方差(逐个特征值更小)? True
WᵀΣ_calm W = I? True WᵀΣ_stress W 对角? True
广义特征值(压力期/平静期方差比): [0.79 0.93 1.02 1.05 1.12 1.16 1.22 1.26 1.83 5.1 ]
方差比:最敏感方向 5.10,等权组合 5.02,最不敏感方向 0.79
单位范数下的市场暴露 |bᵀw|/‖w‖:最敏感方向 3.47,最不敏感方向 0.01
max (wᵀμ)²/wᵀΣw = 0.6984,μᵀΣ⁻¹μ = 0.6984(最大 Sharpe = 0.836)
读法:
- Ostrowski:6 只资产波动率从 15% 到 60%,协方差的每个特征值都等于相关矩阵对应特征值乘一个落在 \([0.0225,0.36]\) 里的因子。注意因子并不单调(第 4、5 个分别为 0.0999、0.096),定理只保证落在区间内。
- Haynsworth:KKT 矩阵的惯性 \((5,1,0)\) 恰好是 \(\Sigma\) 的 \((5,0,0)\) 加上 Schur 补的 \((0,1,0)\)。对冲后残余协方差的每个特征值都不超过对冲前,这是单调性定理的直接推论。
- 状态比较:压力期市场因子方差放大 6 倍。广义特征值告诉我们:有一个方向(几乎就是市场组合方向,市场暴露 3.47)方差放大 5.1 倍;其余方向的方差比都在 1 附近(0.79–1.83)。等权组合高度暴露于市场因子,方差比 5.02,几乎和最坏方向一样。最不敏感的方向市场暴露接近 0——它是一个"市场中性"组合。实务中,这类分析用于识别哪些组合在危机中风险会急剧放大,比单纯比较两个矩阵的特征值更有信息:两个协方差矩阵各自的特征向量不同,只有广义特征向量能同时"对角化"二者。
- 最大 Sharpe:秩一广义特征问题的唯一非零特征值就是 \(\mu^T\Sigma^{-1}\mu\),开方即最大 Sharpe 比。
本章小结
合同变换 \(A\mapsto SAS^*\) 描述二次型和协方差矩阵在变量替换下的变化。它不保持特征值,但保持惯性(正、负、零特征值的个数),这就是 Sylvester 惯性定律;Ostrowski 定理把它定量化:\(\lambda_k(SAS^*)=\theta_k\lambda_k(A)\),\(\theta_k\) 落在 \(S\) 的最小、最大奇异值平方之间。由此可知协方差 \(\Sigma=DRD\) 的特征值被相关矩阵特征值乘以最小、最大方差夹住,波动率差异越大协方差越病态。Haynsworth 定理用 Schur 补计算分块矩阵的惯性,统一了正定性的分块检验、条件协方差和 KKT 矩阵的不定性。两个 Hermitian 矩阵若一个正定,总能同时合同对角化,这就是广义特征值问题 \(Bw=\lambda Aw\),量化中用于比较两个协方差矩阵、求最大 Sharpe 比、Fisher 判别与典型相关分析。复对称矩阵、Autonne–Takagi 分解、*合同与合同标准形、共轭相似构成第 4 章的理论后半,与量化关系很弱,知道它们存在即可。
| 概念 / 定理 | 公式 | 量化用途 |
|---|---|---|
| 协方差的变换 | \(\operatorname{Cov}(SX)=S\Sigma S^*\) | 组合、因子、白化 |
| 惯性 | \(i(A)=(i_+,i_-,i_0)\) | 正定性、KKT 结构 |
| Sylvester 惯性定律 | \(A\sim_* B\iff i(A)=i(B)\) | 线性变换保持正定 |
| Ostrowski | \(\lambda_k(SAS^*)=\theta_k\lambda_k(A)\),\(\theta_k\in[\sigma_n^2,\sigma_1^2]\) | 相关 vs 协方差的谱 |
| 相对扰动界 | \(\frac{\vert \lambda_k(SAS^*)-\lambda_k(A)\vert }{\vert \lambda_k(A)\vert }\le\rho(I-SS^*)\) | 小特征值的稳定性 |
| Haynsworth | \(i(A)=i(B)+i(A/B)\) | 分块正定性、KKT |
| 同时对角化(酉) | \(\iff AB=BA\) | |
| 同时对角化(合同) | \(A\succ0\Rightarrow W^*AW=I,\ W^*BW=\Lambda\) | 广义特征值、状态比较 |
| 广义 Rayleigh 商 | \(\lambda_{\max}=\max\frac{w^*Bw}{w^*Aw}\) | 最大 Sharpe、Fisher 判别 |
| Autonne–Takagi | \(A=A^T\Rightarrow A=U\Sigma U^T\) | (理论) |
| 可共轭对角化 | \(A\bar A\) 可对角化、特征值 \(\ge0\)、秩条件 | (理论) |
练习
基础
- 判断 \(A=\begin{bmatrix}2&1&0\\1&2&1\\0&1&2\end{bmatrix}\) 与 \(B=\begin{bmatrix}1&0&0\\0&3&0\\0&0&-1\end{bmatrix}\) 是否合同。 答案要点:\(A\) 的顺序主子式 \(2,3,4\) 全正,正定,惯性 \((3,0,0)\);\(B\) 惯性 \((2,1,0)\),不合同。
- 设 \(\Sigma\succ0\),\(W\in\mathbf R^{n\times k}\) 列满秩。证明 \(W^T\Sigma W\succ0\),并说明 \(W\) 列不满秩时会怎样。 提示:\(x^TW^T\Sigma Wx=(Wx)^T\Sigma(Wx)>0\) 当 \(Wx\ne0\);列不满秩时存在 \(x\ne0\) 使 \(Wx=0\),只能得到半正定。
- 相关矩阵 \(R\) 的特征值为 \(0.2,0.5,2.3\),三只资产的波动率为 \(10\%,20\%,40\%\)。给出协方差矩阵 \(\Sigma=DRD\) 每个特征值的范围,以及 \(\kappa(\Sigma)\) 的一个上界。 答案要点:\(\lambda_1\in[0.002,0.032]\),\(\lambda_2\in[0.005,0.08]\),\(\lambda_3\in[0.023,0.368]\);\(\kappa(\Sigma)\le\kappa(R)\cdot16=11.5\times16=184\)。
- 用 Haynsworth 定理求 \(K=\begin{bmatrix}\Sigma&A^T\\A&0\end{bmatrix}\) 的惯性,其中 \(\Sigma\in\mathbf R^{n\times n}\) 正定,\(A\in\mathbf R^{m\times n}\) 行满秩。 答案要点:Schur 补 \(-A\Sigma^{-1}A^T\) 负定,\(i(K)=(n,m,0)\)。
- 给出两个 \(2\times2\) 实对称矩阵,它们不可交换,但可以同时合同对角化。 提示:取 \(A=\begin{bmatrix}2&1\\1&2\end{bmatrix}\succ0\),\(B=\operatorname{diag}(1,0)\)。
进阶
- 证明:若 \(A\succ0\)、\(B\) 对称,则 \(B-\lambda A\) 对所有 \(\lambda<\lambda_{\min}(A^{-1}B)\) 正定。由此说明"最小方差比"\(\min_w\frac{w^TBw}{w^TAw}\) 等于最小广义特征值。
- 设 \(\hat\Sigma=\Sigma^{1/2}(I+E)\Sigma^{1/2}\)(乘法型估计误差,\(E\) 对称且 \(\|E\|_2<1\))。用 Ostrowski 定理证明 \(\big|\lambda_k(\hat\Sigma)/\lambda_k(\Sigma)-1\big|\le\|E\|_2\),并与 Weyl 的加性界比较:对最小特征值,哪个更有用? 提示:令 \(M=(I+E)^{1/2}\),则 \(\hat\Sigma=XY\),\(X=\Sigma^{1/2}M\),\(Y=M\Sigma^{1/2}\),而 \(YX=M\Sigma M\) 是 \(\Sigma\) 的合同,二者特征值相同(第 01 章 \(AB\) 与 \(BA\))。\(M\) 的奇异值平方即 \(I+E\) 的特征值,落在 \([1-\|E\|_2,1+\|E\|_2]\)。乘法型误差下最小特征值的相对误差仍有界,而加性界 \(\|\hat\Sigma-\Sigma\|_2\le\lambda_{\max}(\Sigma)\|E\|_2\) 可能远大于 \(\lambda_{\min}\) 本身。
- 两个协方差矩阵 \(\Sigma_1,\Sigma_2\succ0\)。证明广义特征值 \(\lambda_i\) 全为正,且 \(\prod\lambda_i=\det\Sigma_2/\det\Sigma_1\)。说明如何用 \(\sum(\log\lambda_i)^2\) 度量两个协方差矩阵的"距离"(这就是正定矩阵上的仿射不变 Riemann 距离)。
- 编程:用两段不同时期的模拟收益(如前 500 天、后 500 天,中间市场因子方差翻倍)估计两个样本协方差,计算广义特征值和特征向量。最大广义特征值对应的组合与"市场组合"的夹角是多少?
- 证明 Sylvester 判据的必要性部分:若 \(A\succ0\),则所有顺序主子式为正。再用 Haynsworth 定理证明充分性。 提示:主子矩阵 \(= E^TAE\)(\(E\) 是 \(I\) 的前 \(k\) 列),合同保持正定;充分性对 \(k\) 归纳,Schur 补 \(a_k/a_{k-1}>0\)。
原书推荐习题
- 4.5.P5(PDE 类型与惯性)、4.5.P8(Ostrowski 推出相对扰动界)、4.5.P18(广义特征值互异 ⇒ 同时对角化)、4.5.P19(惯性定律的同伦证明)、4.5.P21(Haynsworth 惯性加性)、4.5.P37(可正规化矩阵的六种刻画)。
- 4.4.P1(对称矩阵 \(=SS^T\))、4.4.P27(对称矩阵奇异值与对角元)、4.4.P38(QS 分解)。
- 4.6.P2(可对角化与可共轭对角化互不包含)、4.6.P9(奇数阶矩阵必有共轭特征对)、4.6.P12、4.6.P21(共轭对角化算法)。
原书对照
| 本章小节 | 原书小节 | 书页 | PDF 页 |
|---|---|---|---|
| 4b.1 合同:二次型的变量替换 | 4.5 Congruences and diagonalizations(开头) | 279–280 | 299–300 |
| 4b.2 惯性与 Sylvester 惯性定律 | 4.5(4.5.6–4.5.13)及习题 4.5.P5、P8、P16、P19、P21 | 280–285, 295–299 | 300–305, 315–319 |
| 4b.3 两个二次型的同时对角化 | 4.5(4.5.14–4.5.17)及习题 4.5.P4、P6、P7、P18、P36 | 285–288 | 305–308 |
| 4b.4 复对称矩阵与酉合同 | 4.4 Unitary congruence and complex symmetric matrices(含习题) | 260–279 | 280–299 |
| 4b.5 *合同与合同的标准形 | 4.5(4.5.18–4.5.27)及习题 4.5.P37 | 289–295 | 309–315 |
| 4b.6 共轭相似 | 4.6 Consimilarity and condiagonalization(含习题) | 300–311 | 320–331 |
延伸阅读:多矩阵同时对角化见 Hong–Horn (1985);*合同与合同标准形及其算法见 Horn–Sergeichuk (2006, 2008);Autonne–Takagi 分解的历史见原书 4.4 节注记。下一章(第 05a 章)转向度量"大小"的工具——向量范数与矩阵范数,它们是第 06 章特征值扰动理论的语言。