量化交易中文教材

第 04b 章 合同、惯性与同时对角化

对应原书:Horn & Johnson《Matrix Analysis》第 2 版,第 4 章 Hermitian Matrices, Symmetric Matrices, and Congruences 的 4.4–4.6 节(书 p.260–311,PDF p.280–331)。第 4 章前半(Rayleigh 商、Weyl 不等式、交错、优超)见第 04a 章。

第 04a 章研究的是"加一个矩阵"对特征值的影响。本章研究另一种变换:变量替换。组合权重换一组基、收益做线性变换、从相关矩阵换到协方差矩阵,协方差矩阵都按 \(\Sigma\mapsto S\Sigma S^T\) 变化,这叫合同(congruence)。合同会改变特征值,但不改变正、负、零特征值的个数(Sylvester 惯性定律),而且改变的幅度可以用 \(S\) 的奇异值精确控制(Ostrowski 定理)。本章的另一个主题是两个二次型的同时对角化,即广义特征值问题 \(Bx=\lambda Ax\),它是比较两个协方差矩阵、求最大 Sharpe 比、做 Fisher 判别的共同数学结构。

原书 4.4 节(酉合同与复对称矩阵)、4.5 节后半(*合同与合同标准形)和 4.6 节(共轭相似)是纯理论内容,在量化中基本没有直接应用,本章只作简介,告诉你它们讲什么、何时需要回原书。

学习目标

读完本章,你应当能够:

  1. 区分相似、酉相似与合同三种变换,知道协方差矩阵在线性变换下按 \(S\Sigma S^T\) 变化。
  2. 掌握惯性的定义与 Sylvester 惯性定律,会用 Ostrowski 定理估计合同变换后特征值的变化范围。
  3. 会用 Schur 补计算分块矩阵的惯性(Haynsworth 定理),并用于判断协方差正定性和 KKT 矩阵的结构。
  4. 掌握两个 Hermitian 矩阵同时对角化的条件,特别是"一个正定"时总能同时合同对角化,会用 scipy.linalg.eigh(B, A) 解广义特征值问题。
  5. 知道复对称矩阵、Autonne–Takagi 分解、*合同标准形和共轭相似是什么,在需要时能找到原书相应位置。

读前导读

这一章在解决什么问题。 你在 CFA 里算过两资产组合方差 \(w_1^2\sigma_1^2+w_2^2\sigma_2^2+2w_1w_2\rho\sigma_1\sigma_2\),矩阵写法是 \(w^T\Sigma w\)。把 \(K\) 个组合的权重排成矩阵 \(W\),这些组合收益之间的协方差就是 \(W^T\Sigma W\)。这种"两边各乘一次"的变换叫合同。它和上一章的"相似"不同:相似保持特征值,合同不保持——把收益单位从小数改成百分比,协方差的特征值全部放大 10000 倍。那么合同下什么不变?答案是正、负、零特征值的个数(惯性)。直观上,"有没有方差为负的组合"不会因为换了记账单位而改变。

本章对你有用的结论有三条。第一,Ostrowski 定理:协方差矩阵 = 波动率 × 相关矩阵 × 波动率,所以协方差的特征值被相关矩阵特征值乘以最小、最大方差夹住,资产波动率差异越大协方差越病态。第二,Haynsworth 定理:分块矩阵的正负特征值个数可以拆成"左上块"加"Schur 补",由此看清条件协方差(对冲后残余风险)和带约束优化的 KKT 矩阵为什么总是不定。第三,广义特征值问题 \(Bw=\lambda Aw\):找出在两个协方差矩阵下"方差之比"最大或最小的组合。比较平静期与压力期、求最大 Sharpe 比,用的都是它。

需要先想起来的数学。

  • 协方差的线性变换:标量情形 \(\operatorname{Var}(aX)=a^2\operatorname{Var}(X)\);向量情形 \(\operatorname{Cov}(SX)=S\Sigma S^T\)。\(S\) 是一行权重时,就是组合方差 \(w^T\Sigma w\)。见 第 00 册第 06 章 线性代数速成。
  • 奇异值:任意矩阵 \(S\) 的奇异值是 \(S^TS\) 特征值的平方根,表示 \(S\) 在各方向上的最大和最小"拉伸倍数"。对角阵 \(D=\operatorname{diag}(0.1,0.4)\) 的奇异值就是 \(0.4\) 和 \(0.1\)。
  • Schur 补:分块矩阵 \(\begin{bmatrix}B&C\\C^T&D\end{bmatrix}\) 中 \(D-C^TB^{-1}C\)。它就是第 03b 章说的条件协方差:用第一组资产对冲第二组之后剩下的协方差。
  • 对称矩阵的平方根:\(A\succ0\) 时 \(A=P\Lambda P^T\),\(A^{1/2}=P\Lambda^{1/2}P^T\),满足 \(A^{1/2}A^{1/2}=A\);\(A^{-1/2}\) 类似。\(A^{-1/2}x\) 叫"白化":把相关的变量变成互不相关、方差为 1 的变量。
  • 拉格朗日乘子与 KKT 条件:带等式约束的最小化 \(\min f(w)\) s.t. \(e^Tw=1\),令拉格朗日函数的梯度为零,得到一个线性方程组,其系数矩阵就是 KKT 矩阵。见 第 00 册第 05 章 多元微积分与优化。

符号提示:\(S^*\) 是共轭转置,实矩阵读作 \(S^T\),"*合同"在实数情形就是普通的合同;\(i_+,i_-,i_0\) 分别是正、负、零特征值个数;\(A/B\) 表示 \(A\) 关于子块 \(B\) 的 Schur 补;\(\kappa(\cdot)\) 是条件数(最大特征值 / 最小特征值);\(\bar A\) 是逐元素取复共轭。

怎么读这一章。 核心必读:4b.1、4b.2.1–4b.2.4(惯性、Sylvester、Ostrowski、Haynsworth 及各自的量化含义)、4b.3.1–4b.3.3(同时对角化与广义特征值),以及实战 1。4b.4(复对称矩阵)、4b.5(*合同标准形)、4b.6(共轭相似)与量化关系很弱,第一遍完全可以跳过,以后真遇到再回来查。4b.2.2 中的同伦证明、PDE 类型、4b.3.4 也可以先跳过。


4b.1 合同:二次型的变量替换(4.5 节开头)

4b.1.1 三个动机

原书 4.5 节用三个例子引出合同:

  1. 二阶偏微分方程的变量替换:\(Lf=\sum a_{ij}(x)\partial^2f/\partial x_i\partial x_j+\cdots\) 的系数矩阵 \(A\) 对称。做非奇异变量替换 \(s=s(x)\),Jacobian 为 \(S\),新系数矩阵变为 \(SAS^T\)。物理规律不应依赖坐标,所以人们关心 \(\{SAS^T\}\) 的不变量。
  2. 协方差矩阵:随机向量 \(X\) 的协方差 \(\operatorname{Cov}(X)=\Sigma\),对线性变换 \(SX\):
\[\operatorname{Cov}(SX)=S\,\Sigma\,S^*.\tag{4.5.3*}\]
  1. 二次型:\(Q_A(x)=x^TAx\),\(H_B(x)=x^*Bx\),则 \(Q_A(Sx)=Q_{S^TAS}(x)\),\(H_B(Sx)=H_{S^*BS}(x)\)。

推导拆解:(4.5.3*) 的推导只用了"期望是线性的"。设 \(X\) 均值为 \(m\),则 \(SX\) 的均值为 \(Sm\)。\(\operatorname{Cov}(SX)=\mathbb E[(SX-Sm)(SX-Sm)^*]=\mathbb E[S(X-m)(X-m)^*S^*]=S\,\mathbb E[(X-m)(X-m)^*]\,S^*=S\Sigma S^*\)。中间那步把常数矩阵 \(S\) 提到期望外面,理由与 \(\mathbb E[aX]=a\mathbb E[X]\) 相同。(\(\mathbb E\) 表示期望。) 两个例子:\(S=w^T\)(一行权重)时得到组合方差 \(w^T\Sigma w\);\(S=\operatorname{diag}(1/\sigma_1,\dots,1/\sigma_n)\) 时得到相关矩阵 \(R=D^{-1}\Sigma D^{-1}\)。注意二次型那一条里 \(S\) 的位置是 \(S^TAS\),协方差那一条是 \(SAS^T\)——方向相反,只是看 \(S\) 作用在"权重"还是"收益"上,本质是同一种变换。

量化中的合同无处不在:组合 \(w\) 的方差 \(w^T\Sigma w\);\(K\) 个组合(矩阵 \(W\) 的列)的协方差 \(W^T\Sigma W\);因子模型 \(r=Bf+\varepsilon\) 中因子部分 \(BFB^T\);从相关矩阵到协方差矩阵 \(\Sigma=DRD\)(\(D\) 为波动率对角阵);把收益换成超额收益或换币种、做 PCA 旋转、做白化 \(\Sigma^{-1/2}r\),全都是合同变换。

4b.1.2 定义

定义 4.5.4 设 \(S\) 非奇异。

  • \(B=SAS^*\):称 \(B\) 与 \(A\) *合同(star-congruent,conjunctive);
  • \(B=SAS^T\):称 \(B\) 与 \(A\) 合同或 \(^T\)合同(T-congruent)。

两者都是等价关系(定理 4.5.5),合同的矩阵秩相同。即使 \(S\) 奇异,\(SAS^*\) 也保持 Hermitian,\(SAS^T\) 也保持对称。习惯上:Hermitian 矩阵用 *合同,复对称矩阵用 \(^T\)合同。对实对称矩阵和实的 \(S\),两者相同。

与相似 \(S^{-1}AS\) 对照:酉矩阵满足 \(U^{-1}=U^*\),所以酉相似既是相似也是 *合同,两种不变量(特征值、惯性)都保持。一般的合同只保持惯性,不保持特征值。


4b.2 惯性与 Sylvester 惯性定律

4b.2.1 惯性

定义 4.5.6 Hermitian 矩阵 \(A\) 的**惯性(inertia)**是三元组

\[i(A)=\big(i_+(A),\ i_-(A),\ i_0(A)\big),\]

分别是正、负、零特征值的个数。\(i_+-i_-\) 称为符号差(signature)。\(\operatorname{rank}A=i_++i_-\),所以惯性由秩和符号差唯一确定。

惯性矩阵:把 \(A=U\Lambda U^*\) 的特征值按"正、负、零"排列,令 \(D=\operatorname{diag}(|\lambda_1|^{1/2},\dots,|\lambda_r|^{1/2},1,\dots,1)\),则 \(\Lambda=D\,I(A)\,D\),其中

\[I(A)=I_{i_+}\oplus(-I_{i_-})\oplus0_{i_0}.\]

于是 \(A=(UD)I(A)(UD)^*\)。

定理 4.5.7 每个 Hermitian 矩阵都 *合同于它的惯性矩阵(实对称矩阵经实矩阵合同于其惯性矩阵)。

白话解释:合同允许"在每个主方向上任意缩放"。特征值 \(4\) 的方向乘以 \(1/2\),二次型在该方向上就从 \(4\) 变成 \(1\);特征值 \(-9\) 的方向乘以 \(1/3\),就变成 \(-1\)。但缩放因子是平方后起作用的(\((1/2)^2\cdot4\)),平方永远为正,所以符号改不了,零也变不成非零。把所有能缩的都缩到 \(\pm1\),剩下的就只有"几个 \(+1\)、几个 \(-1\)、几个 \(0\)",这就是惯性矩阵。 例:\(A=\operatorname{diag}(4,-9,0)\),取 \(D=\operatorname{diag}(2,3,1)\),\(A=D\operatorname{diag}(1,-1,0)D\),惯性 \((1,1,1)\)。

4b.2.2 Sylvester 惯性定律

定理 4.5.8(Sylvester 惯性定律,law of inertia) 两个 Hermitian 矩阵 *合同,当且仅当它们的惯性相同。

证明 充分性由 4.5.7。必要性:设 \(A=SBS^*\)。秩相同,故 \(i_0\) 相同,只需证 \(i_+\) 相同。令 \(S_+(A)\) 是 \(A\) 的正特征值对应特征向量张成的子空间,维数 \(i_+(A)\),其上 \(x^*Ax>0\)。子空间 \(S^*S_+(A)\) 维数也是 \(i_+(A)\),且对其中的 \(y=S^*x\ne0\),

\[y^*By=x^*SBS^*x=x^*Ax>0.\]

由第 04a 章推论 4.2.12(在 \(k\) 维子空间上二次型为正 ⇒ 至少 \(k\) 个正特征值),\(i_+(B)\ge i_+(A)\)。交换 \(A,B\) 得反向不等式。\(\square\)

推导拆解:证明的思路是"把 \(A\) 下方差为正的那批组合,搬到 \(B\) 下看"。 第 1 步:\(A\) 有 \(i_+(A)\) 个正特征值,它们的特征方向张成一个子空间,里面任何非零组合在 \(A\) 下"方差"都为正(Rayleigh 商是正特征值的加权平均)。 第 2 步:用 \(S^*\) 把这个子空间映过去。\(S\) 非奇异,所以维数不变,仍是 \(i_+(A)\) 维。 第 3 步:映过去的每个向量 \(y=S^*x\) 在 \(B\) 下的二次型 \(y^*By\) 恰好等于 \(x^*Ax>0\)——这正是 \(A=SBS^*\) 的含义。 第 4 步:\(B\) 在一个 \(i_+(A)\) 维子空间上恒正,第 04a 章推论 4.2.12 说 \(B\) 至少有这么多正特征值。 再对称地反过来做一遍,两个数相等。\(i_0\) 由秩相等得到,\(i_-=n-i_+-i_0\) 也就相等了。

几条推论(原书练习):

  • Hermitian 矩阵 *合同于 \(I\) 当且仅当它正定。所以正定性在任何非奇异线性变换下保持:协方差矩阵正定,则任何一组线性无关组合的协方差矩阵仍正定。
  • 实对称矩阵经复矩阵 *合同 ⇔ 经实矩阵合同。
  • \(A\) 与 \(SAS^*\) 的第 \(j\) 个(非减序)特征值同号。
  • \(n\times n\) Hermitian 矩阵在 *合同下恰有 \(\binom{n+2}{2}\) 个等价类,由 \((i_+,i_-)\) 决定(4.5.P16);复对称矩阵在 \(^T\)合同下只有 \(n+1\) 类,按秩区分(定理 4.5.12:复数域上没有"符号",\(\sqrt{-1}\) 可以把负号吸收掉)。

一个漂亮的另证(4.5.P19,同伦论证):把 \(S\) 做 QR 分解 \(S=QR\),令 \(S(t)=tQ+(1-t)QR\)。对 \(t\in[0,1]\),\(S(t)=Q(tI+(1-t)R)\) 都非奇异(\(R\) 的对角元为正,\(tI+(1-t)R\) 是对角元为正的上三角矩阵)。\(S(t)AS(t)^*\) 的特征值连续变化且永远不过零(秩不变),所以惯性沿路径不变;\(t=1\) 时它与 \(A\) 酉相似。

PDE 的类型(4.5.P5):系数矩阵非奇异且特征值同号的二阶 PDE 是椭圆型(如 Laplace 方程),\(n-1\) 个同号、1 个异号是双曲型(如波动方程)。惯性定律保证类型不依赖坐标。Black–Scholes 方程(在时间方向上)是抛物型。

4b.2.3 Ostrowski 定理:惯性定律的定量版本

Sylvester 只说符号不变。合同变换把特征值放大或缩小多少?

定理 4.5.9(Ostrowski) 设 \(A\) Hermitian,\(S\) 非奇异,\(S\) 的奇异值为 \(\sigma_1\ge\cdots\ge\sigma_n>0\),特征值按非减排列。则对每个 \(k\),存在 \(\theta_k\in[\sigma_n^2,\sigma_1^2]\) 使

\[\lambda_k(SAS^*)=\theta_k\,\lambda_k(A).\tag{4.5.10}\]

证明 \(\lambda_1(SS^*)=\sigma_n^2\),\(\lambda_n(SS^*)=\sigma_1^2\)。矩阵 \(A-\lambda_k(A)I\) 的第 \(k\) 个特征值为 0,由 Sylvester,

\[S(A-\lambda_k(A)I)S^*=SAS^*-\lambda_k(A)SS^*\]

的第 \(k\) 个特征值也是 0。对它用 Weyl 不等式(第 04a 章 4.3.16):

\[\lambda_k(SAS^*)+\lambda_1\big(-\lambda_k(A)SS^*\big)\ \le\ 0\ \le\ \lambda_k(SAS^*)+\lambda_n\big(-\lambda_k(A)SS^*\big).\]

\(\lambda_k(A)>0\) 时整理得 \(\sigma_n^2\lambda_k(A)\le\lambda_k(SAS^*)\le\sigma_1^2\lambda_k(A)\);\(\lambda_k(A)<0\) 时不等号方向相应调换。\(\square\)

推导拆解:"整理"这一步补全如下(设 \(\lambda_k(A)>0\),简写 \(\lambda=\lambda_k(A)\))。矩阵 \(-\lambda SS^*\) 的特征值是 \(SS^*\) 的特征值乘以 \(-\lambda<0\),乘负数会颠倒大小顺序,所以它的最小特征值是 \(-\lambda\sigma_1^2\),最大特征值是 \(-\lambda\sigma_n^2\)。代入:左边不等式 \(\lambda_k(SAS^*)-\lambda\sigma_1^2\le0\),即 \(\lambda_k(SAS^*)\le\sigma_1^2\lambda\);右边 \(0\le\lambda_k(SAS^*)-\lambda\sigma_n^2\),即 \(\lambda_k(SAS^*)\ge\sigma_n^2\lambda\)。令 \(\theta_k=\lambda_k(SAS^*)/\lambda\) 即得。 关键技巧是第一步:把"\(\lambda_k(SAS^*)\) 与 \(\lambda_k(A)\) 有多接近"转化成"某个矩阵的第 \(k\) 个特征值是否为 0",后者正是惯性定律能回答的符号问题。 数值例:\(A=\operatorname{diag}(1,2)\),\(S=\operatorname{diag}(0.1,0.4)\),\(SAS^T=\operatorname{diag}(0.01,0.32)\)。\(\theta_1=0.01\)、\(\theta_2=0.16\),都落在 \([0.1^2,0.4^2]=[0.01,0.16]\) 中。

特例:\(A=I\) 时 \(\theta_k=\lambda_k(SS^*)\);\(S\) 酉时 \(\theta_k=1\)。\(S\) 奇异时由连续性(\(S+\epsilon I\),\(\epsilon\to0\))得 \(\theta_k\in[0,\sigma_1^2]\)(推论 4.5.11):\(SAS^*\) 的正(负)特征值个数不超过 \(A\) 的。(原书 4.5.11 此处写作"nonincreasing order (4.2.1)",按 4.2.1 的约定实为非减排列。)

量化含义:相关矩阵与协方差矩阵的谱。\(\Sigma=DRD\),\(D=\operatorname{diag}(\sigma_1,\dots,\sigma_n)\) 是各资产波动率。\(D\) 的奇异值就是波动率,Ostrowski 定理给出

\[\sigma_{\min}^2\,\lambda_k(R)\ \le\ \lambda_k(\Sigma)\ \le\ \sigma_{\max}^2\,\lambda_k(R).\]
协方差的第 \(k\) 个特征值等于相关矩阵的第 \(k\) 个特征值乘以一个介于最小、最大方差之间的因子。由此 \(\kappa(\Sigma)\le\kappa(R)\cdot(\sigma_{\max}/\sigma_{\min})^2\):资产波动率差异越大,协方差矩阵越病态。这是许多实务模型先在相关矩阵上做 PCA 或收缩、再乘回波动率的原因之一。

相对扰动界(4.5.P8):由 Ostrowski,

\[\frac{|\lambda_k(SAS^*)-\lambda_k(A)|}{|\lambda_k(A)|}\le\rho(I-SS^*).\]

若 \(S\) 接近酉矩阵,特征值的相对变化很小,不论特征值本身多小。这和 Weyl 的绝对误差界 \(\|E\|_2\) 互补:对于很小的特征值,Weyl 界可能远大于特征值本身,而乘法型扰动的相对界仍然有意义。

4b.2.4 Haynsworth 惯性加性定理

习题 4.5.P21(Haynsworth) 设 \(A=\begin{bmatrix}B&C\\C^*&D\end{bmatrix}\) Hermitian,\(B\) 非奇异,Schur 补 \(A/B=D-C^*B^{-1}C\)。则 \(A\) 与 \(B\oplus(A/B)\) *合同,所以

\[i_\pm(A)=i_\pm(B)+i_\pm(A/B),\qquad i_0(A)=i_0(A/B).\tag{4.5.28}\]

证明就是分块消元(第 00 章):

\[\begin{bmatrix}I&0\\-C^*B^{-1}&I\end{bmatrix}\begin{bmatrix}B&C\\C^*&D\end{bmatrix}\begin{bmatrix}I&-B^{-1}C\\0&I\end{bmatrix}=\begin{bmatrix}B&0\\0&D-C^*B^{-1}C\end{bmatrix},\]

左右两个矩阵互为共轭转置,这正是一次 *合同。习题 4.5.P22 说明可以由此给出 Cauchy 交错定理的另一个证明。

推导拆解:分块乘法分两步做。先右乘:\(\begin{bmatrix}B&C\\C^*&D\end{bmatrix}\begin{bmatrix}I&-B^{-1}C\\0&I\end{bmatrix}=\begin{bmatrix}B&-C+C\\C^*&-C^*B^{-1}C+D\end{bmatrix}=\begin{bmatrix}B&0\\C^*&A/B\end{bmatrix}\),右上块被消掉。再左乘 \(\begin{bmatrix}I&0\\-C^*B^{-1}&I\end{bmatrix}\):左下块变成 \(-C^*B^{-1}B+C^*=0\),其余不变。左右两个消元矩阵都是单位三角阵,行列式为 1,必然非奇异,所以这是合法的合同;再由 Sylvester 惯性定律,\(A\) 和 \(B\oplus(A/B)\) 惯性相同,而分块对角矩阵的惯性就是各块惯性之和。 标量例:\(K=\begin{bmatrix}2&1\\1&0\end{bmatrix}\),\(B=2\),Schur 补 \(0-1\cdot\tfrac12\cdot1=-\tfrac12\)。所以 \(i(K)=(1,0,0)+(0,1,0)=(1,1,0)\):一正一负。直接算特征值 \(1\pm\sqrt2\),确实一正一负。

量化含义:

  1. 分块检查正定性:\(A\succ0\iff B\succ0\) 且 \(A/B\succ0\)。大规模协方差矩阵可以分块检验,Cholesky 分解本质上就是反复取 Schur 补。
  2. 条件协方差 = Schur 补:联合正态的 \((X_1,X_2)\) 中,\(\operatorname{Cov}(X_1\mid X_2)=\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}\),也是用 \(X_2\) 中的工具做最优线性对冲后的残余协方差(第 00 章已推导)。由于 \(\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}\succeq0\),第 04a 章的单调性定理给出:对冲后残余协方差的每个特征值都不超过对冲前的。
  3. KKT 矩阵的惯性:预算约束下的最小方差问题 \(\min\tfrac12w^T\Sigma w\) s.t. \(e^Tw=1\) 的 KKT 矩阵 \(K=\begin{bmatrix}\Sigma&e\\e^T&0\end{bmatrix}\)。Schur 补为 \(-e^T\Sigma^{-1}e<0\),所以 \(i(K)=(n,1,0)\):KKT 矩阵总是不定的,不能用 Cholesky 分解,要用对称不定分解(\(LDL^T\))或零空间法(见第 04 册约束优化部分)。一般地,\(m\) 个线性无关约束的等式约束二次规划,KKT 矩阵恰有 \(m\) 个负特征值当且仅当 Hessian 在约束零空间上正定。

金融直觉:KKT 矩阵为什么一定有负特征值?拉格朗日乘子 \(\lambda\) 可以理解为"预算约束的影子价格",KKT 系统是在 \((w,\lambda)\) 上找鞍点:对权重 \(w\) 求最小(方差越小越好),对乘子 \(\lambda\) 求最大(约束最紧的价格)。一个方向往上弯、一个方向往下弯,这就是不定矩阵;有几个约束,就有几个往下弯的方向。 关于上面最后一句的精确说法:更准确的结论是 \(i(K)=i(Z^THZ)+(m,m,0)\),\(Z\) 的列是约束零空间的一组基。所以"\(K\) 恰有 \(m\) 个负特征值"只能推出约束零空间上的 Hessian 半正定(可能有零特征值);要得到"正定",还需要 \(K\) 非奇异,即 \(i(K)=(n,m,0)\)。这正是练习 4 的答案形式。


4b.3 两个二次型的同时对角化

4b.3.1 动机:小振动与广义特征值

原书的动机来自力学:稳定平衡点附近势能 \(V=q^TAq\)、动能 \(T=\dot q^TB\dot q\)(\(A,B\) 实对称)。若存在非奇异 \(S\) 使 \(SAS^T\) 与 \(SBS^T\) 同时为对角阵,则在新坐标下运动方程解耦成 \(n\) 个独立振子(简正模态,normal modes)。动能矩阵正定就足以保证这一点。

量化里的对应问题是:给定两个协方差矩阵 \(A\) 和 \(B\),能否找到一组组合(坐标),使它们在两个矩阵下同时互不相关? 这些组合的"方差比"是什么?

4b.3.2 酉型同时对角化

定理 4.5.15(a) Hermitian 矩阵 \(A,B\) 可以被同一个酉矩阵同时对角化(\(A=U\Lambda U^*\),\(B=UMU^*\)),当且仅当 \(AB=BA\)。

两个不同时期的协方差矩阵一般不可交换,所以要求太强。放松要求:只要求 \(S\) 非奇异,用合同代替酉相似。

(定理 4.5.15(b)(c) 处理"对称与对称""Hermitian 与对称"的酉型同时对角化,条件分别是 \(A\bar B\) 正规 / Hermitian、\(AB=B\bar A\),属于复对称理论,量化中用不到。)

4b.3.3 非奇异合同下的同时对角化

定理 4.5.17(a) 设 \(A,B\) Hermitian,\(A\) 非奇异,\(C=A^{-1}B\)。存在非奇异 \(S\) 和实对角阵 \(\Lambda,M\) 使

\[A=S\Lambda S^*,\qquad B=SMS^*\]

当且仅当 \(C\) 可对角化且特征值全为实数。

白话解释:为什么条件落在 \(C=A^{-1}B\) 上?若 \(A=S\Lambda S^*\)、\(B=SMS^*\),则 \(A^{-1}B=S^{-*}\Lambda^{-1}S^{-1}SMS^*=S^{-*}(\Lambda^{-1}M)S^*\)——\(C\) 相似于实对角阵 \(\Lambda^{-1}M\),所以必须可对角化且特征值为实数(这是必要性)。直观上,\(C\) 的特征值就是"同一个方向在 \(B\) 下与在 \(A\) 下的二次型之比",同时对角化就是要找到一组方向,使这些比值成为"各自独立"的数。

充分性证明要点 设 \(C=S\Lambda S^{-1}\),\(\Lambda=\lambda_1I_{n_1}\oplus\cdots\oplus\lambda_dI_{n_d}\)(\(\lambda_i\) 实且互不相同)。由 \(BS=AS\Lambda\) 得 \(S^*BS=S^*AS\Lambda\)。按 \(\Lambda\) 分块,比较 \((i,j)\) 块并利用两边都是 Hermitian,得到 \((\lambda_i-\lambda_j)A_{ij}^*=0\),所以 \(i\ne j\) 时 \(A_{ij}=0\):\(S^*AS\) 是分块对角的。再把每个对角块酉对角化即可。\(\square\)

最重要的特例:若 \(A\) 正定,则 \(C=A^{-1}B\) 相似于 Hermitian 矩阵 \(A^{-1/2}BA^{-1/2}\),必然可对角化且特征值为实数。于是:

一个正定、一个 Hermitian 的两个矩阵总能同时合同对角化:存在非奇异 \(W\) 使

\[W^*AW=I,\qquad W^*BW=\Lambda=\operatorname{diag}(\lambda_1,\dots,\lambda_n),\]
其中 \(\lambda_i\) 是广义特征值问题 \(Bw=\lambda Aw\) 的特征值,\(W\) 的列是广义特征向量。

构造很直接:先用 \(A^{-1/2}\) 把 \(A\) 白化成 \(I\),再对 \(A^{-1/2}BA^{-1/2}\) 做普通的谱分解。数值上 scipy.linalg.eigh(B, A) 用 Cholesky 分解 \(A=LL^T\) 代替 \(A^{1/2}\),输出的 \(W\) 直接满足 \(W^TAW=I\)。

推导拆解:两步构造逐步写出。 第 1 步(白化):令 \(C=A^{-1/2}BA^{-1/2}\),它是对称的。\(A^{-1/2}AA^{-1/2}=I\),所以在新坐标下 \(A\) 已经变成单位阵。 第 2 步(旋转):对 \(C\) 做谱分解 \(C=Q\Lambda Q^T\),\(Q\) 正交。正交旋转不会破坏单位阵:\(Q^TIQ=I\)。 合起来取 \(W=A^{-1/2}Q\):\(W^TAW=Q^TA^{-1/2}AA^{-1/2}Q=I\),\(W^TBW=Q^TCQ=\Lambda\)。把 \(W^TBW=\Lambda W^TAW\) 两边左乘 \(W^{-T}\),得 \(BW=AW\Lambda\),即每一列满足 \(Bw_i=\lambda_iAw_i\)。 为什么一般情况做不到而这里能:普通谱分解要用正交矩阵,两个不交换的矩阵没有共同的正交特征基;白化先用"非正交"的变换把 \(A\) 变成 \(I\),而 \(I\) 在任何旋转下都不变,于是只剩一个矩阵需要对角化。 数值例:\(A=\operatorname{diag}(4,1)\),\(B=\begin{bmatrix}4&1\\1&2\end{bmatrix}\)。\(A^{-1/2}=\operatorname{diag}(\tfrac12,1)\),\(C=\begin{bmatrix}1&0.5\\0.5&2\end{bmatrix}\),特征值 \(1.5\pm\sqrt{0.5}\approx0.79,\ 2.21\)——这就是广义特征值。

广义 Rayleigh 商给出变分刻画:

\[\lambda_{\max}=\max_{w\ne0}\frac{w^*Bw}{w^*Aw},\qquad\lambda_{\min}=\min_{w\ne0}\frac{w^*Bw}{w^*Aw},\]

中间的特征值有类似的 Courant–Fischer 刻画(对 \(A^{-1/2}BA^{-1/2}\) 用第 04a 章的结论)。

量化中的广义特征值问题:

  1. 比较两个协方差矩阵:\(A=\Sigma_{\text{平静}}\),\(B=\Sigma_{\text{压力}}\)。广义特征值是"同一个组合在压力期与平静期的方差比",最大的那个给出对市场状态最敏感的组合方向,最小的给出最"稳健"的方向。样本内 / 样本外协方差的比较同理。
  2. 最大 Sharpe 比:\(\max_w(w^T\mu)^2/w^T\Sigma w\) 是 \(B=\mu\mu^T\)(秩一)的广义 Rayleigh 商,唯一的非零广义特征值是 \(\mu^T\Sigma^{-1}\mu\),即最大 Sharpe 比的平方,特征向量 \(\propto\Sigma^{-1}\mu\)。
  3. Fisher 判别 / 信号对噪声:\(\max_w w^TS_bw/w^TS_ww\)(类间散度 / 类内散度),用于构造区分两类市场状态的线性信号。
  4. 典型相关分析(CCA):寻找两组变量(如股票收益与宏观因子)之间相关最大的线性组合,也化为广义特征值问题。

实战 1 第 3、4 部分演示 1 和 2。

推导拆解:第 2 条(最大 Sharpe 比)为什么成立。 第 1 步:Sharpe 比 \(w^T\mu/\sqrt{w^T\Sigma w}\) 的平方就是 \(\dfrac{w^T(\mu\mu^T)w}{w^T\Sigma w}\),即 \(B=\mu\mu^T\)、\(A=\Sigma\) 的广义 Rayleigh 商。它对 \(w\) 的缩放不敏感,所以杠杆不改变 Sharpe 比,这与你熟悉的"资本配置线上所有组合 Sharpe 相同"一致。 第 2 步:白化后 \(C=\Sigma^{-1/2}\mu\mu^T\Sigma^{-1/2}=vv^T\),\(v=\Sigma^{-1/2}\mu\)。秩一矩阵 \(vv^T\) 的唯一非零特征值是 \(v^Tv=\mu^T\Sigma^{-1}\mu\),特征向量是 \(v\) 本身。 第 3 步:换回原坐标,\(w=\Sigma^{-1/2}v=\Sigma^{-1}\mu\)。这正是 CFA 里切点组合(tangency portfolio)的权重方向(\(\mu\) 取超额收益)。 也可以用柯西–施瓦茨不等式一步看出:\((w^T\mu)^2=\big((\Sigma^{1/2}w)^T(\Sigma^{-1/2}\mu)\big)^2\le(w^T\Sigma w)(\mu^T\Sigma^{-1}\mu)\)。

4b.3.4 其他同时对角化结论

  • 定理 4.5.17(b)(c):对称–对称、Hermitian–对称的非奇异同时对角化,条件分别是 \(A^{-1}B\) 可对角化、可共轭对角化。
  • 4.5.P4:一族 Hermitian 矩阵 \(A_1,\dots,A_k\)(\(A_1\) 非奇异)可同时 *合同对角化,当且仅当 \(\{A_1^{-1}A_i\}\) 是特征值全实、可对角化、两两可交换的矩阵族。
  • 4.5.P18:若 \(\det(tA-B)\) 有 \(n\) 个互异零点,则 \(A,B\) 可同时合同对角化。
  • 反例(4.5.P6–P7):\(\begin{bmatrix}0&1\\1&0\end{bmatrix}\) 与 \(\begin{bmatrix}1&0\\0&-1\end{bmatrix}\) 都不定,不能同时 *合同对角化;\(\begin{bmatrix}1&1\\1&0\end{bmatrix}\) 与 \(\begin{bmatrix}0&1\\1&0\end{bmatrix}\) 两种方式都不行。两个都不定时,同时对角化可能失败——正定性假设很关键。
  • 4.5.P36:若 \(A\) 不定,且 \(x^*Ax=0\Rightarrow x^*Bx=0\),则 \(B=\kappa A\)(\(\kappa\) 实)。原书注记:在狭义相对论中取 \(A=\operatorname{diag}(1,1,1,-c)\),这条结论推出 Lorentz 变换是唯一与"光速不变"相容的线性坐标变换。

4b.4 复对称矩阵与酉合同(4.4 节,选读)

这一节研究 \(A=A^T\) 的复矩阵(不是 Hermitian)。它在单叶函数论(Grunsky 不等式)、矩问题(Hankel 矩阵)、阻尼振动等领域出现;量化中基本不出现,因为量化中的复矩阵几乎都来自傅里叶变换,而且需要的是 Hermitian 结构。下面只列要点。

酉合同:\(A\mapsto UAU^T\)(\(U\) 酉)。它保持对称、斜对称。若 \(A=UBU^T\),则 \(A\bar A=U(B\bar B)U^*\),所以 \(A\bar A\) 的谱是酉合同不变量。

\(A\bar A\) 的谱结构(推论 4.4.13):\(A\bar A\) 总相似于实矩阵的平方,因而非实特征值成共轭对出现,负实特征值成相等的对出现(\(2\times2\) 的情形已经不平凡,见命题 4.4.5)。

Youla 分解(定理 4.4.9):任何方阵都酉合同于一个分块上三角矩阵,对角块是 \(1\times1\) 的非负数(对应 \(A\bar A\) 的非负特征值)或 \(2\times2\) 的标准块。它之于酉合同,犹如 Schur 三角化之于酉相似。

Autonne–Takagi 分解(推论 4.4.4(c)):若 \(A\) 复对称,则存在酉矩阵 \(U\) 使

\[A=U\Sigma U^T,\]

\(\Sigma\) 是以 \(A\) 的奇异值为对角元的非负对角阵。这是复对称矩阵的"对称 SVD"。奇异值互不相同时,\(U\) 在乘以 \(\pm1\) 对角阵的意义下唯一(4.4.4(d))。

共轭正规矩阵(定义 4.4.14:\(AA^*=\overline{A^*A}\)):包括复对称、复斜对称、酉矩阵、实正规矩阵;它们酉合同于若干实正交矩阵的非负倍数的直和(推论 4.4.18)。特例:斜对称矩阵的秩为偶数,酉合同于 \(0\oplus\bigoplus_j\begin{bmatrix}0&s_j\\-s_j&0\end{bmatrix}\)(推论 4.4.19)。

复对称矩阵没有特殊的 Jordan 结构(定理 4.4.24):每个复方阵都相似于一个复对称矩阵。这与实对称矩阵(必可对角化)截然不同。推论:每个复方阵都是两个复对称矩阵之积(4.4.25);复对称矩阵可对角化当且仅当可经复正交矩阵 \(Q\)(\(Q^TQ=I\))对角化(4.4.27)。复情形的麻烦来自迷向向量(isotropic vector):\(x=[1,i]^T\ne0\) 但 \(x^Tx=0\)。

QS 分解(4.4.P38–P39):\(A=QS\)(\(Q\) 复正交、\(S\) 复对称)存在当且仅当 \(AA^T\) 与 \(A^TA\) 相似;非奇异时总存在。


4b.5 *合同与合同的标准形(4.5 节后半,选读)

Sylvester 惯性定律解决了 Hermitian 矩阵在 *合同下的分类。对任意方阵 \(A\),*合同的分类要复杂得多。

化归:由 Toeplitz 分解 \(A=H+iK\),\(A\) 可 *合同对角化当且仅当 \(H,K\) 可同时 *合同对角化(引理 4.5.18)。所以"两个 Hermitian 矩阵的同时对角化"等价于"一个复矩阵的 *合同对角化"。

*合同标准形(定理 4.5.21):每个复方阵 *合同于下列三类块的直和,在块的排列意义下唯一:

  • Type 0:奇异 Jordan 块 \(J_k(0)\);
  • Type I:\(e^{i\theta}\Delta_k\),\(\Delta_k\) 是反对角线为 1、其下一条反对角线为 \(i\) 的 Hankel 矩阵;
  • Type II:\(H_{2k}(\mu)=\begin{bmatrix}0&I_k\\J_k(\mu)&0\end{bmatrix}\),\(|\mu|>1\)。

非奇异部分由 *余平方(*cosquare)\(A^{-*}A\) 的 Jordan 形决定(Type I 块的正负号需要另外的信息)。对 Hermitian 矩阵,标准角只有 0 和 \(\pi\),重数就是 \(i_+,i_-\)——*合同标准形定理是 Sylvester 惯性定律的推广(4.5.P11–P12)。

合同标准形(定理 4.5.25):类似,用块 \(J_k(0)\)、\(\Gamma_k\)、\(H_{2k}(\mu)\),由余平方 \(A^{-T}A\) 的 Jordan 形完全决定;非奇异 \(A,B\) 合同当且仅当 \(A^{-T}A\) 与 \(B^{-T}B\) 相似(定理 4.5.27)。

消去定理(4.5.22、4.5.26):\(A\oplus C\) 与 \(B\oplus C\) *合同(合同)当且仅当 \(A\) 与 \(B\) *合同(合同)。

可正规化矩阵(4.5.P37):非奇异 \(A\) 可 *合同对角化(\(A=S\Lambda S^*\),\(\Lambda\) 对角)等价于 \(A^{-*}A\) 可对角化且特征值模为 1,等价于 \(A=BCB\)(\(B\) 正定、\(C\) 正规)等六种说法——它们都是正规矩阵性质的类比。

需要这些结论时(例如研究非对称矩阵的二次型分类),回查原书 PDF p.309–315 及 Horn–Sergeichuk 的系列论文。


4b.6 共轭相似(4.6 节,选读)

定义 4.6.1 若存在非奇异 \(S\) 使 \(A=SB\bar S^{-1}\),称 \(A,B\) 共轭相似(consimilar)。它来自反线性变换(\(T(ax)=\bar aTx\),如量子力学中的时间反演)在不同基下的表示。酉矩阵满足 \(\bar U^{-1}=U^T\),所以酉共轭相似就是酉合同。

共轭特征值(定义 4.6.5):\(A\bar x=\lambda x\),\(x\ne0\)。若 \(\lambda\) 是共轭特征值,则 \(e^{i\theta}\lambda\) 对一切 \(\theta\) 都是(相位自由),通常取非负代表 \(|\lambda|\);\(\lambda\) 是共轭特征值仅当 \(|\lambda|^2\) 是 \(A\bar A\) 的特征值。例如 \(\begin{bmatrix}0&-1\\1&0\end{bmatrix}\) 没有共轭特征向量(\(A\bar A=-I\))。

主要结论:

  • 定理 4.6.3:\(A\) 可共轭三角化 ⇔ 可酉共轭三角化 ⇔ \(A\bar A\) 的特征值全为非负实数。
  • 定理 4.6.4:\(A\) 可酉共轭对角化 ⇔ \(A\) 对称(即 Autonne–Takagi)。
  • 定理 4.6.11:\(A\) 可共轭对角化 ⇔ \(A\bar A\) 可对角化、特征值全为非负实数、且 \(\operatorname{rank}A=\operatorname{rank}A\bar A\)。
  • 共轭相似标准形(4.6.12):块 \(J_k(0)\)、\(J_k(\sigma)\)(\(\sigma>0\))、\(H_{2k}(\mu)\)(\(\mu\) 非实或负实),由 \(A\bar A\) 的 Jordan 形加上秩序列决定(4.6.14)。
  • 推论 4.6.15:每个方阵共轭相似于 \(-A\)、\(\bar A\)、\(A^T\)、\(A^*\)、某个 Hermitian 矩阵、某个实矩阵。
  • 4.6.P2:可对角化与可共轭对角化互不包含,\(\begin{bmatrix}i&1\\0&i\end{bmatrix}\) 不可对角化但可共轭对角化,\(\begin{bmatrix}1&-1\\1&1\end{bmatrix}\) 反之。
  • 4.6.P12:\(\begin{bmatrix}1&i\\i&-1\end{bmatrix}\) 的 Jordan 形是 \(J_2(0)\)(幂零),但共轭相似标准形是 \(J_1(2)\oplus J_1(0)\)(它对称,奇异值为 2 和 0)。

这些结果在量化中没有已知的直接应用。


量化实战

实战 1:波动率与谱、对冲后的残余风险、KKT 矩阵、状态比较与最大 Sharpe

import numpy as np
import scipy.linalg as sla

rng = np.random.default_rng(11)

def inertia(M, tol=1e-10):
    lam = np.linalg.eigvalsh(M)
    return (int((lam > tol).sum()), int((lam < -tol).sum()), int((abs(lam) <= tol).sum()))

# ---------- 1. Ostrowski:协方差 Σ = D R D 的特征值被 vol² 夹住 ----------
n = 6
A = rng.standard_normal((n, 2)); R = A @ A.T + np.eye(n)
R = R / np.sqrt(np.outer(np.diag(R), np.diag(R)))      # 相关矩阵
vol = np.array([0.15, 0.20, 0.25, 0.30, 0.40, 0.60])   # 年化波动
D = np.diag(vol)
lam_R, lam_S = np.linalg.eigvalsh(R), np.linalg.eigvalsh(D @ R @ D)
theta = lam_S / lam_R
print("θ_k = λ_k(DRD)/λ_k(R):", theta.round(4))
print(f"Ostrowski 区间 [σ_min², σ_max²] = [{vol.min()**2:.4f}, {vol.max()**2:.4f}],"
      f"全部落入?{np.all((theta >= vol.min()**2 - 1e-12) & (theta <= vol.max()**2 + 1e-12))}")

# ---------- 2. Haynsworth:KKT 矩阵的惯性 = Σ 的惯性 + Schur 补的惯性 ----------
N = 5
G = rng.standard_normal((N, N)); Sigma = G @ G.T / N + 0.1 * np.eye(N)
e = np.ones((N, 1))
KKT = np.block([[Sigma, e], [e.T, np.zeros((1, 1))]])   # 预算约束下最小方差的 KKT 矩阵
schur = -e.T @ np.linalg.solve(Sigma, e)                  # Schur 补 0 - eᵀΣ⁻¹e
print(f"\ni(Σ) = {inertia(Sigma)}, i(Schur 补) = {inertia(schur)}, i(KKT) = {inertia(KKT)}")

# 条件协方差 = Schur 补:用 2 个对冲工具对冲 4 只股票后的残余协方差
M = rng.standard_normal((6, 6)); C = M @ M.T / 6 + 0.05 * np.eye(6)
C11, C12, C22 = C[:4, :4], C[:4, 4:], C[4:, 4:]
resid = C11 - C12 @ np.linalg.solve(C22, C12.T)          # 最优对冲后的残余协方差
print("残余协方差 ⪯ 原协方差(逐个特征值更小)?",
      np.all(np.linalg.eigvalsh(resid) <= np.linalg.eigvalsh(C11) + 1e-12))

# ---------- 3. 同时对角化 / 广义特征值:平静期 vs 压力期 ----------
N = 10
B = rng.normal(1, 0.3, (N, 1))
Sig_calm = 0.01 * B @ B.T + np.diag(rng.uniform(0.02, 0.04, N))
Sig_stress = 0.06 * B @ B.T + np.diag(rng.uniform(0.02, 0.04, N))   # 市场因子方差 ×6
lam, W = sla.eigh(Sig_stress, Sig_calm)       # 解 Σ_s w = λ Σ_c w,W 满足 WᵀΣ_c W = I
print("\nWᵀΣ_calm W = I?", np.allclose(W.T @ Sig_calm @ W, np.eye(N)),
      "  WᵀΣ_stress W 对角?", np.allclose(W.T @ Sig_stress @ W, np.diag(lam)))
print("广义特征值(压力期/平静期方差比):", lam.round(2))
w_eq = np.ones(N) / N
ratio = lambda w: (w @ Sig_stress @ w) / (w @ Sig_calm @ w)
print(f"方差比:最敏感方向 {ratio(W[:, -1]):.2f},等权组合 {ratio(w_eq):.2f},"
      f"最不敏感方向 {ratio(W[:, 0]):.2f}")
beta_exp = lambda w: abs(float(B[:, 0] @ w)) / np.linalg.norm(w)
print(f"单位范数下的市场暴露 |bᵀw|/‖w‖:最敏感方向 {beta_exp(W[:, -1]):.2f},最不敏感方向 {beta_exp(W[:, 0]):.2f}")

# ---------- 4. 最大 Sharpe 比 = 秩一广义特征问题 ----------
mu = rng.normal(0.05, 0.03, N)
lam_mu, _ = sla.eigh(np.outer(mu, mu), Sig_calm)
print(f"\nmax (wᵀμ)²/wᵀΣw = {lam_mu[-1]:.4f},μᵀΣ⁻¹μ = {mu @ np.linalg.solve(Sig_calm, mu):.4f}"
      f"(最大 Sharpe = {np.sqrt(lam_mu[-1]):.3f})")

关键输出:

θ_k = λ_k(DRD)/λ_k(R): [0.0394 0.0554 0.0791 0.0999 0.096  0.1759]
Ostrowski 区间 [σ_min², σ_max²] = [0.0225, 0.3600],全部落入?True

i(Σ) = (5, 0, 0), i(Schur 补) = (0, 1, 0), i(KKT) = (5, 1, 0)
残余协方差 ⪯ 原协方差(逐个特征值更小)? True

WᵀΣ_calm W = I? True   WᵀΣ_stress W 对角? True
广义特征值(压力期/平静期方差比): [0.79 0.93 1.02 1.05 1.12 1.16 1.22 1.26 1.83 5.1 ]
方差比:最敏感方向 5.10,等权组合 5.02,最不敏感方向 0.79
单位范数下的市场暴露 |bᵀw|/‖w‖:最敏感方向 3.47,最不敏感方向 0.01

max (wᵀμ)²/wᵀΣw = 0.6984,μᵀΣ⁻¹μ = 0.6984(最大 Sharpe = 0.836)

读法:

  1. Ostrowski:6 只资产波动率从 15% 到 60%,协方差的每个特征值都等于相关矩阵对应特征值乘一个落在 \([0.0225,0.36]\) 里的因子。注意因子并不单调(第 4、5 个分别为 0.0999、0.096),定理只保证落在区间内。
  2. Haynsworth:KKT 矩阵的惯性 \((5,1,0)\) 恰好是 \(\Sigma\) 的 \((5,0,0)\) 加上 Schur 补的 \((0,1,0)\)。对冲后残余协方差的每个特征值都不超过对冲前,这是单调性定理的直接推论。
  3. 状态比较:压力期市场因子方差放大 6 倍。广义特征值告诉我们:有一个方向(几乎就是市场组合方向,市场暴露 3.47)方差放大 5.1 倍;其余方向的方差比都在 1 附近(0.79–1.83)。等权组合高度暴露于市场因子,方差比 5.02,几乎和最坏方向一样。最不敏感的方向市场暴露接近 0——它是一个"市场中性"组合。实务中,这类分析用于识别哪些组合在危机中风险会急剧放大,比单纯比较两个矩阵的特征值更有信息:两个协方差矩阵各自的特征向量不同,只有广义特征向量能同时"对角化"二者。
  4. 最大 Sharpe:秩一广义特征问题的唯一非零特征值就是 \(\mu^T\Sigma^{-1}\mu\),开方即最大 Sharpe 比。

本章小结

合同变换 \(A\mapsto SAS^*\) 描述二次型和协方差矩阵在变量替换下的变化。它不保持特征值,但保持惯性(正、负、零特征值的个数),这就是 Sylvester 惯性定律;Ostrowski 定理把它定量化:\(\lambda_k(SAS^*)=\theta_k\lambda_k(A)\),\(\theta_k\) 落在 \(S\) 的最小、最大奇异值平方之间。由此可知协方差 \(\Sigma=DRD\) 的特征值被相关矩阵特征值乘以最小、最大方差夹住,波动率差异越大协方差越病态。Haynsworth 定理用 Schur 补计算分块矩阵的惯性,统一了正定性的分块检验、条件协方差和 KKT 矩阵的不定性。两个 Hermitian 矩阵若一个正定,总能同时合同对角化,这就是广义特征值问题 \(Bw=\lambda Aw\),量化中用于比较两个协方差矩阵、求最大 Sharpe 比、Fisher 判别与典型相关分析。复对称矩阵、Autonne–Takagi 分解、*合同与合同标准形、共轭相似构成第 4 章的理论后半,与量化关系很弱,知道它们存在即可。

概念 / 定理 公式 量化用途
协方差的变换 \(\operatorname{Cov}(SX)=S\Sigma S^*\) 组合、因子、白化
惯性 \(i(A)=(i_+,i_-,i_0)\) 正定性、KKT 结构
Sylvester 惯性定律 \(A\sim_* B\iff i(A)=i(B)\) 线性变换保持正定
Ostrowski \(\lambda_k(SAS^*)=\theta_k\lambda_k(A)\),\(\theta_k\in[\sigma_n^2,\sigma_1^2]\) 相关 vs 协方差的谱
相对扰动界 \(\frac{\vert \lambda_k(SAS^*)-\lambda_k(A)\vert }{\vert \lambda_k(A)\vert }\le\rho(I-SS^*)\) 小特征值的稳定性
Haynsworth \(i(A)=i(B)+i(A/B)\) 分块正定性、KKT
同时对角化(酉) \(\iff AB=BA\)
同时对角化(合同) \(A\succ0\Rightarrow W^*AW=I,\ W^*BW=\Lambda\) 广义特征值、状态比较
广义 Rayleigh 商 \(\lambda_{\max}=\max\frac{w^*Bw}{w^*Aw}\) 最大 Sharpe、Fisher 判别
Autonne–Takagi \(A=A^T\Rightarrow A=U\Sigma U^T\) (理论)
可共轭对角化 \(A\bar A\) 可对角化、特征值 \(\ge0\)、秩条件 (理论)

练习

基础

  1. 判断 \(A=\begin{bmatrix}2&1&0\\1&2&1\\0&1&2\end{bmatrix}\) 与 \(B=\begin{bmatrix}1&0&0\\0&3&0\\0&0&-1\end{bmatrix}\) 是否合同。 答案要点:\(A\) 的顺序主子式 \(2,3,4\) 全正,正定,惯性 \((3,0,0)\);\(B\) 惯性 \((2,1,0)\),不合同。
  2. 设 \(\Sigma\succ0\),\(W\in\mathbf R^{n\times k}\) 列满秩。证明 \(W^T\Sigma W\succ0\),并说明 \(W\) 列不满秩时会怎样。 提示:\(x^TW^T\Sigma Wx=(Wx)^T\Sigma(Wx)>0\) 当 \(Wx\ne0\);列不满秩时存在 \(x\ne0\) 使 \(Wx=0\),只能得到半正定。
  3. 相关矩阵 \(R\) 的特征值为 \(0.2,0.5,2.3\),三只资产的波动率为 \(10\%,20\%,40\%\)。给出协方差矩阵 \(\Sigma=DRD\) 每个特征值的范围,以及 \(\kappa(\Sigma)\) 的一个上界。 答案要点:\(\lambda_1\in[0.002,0.032]\),\(\lambda_2\in[0.005,0.08]\),\(\lambda_3\in[0.023,0.368]\);\(\kappa(\Sigma)\le\kappa(R)\cdot16=11.5\times16=184\)。
  4. 用 Haynsworth 定理求 \(K=\begin{bmatrix}\Sigma&A^T\\A&0\end{bmatrix}\) 的惯性,其中 \(\Sigma\in\mathbf R^{n\times n}\) 正定,\(A\in\mathbf R^{m\times n}\) 行满秩。 答案要点:Schur 补 \(-A\Sigma^{-1}A^T\) 负定,\(i(K)=(n,m,0)\)。
  5. 给出两个 \(2\times2\) 实对称矩阵,它们不可交换,但可以同时合同对角化。 提示:取 \(A=\begin{bmatrix}2&1\\1&2\end{bmatrix}\succ0\),\(B=\operatorname{diag}(1,0)\)。

进阶

  1. 证明:若 \(A\succ0\)、\(B\) 对称,则 \(B-\lambda A\) 对所有 \(\lambda<\lambda_{\min}(A^{-1}B)\) 正定。由此说明"最小方差比"\(\min_w\frac{w^TBw}{w^TAw}\) 等于最小广义特征值。
  2. 设 \(\hat\Sigma=\Sigma^{1/2}(I+E)\Sigma^{1/2}\)(乘法型估计误差,\(E\) 对称且 \(\|E\|_2<1\))。用 Ostrowski 定理证明 \(\big|\lambda_k(\hat\Sigma)/\lambda_k(\Sigma)-1\big|\le\|E\|_2\),并与 Weyl 的加性界比较:对最小特征值,哪个更有用? 提示:令 \(M=(I+E)^{1/2}\),则 \(\hat\Sigma=XY\),\(X=\Sigma^{1/2}M\),\(Y=M\Sigma^{1/2}\),而 \(YX=M\Sigma M\) 是 \(\Sigma\) 的合同,二者特征值相同(第 01 章 \(AB\) 与 \(BA\))。\(M\) 的奇异值平方即 \(I+E\) 的特征值,落在 \([1-\|E\|_2,1+\|E\|_2]\)。乘法型误差下最小特征值的相对误差仍有界,而加性界 \(\|\hat\Sigma-\Sigma\|_2\le\lambda_{\max}(\Sigma)\|E\|_2\) 可能远大于 \(\lambda_{\min}\) 本身。
  3. 两个协方差矩阵 \(\Sigma_1,\Sigma_2\succ0\)。证明广义特征值 \(\lambda_i\) 全为正,且 \(\prod\lambda_i=\det\Sigma_2/\det\Sigma_1\)。说明如何用 \(\sum(\log\lambda_i)^2\) 度量两个协方差矩阵的"距离"(这就是正定矩阵上的仿射不变 Riemann 距离)。
  4. 编程:用两段不同时期的模拟收益(如前 500 天、后 500 天,中间市场因子方差翻倍)估计两个样本协方差,计算广义特征值和特征向量。最大广义特征值对应的组合与"市场组合"的夹角是多少?
  5. 证明 Sylvester 判据的必要性部分:若 \(A\succ0\),则所有顺序主子式为正。再用 Haynsworth 定理证明充分性。 提示:主子矩阵 \(= E^TAE\)(\(E\) 是 \(I\) 的前 \(k\) 列),合同保持正定;充分性对 \(k\) 归纳,Schur 补 \(a_k/a_{k-1}>0\)。

原书推荐习题

  • 4.5.P5(PDE 类型与惯性)、4.5.P8(Ostrowski 推出相对扰动界)、4.5.P18(广义特征值互异 ⇒ 同时对角化)、4.5.P19(惯性定律的同伦证明)、4.5.P21(Haynsworth 惯性加性)、4.5.P37(可正规化矩阵的六种刻画)。
  • 4.4.P1(对称矩阵 \(=SS^T\))、4.4.P27(对称矩阵奇异值与对角元)、4.4.P38(QS 分解)。
  • 4.6.P2(可对角化与可共轭对角化互不包含)、4.6.P9(奇数阶矩阵必有共轭特征对)、4.6.P12、4.6.P21(共轭对角化算法)。

原书对照

本章小节 原书小节 书页 PDF 页
4b.1 合同:二次型的变量替换 4.5 Congruences and diagonalizations(开头) 279–280 299–300
4b.2 惯性与 Sylvester 惯性定律 4.5(4.5.6–4.5.13)及习题 4.5.P5、P8、P16、P19、P21 280–285, 295–299 300–305, 315–319
4b.3 两个二次型的同时对角化 4.5(4.5.14–4.5.17)及习题 4.5.P4、P6、P7、P18、P36 285–288 305–308
4b.4 复对称矩阵与酉合同 4.4 Unitary congruence and complex symmetric matrices(含习题) 260–279 280–299
4b.5 *合同与合同的标准形 4.5(4.5.18–4.5.27)及习题 4.5.P37 289–295 309–315
4b.6 共轭相似 4.6 Consimilarity and condiagonalization(含习题) 300–311 320–331

延伸阅读:多矩阵同时对角化见 Hong–Horn (1985);*合同与合同标准形及其算法见 Horn–Sergeichuk (2006, 2008);Autonne–Takagi 分解的历史见原书 4.4 节注记。下一章(第 05a 章)转向度量"大小"的工具——向量范数与矩阵范数,它们是第 06 章特征值扰动理论的语言。