CCA约束

可以看作At a的方差

下面我用直观 + 数学两种方式，彻底讲清楚为什么必须要求：

$${\mathbf{a}}^{\top }{\Sigma }_{XX}\mathbf{a}=1,{\mathbf{b}}^{\top }{\Sigma }_{YY}\mathbf{b}=1.$$

---

🔥 1. 如果不加这个约束，会发生什么？

优化目标是：

$$\underset{\mathbf{a},\mathbf{b}}{\max }{\mathbf{a}}^{\top }{\Sigma }_{XY}\mathbf{b}$$

现在假设你找到了一对可行解 (${\mathbf{a}}_0,{\mathbf{b}}_0$)。

那我可以把它放大任意倍：

$$\mathbf{a}=k{\mathbf{a}}_0,\mathbf{b}=\ell {\mathbf{b}}_0$$

代回目标函数：

$${\mathbf{a}}^{\top }{\Sigma }_{XY}\mathbf{b}=(k{\mathbf{a}}_0{)}^{\top }{\Sigma }_{XY}(\ell {\mathbf{b}}_0)=k\ell ,({\mathbf{a}}_0^{\top }{\Sigma }_{XY}{\mathbf{b}}_0)$$

因此目标值可以无限变大 → 没有最大值。

**

$$\mathrm{Var}(U)=\mathrm{Var}({\mathbf{a}}^{\top }\mathbf{X})={\mathbf{a}}^{\top }{\Sigma }_{XX}\mathbf{a}$$

同理：

$$\mathrm{Var}(V)={\mathbf{b}}^{\top }{\Sigma }_{YY}\mathbf{b}$$

如果我们约束

$$\mathrm{Var}(U)=1,\mathrm{Var}(V)=1$$

意味着：

我们只在所有“方差为 1 的线性组合”中寻找相关性/协方差最大的一组。

---

（2）使目标变成“相关性最大化”

在此约束下：

$$\mathrm{Cov}(U,V)={\mathbf{a}}^{\top }{\Sigma }_{XY}\mathbf{b}$$

而且

$$\mathrm{Corr}(U,V)=\mathrm{Cov}(U,V)$$

CCA 的目标变成最大化相关系数，而不是协方差。

这非常合理，因为协方差本身受尺度影响，而相关性不受。

---

约束

$${\mathbf{a}}^{\top }{\Sigma }_{XX}\mathbf{a}=1,{\mathbf{b}}^{\top }{\Sigma }_{YY}\mathbf{b}=1$$