场景设定
假设我们研究三个变量：
- X 是两个变量：
身高 (cm)和体重 (kg) - Y 是一个变量：
数学成绩 (分)
我们观察了很多人，得到这三者的联合数据，并计算了协方差。
1. 定义子矩阵
假设我们计算得到以下协方差矩阵（为简单起见，数值为假设）：
① X 自身的协方差矩阵 Σ_{XX}：
- 身高和身高的方差：64 （标准差约8cm）
- 体重和体重的方差：81 （标准差约9kg）
- 身高和体重的协方差：36（身高和体重正相关）
- 体重和身高的协方差：36（对称）
② Y 自身的协方差矩阵 Σ_{YY}：
- 数学成绩的方差：100 （标准差10分）
③ X 和 Y 之间的协方差矩阵 Σ_{XY}：
- 身高和数学成绩的协方差：10 （轻微正相关）
- 体重和数学成绩的协方差：-20 （轻微负相关）
④ Y 和 X 之间的协方差矩阵 Σ_{YX}：
- 它就是
Σ_{XY}的转置。
2. 组合成分块大矩阵 Σ
现在我们将这4个子矩阵按照指定的结构组合起来：
3. 解释这个最终的大矩阵
最终得到的 Σ 是一个 3×3 的总协方差矩阵，它完整描述了三个变量（身高、体重、数学成绩）两两之间的协方差关系。
我们可以从中学到：
- 对角线：每个变量自身的方差（64, 81, 100）。
- 对称性：协方差矩阵是对称的，所以
Cov(身高, 体重) = Cov(体重, 身高) = 36。 - 组内关系：
X组内，身高和体重正相关（36）。 - 组间关系：
X和Y之间，身高与成绩有微弱正相关（10），而体重与成绩有微弱负相关（-20）。这也反映在Σ_{XY}这个块中。
关键点
- 分块表示
(\Sigma_{XX}, \Sigma_{XY}; \Sigma_{YX}, \Sigma_{YY})是组织这个大矩阵的一种清晰方式，它在理论推导和公式表达中尤其有用。 - 当我们说“将4个小矩阵整合成一个大矩阵”时，这个例子中的4个小矩阵就是：
- 左上块
[[64, 36], [36, 81]] - 右上块
[[10], [-20]] - 左下块
[[10, -20]] - 右下块
[[100]]
- 左上块
- 最终的大矩阵
[[64, 36, 10], [36, 81, -20], [10, -20, 100]]就是这三个随机变量的联合协方差矩阵。