6.7 典型相关分析
设X为随机向量,Y为随机变量,且满足\(Cov\begin{pmatrix} X \\ Y\end{pmatrix}=\begin{pmatrix} \Sigma_{XX} & \Sigma_{XY} \\ \Sigma_{YX} & \sigma_{Y} \end{pmatrix}, \, E\begin{pmatrix} X \\ Y\end{pmatrix}=0\),则复相关系数定义如下
\[ \max_{a \in R^p} \rho(Y,a'X)= \max_{a \in R^p} \frac{a' \Sigma_{XY}}{\sigma_Y\sqrt{a'\Sigma_{XX}a}}=\frac{1}{\sigma_Y}\sqrt{\Sigma_{YX}\Sigma_{XX}^{-1}\Sigma_{XY}} \tag{6.81} \]
设X为p维随机向量,Y为q维随机向量,且满足\(Cov\begin{pmatrix} X \\ Y\end{pmatrix}=\Sigma=\begin{pmatrix} \Sigma_{XX} & \Sigma_{XY} \\ \Sigma_{YX} & \Sigma_{YY} \end{pmatrix} > 0\),设\(a_1,\,b_1\)分别为p维和q维任意非零的常数向量,使得
\[ \max_{Var(a_1'X)=1,Var(b_1'Y)=1} \rho(a_1'X,b_1'Y)=\max_{Var(a_1'X)=1,Var(b_1'Y)=1}a_1'\Sigma_{XY}b_1 \tag{6.82} \]
则称\((a_1'X,b_1Y)\)为第1对典型相关变量,他们之间的相关系数为第1典型相关系数。
接下来同主成分分析一样,要求第k典型相关系数,要求第k对典型变量与前k-1对典型变量均不相关,并且要求第k典型相关系数在\(Var(a_k'X)=Var(b_k'Y)=1\)的约束下是最大的。