この問題のテーマ・前提知識
- テーマ: 多変量正規分布・線形変換・条件付き分布
- 前提知識: 多変量正規分布の線形変換の閉性 / 分散共分散行列の加法則 \(V(X \pm Y)=V(X)+V(Y) \pm 2\text{Cov}(X,Y)\) / ブロック行列による条件付き分布の公式
問題の概要
3変量正規分布 \(N(\boldsymbol{\mu}, \Sigma)\) に従う \((X, Y, Z)\) に関する2小問。[1] 線形変換 \((X+Y, Y-Z)^T\) が従う2変量正規分布を、平均ベクトルと分散共分散行列を計算して求める。[2] \(X=x, Y=y\) が与えられたときの \(Z\) の条件付き分布をブロック行列の公式で求める。
解説
解法の方針：[1] 線形変換後の平均 \(E[X \pm Y]\) と分散 \(V(X \pm Y)=V(X)+V(Y) \pm 2\text{Cov}(X,Y)\) および共分散 \(\text{Cov}(X+Y,Y-Z)\) を計算する。[2] ブロック行列の条件付き分布公式 \(E[Z|x,y]=\mu_Z+\Sigma_{21}\Sigma_{11}^{-1}(x-\mu_{12})\)、\(V(Z|x,y)=\Sigma_{22}-\Sigma_{21}\Sigma_{11}^{-1}\Sigma_{12}\) に代入する。
与えられた3変数正規分布 \(N(\boldsymbol{\mu}, \Sigma)\) のパラメータは以下の通りである。
- 平均ベクトル
\[\boldsymbol{\mu} = \begin{pmatrix} 1 \\ 2 \\ 3 \end{pmatrix}\]- \(E[X]=1, E[Y]=2, E[Z]=3\)
- 分散共分散行列
\[\Sigma = \begin{pmatrix} 2 & 0 & 1 \\ 0 & 3 & 2 \\ 1 & 2 & 4 \end{pmatrix}\]- \(V(X)=2, V(Y)=3, V(Z)=4\)
- \(Cov(X,Y)=0, Cov(X,Z)=1, Cov(Y,Z)=2\)
[1]
\(\begin{pmatrix} X+Y \\ Y-Z \end{pmatrix}\) という新しいベクトルが従う分布を求める。
多変量正規分布の線形変換もまた正規分布に従うため、その平均と分散共分散行列を計算すればよい。
1. 平均の計算
\[E[X+Y] = E[X] + E[Y] = 1 + 2 = 3\]
\[E[Y-Z] = E[Y] – E[Z] = 2 – 3 = -1\]
2. 分散・共分散の計算
\[V(X+Y) = V(X) + V(Y) + 2Cov(X,Y) = 2 + 3 + 2(0) = 5\]
\[V(Y-Z) = V(Y) + V(Z) – 2Cov(Y,Z) = 3 + 4 – 2(2) = 3\]
\[Cov(X+Y, Y-Z) = Cov(X,Y) – Cov(X,Z) + V(Y) – Cov(Y,Z)=0 – 1 + 3 – 2 = 0\]
従って、求める分布は \(N\left( \begin{pmatrix} 3 \\ -1 \end{pmatrix}, \begin{pmatrix} 5 & 0 \\ 0 & 3 \end{pmatrix} \right)\) である。
[2]
\(X=x, Y=y\) が与えられたときの \(Z\) の条件付き分布 \(f(z|x,y)\) を求める。
これには多変量正規分布の条件付き分布の公式を用いる。
正規ベクトルを \(\begin{pmatrix} \mathbf{X}_{12} \\ X_3 \end{pmatrix}\) （ただし \(\mathbf{X}_{12} = \begin{pmatrix} X \\ Y \end{pmatrix}, X_3 = Z\)）と分割すると、
- 平均：\(E[Z|X,Y] = \mu_Z + \Sigma_{21}\Sigma_{11}^{-1} \begin{pmatrix} x-\mu_X \\ y-\mu_Y \end{pmatrix}\)
- 分散：\(V(Z|X,Y) = \Sigma_{22} – \Sigma_{21}\Sigma_{11}^{-1}\Sigma_{12}\)
ここで、
\(\Sigma_{11} = \begin{pmatrix} 2 & 0 \\ 0 & 3 \end{pmatrix}\), \(\Sigma_{12} = \begin{pmatrix} 1 \\ 2 \end{pmatrix}\), \(\Sigma_{21} = (1, 2)\), \(\Sigma_{22} = 4\)
である。
1. 係数部分の計算
\(\Sigma_{11}^{-1} = \begin{pmatrix} 1/2 & 0 \\ 0 & 1/3 \end{pmatrix}\) なので、
\[\Sigma_{21}\Sigma_{11}^{-1} = \begin{pmatrix} 1 & 2 \end{pmatrix} \begin{pmatrix} 1/2 & 0 \\ 0 & 1/3 \end{pmatrix} = \begin{pmatrix} 1/2 & 2/3 \end{pmatrix}\]
2. 条件付き平均の計算
\begin{eqnarray}
E[Z|x,y] &=& 3 + \begin{pmatrix} 1/2 & 2/3 \end{pmatrix} \begin{pmatrix} x-1 \\ y-2 \end{pmatrix}\\
&=& 3 + \frac{1}{2}(x-1) + \frac{2}{3}(y-2)\\
&=& 3 + \frac{1}{2}x – \frac{1}{2} + \frac{2}{3}y – \frac{4}{3}\\
&=& \frac{1}{2}x + \frac{2}{3}y + \frac{18-3-8}{6} = \frac{1}{2}x + \frac{2}{3}y + \frac{7}{6}\\
\end{eqnarray}
3. 条件付き分散の計算
\begin{eqnarray}
V(Z|x,y) &=& 4 – \begin{pmatrix} 1/2 & 2/3 \end{pmatrix} \begin{pmatrix} 1 \\ 2 \end{pmatrix}\\
&=& 4 – \left( \frac{1}{2} + \frac{4}{3} \right) = 4 – \frac{11}{6} = \frac{13}{6}\\
\end{eqnarray}
従って、求める分布は \(N\left( \frac{1}{2}x + \frac{2}{3}y + \frac{7}{6}, \frac{13}{6} \right)\) である。
よくある質問
Q. 線形変換後の分散共分散行列を求めるコツは？
変換行列を \(A\)、元の分散共分散行列を \(\Sigma\) とすると変換後は \(A\Sigma A^T\) で計算できる。成分ごとに展開する前に行列積として一括処理するのが定石。
Q. 条件付き分布のブロック行列公式は丸暗記が必要ですか？
試験では \(\mu_{1|2} = \mu_1 + \Sigma_{12}\Sigma_{22}^{-1}(x_2-\mu_2)\)、\(\Sigma_{1|2}=\Sigma_{11}-\Sigma_{12}\Sigma_{22}^{-1}\Sigma_{21}\) を使いこなせるようにしておく必要がある。証明より適用方法の習得を優先する。
Q. 多変量正規分布の線形変換がなぜ正規性を保つのですか？
特性関数が指数型であるため、線形結合すると同じ指数型になる（正規性の再生性）。直感的には「正規分布の線形結合は正規分布」という一変量の結果を高次元に拡張したもの。
コメント