この問題のテーマ・前提知識
- テーマ: マルコフ連鎖・推移確率行列・最尤推定・行列の対角化
- 前提知識: 尤度関数と対数尤度の微分 / 行列の固有値分解 \(M = U\Lambda U^T\)
問題の概要
3つの格付け状態（A・B・C）間を推移する企業群を1期間観測したデータが与えられている。[1] 各状態からの移動社数をもとに尤度関数を立て、パラメータ \(\theta\) の最尤推定値を求める。[2] 推移確率行列を直交行列で対角化したとき、n期後に特定状態にとどまる確率を固有値と固有ベクトルで表す。
解説
解法の方針：[1] 各状態からの推移回数を整理し尤度関数を構築 → 対数尤度を微分してゼロと置き、2次方程式を解いて \(\hat{\theta}\) を求める。[2] 対角化 \(M^n = U\Lambda^n U^T\) を利用し、\((M^n)_{33}\) を固有値・固有ベクトルの成分で表す。
[1]
1. データの整理
問題文の条件より、各状態間での企業数の移動は以下の通りである。
- 状態A（100社）からの推移
- \(A \to B\) に推移した企業：5 社
- 変化なし（\(A \to A\)）：100 – 5 = 95 社
- 状態B（20社）からの推移
- \(B \to A\) に推移した企業：1 社
- 変化なし（\(B \to B\)）：20 – 1 = 19 社
- \(B \to C\) に推移した企業：0 社（「他の企業に変化はなかった」ため）
2. 尤度関数の作成
推移確率 \(p_{ij}\) を用いて、この観測結果が得られる尤度関数 \(L(\theta)\) を立てる。\(\phi = 0.01\) は固定値として扱う。
\[L(\theta) \propto (p_{11})^{95} \cdot (p_{12})^5 \cdot (p_{21})^1 \cdot (p_{22})^{19} \cdot (p_{23})^0\]
行列 \(M\) の各要素を代入すると、
\[L(\theta) = (1-\theta)^{95} \cdot \theta^5 \cdot \theta^1 \cdot (1-\theta-0.01)^{19}\]
\[L(\theta) = (1-\theta)^{95} \cdot \theta^6 \cdot (0.99-\theta)^{19}\]
3. 対数尤度の微分
計算を簡略化するため、対数尤度 \(l(\theta) = \log L(\theta)\) をとる。
\[l(\theta) = 95 \log(1-\theta) + 6 \log \theta + 19 \log(0.99-\theta)\]
これを \(\theta\) で微分して 0 と置く。
\[\frac{dl}{d\theta} = -\frac{95}{1-\theta} + \frac{6}{\theta} – \frac{19}{0.99-\theta} = 0\]
分母を払って整理すると、
\[-95\theta(0.99-\theta) + 6(1-\theta)(0.99-\theta) – 19\theta(1-\theta) = 0\]
\[-94.05\theta + 95\theta^2 + 6(0.99 – 1.99\theta + \theta^2) – 19\theta + 19\theta^2 = 0\]
\[95\theta^2 – 94.05\theta + 5.94 – 11.94\theta + 6\theta^2 – 19\theta + 19\theta^2 = 0\]
\[120\theta^2 – 124.99\theta + 5.94 = 0\]
4. 方程式の解
解の公式を用いて \(\theta\) を求める。
\[\theta = \frac{124.99 \pm \sqrt{124.99^2 – 4 \cdot 120 \cdot 5.94}}{2 \cdot 120}\]
\[\theta = \frac{124.99 \pm \sqrt{15622.5001 – 2851.2}}{240}\]
\[\theta = \frac{124.99 \pm \sqrt{12771.3001}}{240} \approx \frac{124.99 \pm 113.01}{240}\]
- \(\theta \approx \frac{238}{240} \approx 0.99\) の場合、\(\phi + \theta \le 1\) の条件に反する、あるいは現実的ではない。
- \(\theta \approx \frac{11.98}{240} \approx 0.049916…\)
小数点第3位を四捨五入すると、0.05 となる。
[2]
1. 行列のべき乗と対角化
\(t\) 年後に格付 \(C\)（状態3）である企業が、\(t+n\) 年後（\(n\) 年後）に再び格付 \(C\) である確率は、推移確率行列の \(n\) 乗である \(M^n\) の \((3, 3)\) 成分で表される。
行列 \(M\) は直交行列 \(U\) により以下のように対角化されている。
\[U^T M U = \Lambda = \begin{pmatrix} \lambda_1 & 0 & 0 \\ 0 & \lambda_2 & 0 \\ 0 & 0 & \lambda_3 \end{pmatrix}\]
これより、\(M = U \Lambda U^T\) であり、\(n\) 乗は次のように計算できる。
\[M^n = U \Lambda^n U^T\]
2. 成分の抽出
\(M^n\) の \((i, j)\) 成分を求める式は、行列の積の定義より以下のようになる。
\[(M^n)_{ij} = \sum_{k=1}^3 u_{ik} \lambda_k^n u_{jk}\]
ここで求めたいのは、状態3から状態3への推移確率（\((M^n)_{33}\)）であるため、\(i=3, j=3\) を代入する。
\[(M^n)_{33} = \sum_{j=1}^3 u_{3j} \lambda_j^n u_{3j} = \sum_{j=1}^3 u_{3j}^2 \lambda_j^n\]
求める確率は以下の式で表される。
\[\sum_{j=1}^3 u_{3j}^2 \lambda_j^n \quad \]
よくある質問
Q. 尤度関数を立てるとき、推移回数ゼロの項はどう扱いますか？
\(p_{23}^0 = 1\) なので積に影響しない。実際にゼロ回観測された推移は尤度関数から消えるだけで、パラメータの制約には影響しない。
Q. 対角化による \(M^n\) の計算はなぜ成り立つのですか？
\(M = U\Lambda U^T\) のとき \(M^2 = U\Lambda U^T U\Lambda U^T = U\Lambda^2 U^T\)（直交行列なので \(U^T U = I\)）。これをn回繰り返すと \(M^n = U\Lambda^n U^T\) が得られる。
Q. 2次方程式の解が2つ出たとき、どちらが正解か判断する基準は？
推移確率行列の制約 \(0 \le \theta\)・\(\theta + \phi \le 1\)（行の和が1以下）を確認する。今回は \(\phi=0.01\) なので \(\theta \le 0.99\) が要件だが、\(\theta \approx 0.99\) は \(p_{22} = 0.99 – 0.99 = 0\) で数理的に成立しない。よって小さいほうの解 \(\approx 0.05\) を採用する。
コメント