期待値は平均、分散と標準偏差はばらつき、共分散と相関係数は2つの変数の関係を表します。共分散の記号は \(Cov[X, Y]\) または \(\sigma_{XY}\)。計算には \(Cov[X, Y]=E[XY]-E[X]E[Y]\) を使えます。
この記事では、期待値・分散・標準偏差・共分散・相関係数の意味と公式を一覧で確認できます。まず記号を整理し、それぞれの定義を説明します。
【事前準備】記号の説明
| 記号 | 説明 |
|---|---|
| \(X, Y\) | 確率変数（ランダムに値をとる） |
| \(x_i, y_i\) | 確率変数の取り得る値（観測値） |
| \(p_i\) | 値 \(x_i\) が起こる確率 |
| \(a, b, c\) | 定数 |
同じ量でも教科書によって記号が異なります。代表的な表記は次のとおりです。
| 統計量 | 記号 |
|---|---|
| 期待値 | \(E[X]\)（または \(\mu\)） |
| 分散 | \(V[X]\)（または \(\sigma^2\)） |
| 標準偏差 | \(SD[X]\)（または \(\sigma\)） |
| 共分散 | \(Cov[X, Y]\)（または \(\sigma_{XY}\)） |
| 相関係数 | \(\rho\) |
期待値 \(E[X]\)
◼︎概要
確率変数が取りうる値の「平均」に相当する量。
◼︎定義
離散型（例：サイコロ）の場合、
\[E[X]=\sum_ix_ip_i\]
連続型では、確率密度関数を \(f(x)\) とすると、
\[E[X]=\int_{-\infty}^\infty xf(x)dx\]
期待値に関する公式
\[E[aX+bY+c]=aE[X]+bE[Y]+c\]
2つの確率変数 \(X, Y\) が独立な場合、
\[E[XY]=E[X]E[Y]\]
分散 \(V[X]\)
◼︎概要
データが期待値からどれくらい散らばっているかを表す量。
◼︎定義
\[V[X]=E[(X-E[X])^2]=E[X^2]-(E[X])^2\]
分散に関する公式
\[V[X+Y]=V[X]+V[Y]+2Cov[X, Y]\]
\[V[X-Y]=V[X]+V[Y]-2Cov[X, Y]\]
標準偏差 \(SD[X]\)
◼︎概要
分散の平方根。元のデータと同じ単位になるので、ばらつきの大きさを読み取りやすくなります。
◼︎定義
\[SD[X]=\sqrt{V[X]}\]
標準偏差に関する公式
\[SD[X-Y]=\sqrt{V[X]+V[Y]-2Cov[X, Y]}\]
共分散 \(Cov[X, Y]\)
◼︎概要
2つの確率変数 \(X, Y\) がどのように一緒に変動するかを示す量。
正の場合：一方が大きいときもう一方も大きく、小さいときは小さくなる傾向。
負の場合：一方が大きいときもう一方が小さくなる傾向。
◼︎定義
\begin{eqnarray}
Cov[X, Y]&=&E[(X-E[X])(Y-E[Y])] \\
&=&E[XY]-E[X]E[Y]
\end{eqnarray}
相関係数 \(\rho\)
◼︎概要
共分散を両変数の標準偏差で割った指標。直線的な関係の向きと強さを表し、\(-1\leq\rho\leq1\) の範囲をとります。ただし、どちらかの分散が0なら相関係数は定義できません。
◼︎定義
\[\rho=\frac{Cov[X, Y]}{SD[X]SD[Y]}\]
よくある質問
Q. 共分散の記号は何ですか？
共分散は \(Cov[X, Y]\) と表記するのが一般的です。\(\sigma_{XY}\) と書かれることもあります。
Q. 期待値と分散の公式は？
期待値は離散型の場合 \(E[X]=\sum_ix_ip_i\)、分散は \(V[X]=E[X^2]-(E[X])^2\) で定義されます。それぞれの詳しい定義・公式は本記事の「期待値」「分散」の各セクションを参照してください。
Q. 相関係数と共分散の違いは？
共分散 \(Cov[X, Y]\) の符号は、2変数が同じ方向に動くか、逆方向に動くかを表します。ただし単位に依存するため、値の大きさだけでは関係の強さを比較できません。相関係数 \(\rho=\frac{Cov[X, Y]}{SD[X]SD[Y]}\) は、両変数の標準偏差で割って単位の影響を取り除いたものです。どちらの分散も0でなければ、\(-1\leq\rho\leq1\) の範囲で直線的な関係を比較できます。
Q. 標準偏差の記号は何ですか？
標準偏差は \(SD[X]\) や \(\sigma\)（シグマ）と表記されます。分散 \(V[X]\)（\(\sigma^2\)）の平方根にあたります。
Q. 共分散はどうやって求めますか？
確率変数の共分散は \(Cov[X, Y]=E[XY]-E[X]E[Y]\) で求められます。観測した \(n\) 組のデータ自体の共分散を求めるなら、\(\bar{x},\bar{y}\) をそれぞれの平均として \(\frac{1}{n}\sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y})\) を計算します。独立同分布の標本から母共分散を不偏推定する場合は、分母を \(n-1\) にします（\(n\geq2\)）。教科書やソフトによって「標本共分散」が指す式は異なるので、分母も確認してください。
コメント