この記事では確率ベクトルの2次形式の期待値の導出をわかりやすく証明します。
ここで、\(n\)次確率ベクトルとは、確率変数\(X_1, \ldots, X_n\)を並べたベクトル
\begin{align*} x = (X_1, X_2, \ldots, X_n) \end{align*}
のことです。
\((i,j)\)成分が\(\text{Cov}(X_i, X_j)\)である\(n\)次正方行列を分散共分散行列\(\Sigma\)といいます。
\(x\)を期待値が\(\mu \in \mathbb R^n\)、分散共分散行列が\(\Sigma \in M_n\)である\(n\)次確率ベクトルとし、\(A\)を\(n\)次正方行列とします。
このとき、
\begin{align*} E(x^t A x) = \text{tr}(A \Sigma) + \mu^t A \mu \end{align*}
が成り立つ。
実際このことを証明してみましょう。
\begin{align*} z = x – \mu \end{align*}
と表記することにしましょう。すると、
\begin{align*} x = z + \mu \end{align*}
と表記することができます。\(E(z) = E(x) – \mu = 0\)と期待値がゼロベクトルであることを覚えておきます。
\begin{align*} E(x^tAx) &= E\left((z + \mu)^t A (z + \mu) \right) \\&= E(z^tAz) + 2 E(\mu^t A z) + E(\mu^t A\mu) \\&=E(z^tAz) + 2 \mu^t A E( z) + \mu^t A\mu\\&= E\left(\text{tr}\left(A z z^t\right) \right)+ 2 \mu^t A 0 + \mu^t A \mu \\&= \text{tr} \left( A E \left( z z^t\right) \right) + \mu^t A \mu \\&= \text{tr} \left( A \Sigma \right) + \mu^t A \mu \end{align*}
ただし途中traceが出てくるところでは、下記の記事の命題を用いました。
また、\(E(zz^t)\)は\(E(z) = 0\)であることから、
\begin{align*} E(zz^t) = E((z-E(z))^t(z-E(z))) = \Sigma\end{align*}
であることを途中で用いました。
コメント