（著）山拓
確率変数$X$の平均と分散が$E[X]=\mu_X, \ V[X]=\sigma^2_X$であるとし, 正規分布$\mathcal{N}(\mu_X, \sigma^2_X)$への漸近正規性があるとする. このとき, $Y = g(X)$という変数変換を行ったとする. デルタ法 (delta methods)とは$g(X)$を$X$の平均のまわりでTaylor展開することにより,
$Y$の平均や分散を$X$の平均や分散で近似的に表す方法である.
分散の近似
1次の項までのTaylor展開は, $$ Y = g(X) \approx g(\mu_X) + (X-\mu_X)g'(\mu_X) $$ なので, これの分散をとると, $$ V[Y] =V[g(X)] \approx [g'(\mu_X)]^2 \sigma^2_X $$ となる. このように$Y$の分散は$X$の平均と分散の値から近似的に求めることができる.
証明
$V[aX+bY+c]=a^2V(X)+b^2V(Y)$より, \begin{align*} V[Y]&\approx V[g(\mu_X) + (X-\mu_X)g'(\mu_X)]\\ &=\underbrace{V[g(\mu_X)]}_{=0}+[g'(\mu_X)]^2
\underbrace{V[X]}_{=\sigma^2_X}+\underbrace{V[-\mu_Xg'(\mu_X)]}_{=0}\\ &=[g'(\mu_X)]^2 \sigma^2_X \end{align*}
平均の近似
平均に関しては2次の項までTaylor展開し, $$ Y = g(X) \approx g(\mu_X) + (X-\mu_X)g'(\mu_X) + \frac{1}{2}(X-\mu_X)^2 g''(\mu_x) $$ これの期待値をとり, $$ E[Y] =E[g(X)] \approx g(\mu_X) + \frac{1}{2} \sigma^2_X
g''(\mu_X) $$ として近似の精度をより上げることができる.
証明
$E[aX+bY+c]=aE(X)+bE(Y)+c$より \begin{align*} E[Y]&\approx E\left[g(\mu_X) + (X-\mu_X)g'(\mu_X) + \frac{1}{2}(X-\mu_X)^2 g''(\mu_x)\right]\\ &=g(\mu_X)+\underbrace{(E[X]-\mu_X)}_{=0}g'(\mu_X)+
\frac{1}{2}\underbrace{V[X]}_{=\sigma^2_X}g''(\mu_x)\\ &= g(\mu_X) + \frac{1}{2} \sigma^2_X g''(\mu_X) \end{align*}
デルタ法の使用例
統計検定1級(2018年11月実施)の統計数理 (問1 (4))より改変.
互いに独立に正規分布$N(\mu, \sigma^2)$に従う$n$個の確率変数を$X_1, \cdots, X_n$とし($n\geq2),$ それらの標本平均を$\bar{X}=\dfrac{1}{n}\left(X_{1}+\cdots+X_{n}\right)$ とする. 標本分散および標本標準偏差をそれぞれ $\displaystyle S^{2}=\dfrac{1}{n-1}
\sum_{i=1}^{n}\left(X_{i}-\bar{X}\right)^{2}, \quad S=\sqrt{S^{2}}$とする. ここで, $$E[S^2]=\sigma^2,\quad V[S^2]=\dfrac{2\sigma^4}{n-1}$$ が成り立っている. このとき, $n$が十分大きいとして,
母標準偏差$\sigma$の推定量としての$S$の偏り$E[S]-\sigma$を$n^{-1}$のオーダーまでデルタ法を用いて求めよ.
※実際には, 厳密に求めた解におけるガンマ関数をスターリングの公式を用いて近似した人が多いと思います.解答
$g(x)=\sqrt{x}$とすると, $g'(x)=\dfrac{1}{2}x^{-\frac{1}{2}}, \quad g''(x)=-\dfrac{1}{4}x^{-\frac{3}{2}}$である. デルタ法により, 平均を2次の項までで近似する. \begin{align*} E[S]&\approx g(E[S^2])+\frac{1}{2}V[S^2]\cdot
g''(E[S^2])\\ &=\sigma +\frac{1}{2}\cdot \frac{2\sigma^4}{n-1}\cdot \left[-\frac{1}{4}(\sigma^2)^{-\frac{3}{2}}\right]\\ &=\sigma-\frac{\sigma}{4(n-1)}\\ &=\sigma-\frac{\sigma}{4n}\cdot
\left(1-\frac{1}{n}\right)^{-1}\\ &\approx \sigma-\frac{\sigma}{4n}\cdot \left(1+\frac{1}{n}\right)\\ &\approx \sigma-\frac{\sigma}{4n} \end{align*} よって, 偏りは$E[S]-\sigma\approx
-\dfrac{\sigma}{4n}$と近似される.
コメントをお書きください
鰻fjiek (Wednesday, 29 April 2020 20:50)
わかりやすい解答ありがとうございます。ひとつだけ質問させてください。
デルタ法の説明に、正規分布への漸近性を条件においていると思いますが（1行目）
分散の近似、平均の近似のどちらの証明においても、正規分布への漸近性を条件にせず、E[X}=\mu_{x}とV[X]=\sigma_{x}^{2}しか用いていないように読みました。デルタ法を用いる場合、正規分布への漸近性は条件として必要なのでしょうか？
仮に正規分布への漸近性が必要なのであれば、2018年と統計検定1級の過去問では、「平均の近似」の式のXをS^2に置き換えて使っていると思うのですが、S^2は正規分布への漸近性がないと思い、頭が混乱しておりました。
長い質問で申し訳ありませんが、時間があればご返答をお願いいたします。
鰻fjiek (Wednesday, 29 April 2020 21:10)
すみません。3段落目の「S^2は正規分布への漸近性がないと思い」というところは、カイ二乗分布の極限を考えれば正規分布に漸近するのは当たり前でした。なので、3段落目は忘れてください。。。