Fehlerausbreitung unter Verwendung von Taylor-Reihen 2. Ordnung

Ich lese einen Text, "Mathematische Statistik und Datenanalyse" von John Rice. Es geht uns darum, den erwarteten Wert und die Varianz der Zufallsvariablen zu approximieren $Y$ . Wir können den erwarteten Wert und die Varianz der Zufallsvariablen berechnen $X$ und kennen die Beziehung $Y = g(X)$ . Es ist also möglich, den erwarteten Wert und die Varianz von $Y$ Verwendung der Taylorreihenexpansion von $g$ um zu approximieren $\mu_X$ .

Auf Seite 162 listet er 3 Gleichungen auf.

Der erwartete Wert von $Y$ Verwendung der Taylor- 1. Ordnung. Es ist: $\mu_Y \approx g(\mu_X)$ . Dies wird später in meiner Frage als $E(Y_1)$ .
Die Varianz von $Y$ Verwendung der Taylorreihenerweiterung 1. Ordnung. Es ist: $\sigma_Y^2 \approx \sigma_X^2 (g'(\mu_X))^2$ . Dies wird später in meiner Frage als $Var(Y_1)$ .
$Y$ $\mu_Y \approx g(\mu_X) + \frac12 \sigma_X^2 g''(\mu_X)$ $E(Y_2)$

Beachten Sie, dass es für zwei verschiedene Ausdrücke gibt, da wir in der Taylor-Reihenerweiterung zwei verschiedene Ordnungen verwenden. Die Gleichungen 1 und 2 beziehen sich auf . Gleichung 3 bezieht sich auf . $Y$ $Y_1 = g(X) \approx g(\mu_X) + (X-\mu_X)g'(\mu_X)$ $Y_2 = g(X) \approx g(\mu_X) + (X-\mu_X)g'(\mu_X) + \frac12 (X-\mu_X)^2 g''(\mu_X)$

Beachten Sie, dass speziell die Gleichung für nicht angegeben ist. Später scheint der Autor die Gleichung für die Varianz von (Gleichung 2) zu verwenden, er sich tatsächlich auf den erwarteten Wert von (Gleichung 3). Dies scheint zu implizieren . $Var(Y_2)$ $Y_1$ $Y_2$ $Var(Y_2) = Var(Y_1)$

Ich habe versucht, von Hand zu berechnen , und ich einen etwas komplizierten Ausdruck. Hier ist meine Arbeit (ich habe aufgehört, weil ich am Ende Terme in der Erwartung : $Var(Y_2)$ $X^3$

\begin{aligned} V a r (Y_{2}) & = E [(g (μ_{X}) + (X - μ_{X}) a + \frac{1}{2} (X - μ_{X})^{2} b - g (μ_{X}) - \frac{1}{2} σ_{X}^{2} b)^{2}] \\ = E [((X - μ_{X}) a + {(\frac{1}{2} (X - μ_{X})^{2} - \frac{1}{2} σ_{X}^{2}) b)}^{2}] \\ = E [(c a + {(\frac{1}{2} c^{2} - \frac{1}{2} σ_{X}^{2}) b)}^{2}] \\ = E [c^{2} a^{2} + c a (c^{2} - σ_{X}^{2}) b + \frac{1}{4} (c^{2} - σ_{X}^{2})^{2} b^{2}] \\ = E [(X^{2} - 2 X μ_{X} + μ_{X}^{2}) a^{2} + (X - μ_{X}) a ((X^{2} - 2 X μ_{X} + μ_{X}^{2}) - σ_{X}^{2}) b \\ + \frac{1}{4} ((X^{2} - 2 X μ_{X} + μ_{X}^{2}) - σ_{X}^{2})^{2} b^{2}] \end{aligned}

$\begin{aligned} Var(Y_2) &= E[( g(\mu_X) + (X-\mu_X)a + \frac12 (X-\mu_X)^2 b - g(\mu_X) - \frac12 \sigma_X^2 b )^2] \\ &= E\left[((X-\mu_X)a + \left(\frac12 (X-\mu_X)^2 - \frac12 \sigma_X^2)b\right)^2\right] \\ &= E\left[(ca + \left(\frac12 c^2 - \frac12 \sigma_X^2)b\right)^2\right] \\ & = E[c^2 a^2 + ca(c^2 - \sigma_X^2)b + \frac14(c^2-\sigma_X^2)^2 b^2] \\ & = E[(X^2 - 2X \mu_X + \mu_X^2)a^2 + (X-\mu_X)a((X^2 - 2X\mu_X + \mu_X^2) - \sigma_X^2)b \\ & + \frac14((X^2 - 2X\mu_X + \mu_X^2)-\sigma_X^2)^2 b^2] \end{aligned}$

Man beachte, dass in den obigen Gleichungen , und . Was ist ? $a = g'(\mu_X)$ $b = g''(\mu_X)$ $c = X-\mu_X$ $Var(Y_2)$

Vielen Dank.

self-study mathematical-statistics error

— jrand
quelle

Warum hast du bei ? Da die Näherung zweiter Ordnung eine quadratische Funktion von , beinhaltet ihre Varianz im Allgemeinen Momente von bis zu . Der dritte Moment mag Null sein, aber der vierte Moment wird definitiv auftauchen und von nichts aufgehoben werden.

X^{3}

$X^3$

X

$X$

X

$X$

2 \cdot 2 = 4

$2 \cdot 2 = 4$

— whuber

Unter der Annahme von können wir die ungefähre Varianz von Verwendung der Taylor-Expansion zweiter Ordnung von um wie folgt : $Y=g(X)$ $Y$ $g(X)$ $\mu_X=\mathbf{E}[X]$

\begin{array}{rcl} V a r [Y] & = & V a r [g (X)] \\ \approx & V a r [g (μ_{X}) + g^{'} (μ_{X}) (X - μ_{X}) + \frac{1}{2} g^{″} (μ_{X}) (X - μ_{X})^{2}] \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} + \frac{1}{4} (g^{″} (μ_{X}))^{2} V a r [(X - μ_{X})^{2}] \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) C o v [X - μ_{X}, (X - μ_{X})^{2}] \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} + \frac{1}{4} (g^{″} (μ_{X}))^{2} E [(X - μ_{X})^{4} - σ_{X}^{4}] \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) (E (X^{3}) - 3 μ_{X} (σ_{X}^{2} + μ_{X}^{2}) + 2 μ_{X}^{3}) \\ = & (g^{'} (μ_{X}))^{2} σ_{X}^{2} \\ + \frac{1}{4} (g^{″} (μ_{X}))^{2} (E [X^{4}] - 4 μ_{X} E [X^{3}] + 6 μ_{X}^{2} (σ_{X}^{2} + μ_{X}^{2}) - 3 μ_{X}^{4} - σ_{X}^{4}) \\ + g^{'} (μ_{X}) g^{″} (μ_{X}) (E (X^{3}) - 3 μ_{X} (σ_{X}^{2} + μ_{X}^{2}) + 2 μ_{X}^{3}) \end{array}

$\begin{eqnarray*} \mathbf{Var}[Y] &=& \mathbf{Var}[g(X)]\\ &\approx& \mathbf{Var}[g(\mu_X)+g'(\mu_X)(X-\mu_X)+\frac{1}{2}g''(\mu_X)(X-\mu_X)^2]\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}+\frac{1}{4}(g''(\mu_X))^2\mathbf{Var}[(X-\mu_X)^2]\\ & & +g'(\mu_X)g''(\mu_X)\mathbf{Cov}[X-\mu_X,(X-\mu_X)^2]\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}+\frac{1}{4}(g''(\mu_X))^2\mathbf{E}[(X-\mu_X)^4-\sigma_{X}^{4}]\\ & & +g'(\mu_X)g''(\mu_X)\left(\mathbf{E}(X^3)-3\mu_X(\sigma_{X}^{2}+\mu_{X}^{2})+2\mu_{X}^{3}\right)\\ &=& (g'(\mu_X))^2\sigma_{X}^{2}\\ & & +\frac{1}{4}(g''(\mu_X))^2\left(\mathbf{E}[X^4]-4\mu_X\mathbf{E}[X^3]+6\mu_{X}^{2}(\sigma_{X}^{2}+\mu_{X}^{2})-3\mu_{X}^{4}-\sigma_{X}^{4}\right)\\ & & +g'(\mu_X)g''(\mu_X)\left(\mathbf{E}(X^3)-3\mu_X(\sigma_{X}^{2}+\mu_{X}^{2})+2\mu_{X}^{3}\right)\\ \end{eqnarray*}$

Wie @whuber in den Kommentaren hervorhob, kann dies durch Verwendung des dritten und vierten zentralen Moments von ein wenig aufgeräumt werden . Ein zentrales Moment ist definiert als . Beachten Sie, dass . Mit dieser neuen Notation haben wir das $X$ $\mu_k=\mathbf{E}[(X-\mu_X)^k]$ $\sigma_{X}^{2}=\mu_2$

V a r [Y] \approx (g^{'} (μ_{X}))^{2} σ_{X}^{2} + g^{'} (μ_{X}) g^{″} (μ_{X}) μ_{3} + \frac{1}{4} (g^{″} (μ_{X}))^{2} (μ_{4} - σ_{X}^{4})

$\mathbf{Var}[Y]\approx(g'(\mu_X))^2\sigma_{X}^{2}+g'(\mu_X)g''(\mu_X)\mu_3+\frac{1}{4}(g''(\mu_X))^2(\mu_4-\sigma_{X}^{4})$

— normal angenommen
quelle

Das ist der richtige Ansatz, aber haben Sie nicht vergessen, die Kovarianz zwischen und ?

X - μ_{X}

$X-\mu_X$

(X - μ_{X})^{2}

$(X-\mu_X)^2$

— whuber

@whuber Ja, ich habe. Vielen Dank für den Hinweis. Ich werde das bald bearbeiten.

— normal

Sie können durch das Schreiben der Antwort in Bezug auf die zweite, dritte und vierte sich einige Mühe sparen zentrale Momente, , und . Sie sollten .

σ^{2}

$\sigma^2$

μ_{3}

$\mu_3$

μ_{4}

$\mu_4$

σ^{2} g^{'} (μ)^{2} + μ_{3} g^{'} (μ) g^{″} (μ) + \frac{1}{4} (μ_{4} - σ^{4}) g^{″} (μ)^{2}

$\sigma^2 g'(\mu )^2 + \mu_3 g'(\mu ) g''(\mu )+\frac{1}{4} \left(\mu_4-\sigma ^4\right) g''(\mu )^2$

— whuber

@jrand - Ich entschuldige mich. Ich wusste nicht, dass du das in deinem ursprünglichen Beitrag hattest. Ich lösche meinen Beitrag jedoch nicht, da das Setzen eine Weile gedauert hat.

— normal

@ Max, whuber: Danke für die Antwort und Erklärung.

— Rand