Was ist eine Momenterzeugungsfunktion (MGF)?

Können Sie es in Laienbegriffen und zusammen mit einem einfachen und einfachen Beispiel erklären?

Bitte beschränken Sie sich so weit wie möglich auf formale mathematische Notationen.

Nehmen wir an, dass eine gleichungsfreie Intuition nicht möglich ist, und bestehen Sie immer noch darauf, die Mathematik auf das Wesentliche zu beschränken, um eine Vorstellung davon zu bekommen, was vor sich geht: Wir versuchen, die statistischen Momente zu erhalten , die nach dem obligatorischen Bezug auf die Physik definieren wir als den erwarteten Wert einer Potenz einer Zufallsvariablen. Für eine kontinuierliche Zufallsvariable ist das rohe $k$ te Moment nach LOTUS :

$$\begin{align}\large \color{red}{\mathbb{E}\left[{X^k}\right]} &= \displaystyle\int_{-\infty}^{\infty}\color{blue}{X^k}\,\,\color{green}{\text{pdf}}\,\,\,dx\tag{1}\end{align}$$

Die Moment erzeugende Funktion ,

$$M_X(t):=\mathbb E\big[e^{tX}\big],$$ ist ein Weg , um diese integral zu gehen um (Gleichung 1) , indem stattdessen die Durchführung:

$$\begin{align} \large \color{blue}{\mathbb{E}\left[e^{\,tX}\right]}&=\displaystyle \int_{-\infty}^{\infty}\color{blue}{e^{tX}}\,\color{green}{\text{pdf}}\, dx\tag{2}\end{align}$$

Warum? Weil es einfacher ist und es eine fantastische Eigenschaft des MGF gibt, die sich aus der Erweiterung der Maclaurin-Reihe von e ergibt$\color{blue}{e^{\,tX}}$

$$e^{tX}=1+\frac{ X }{1!}\, t +\frac{ X^{2} }{2!}t^{2} +\frac{ X^{3} }{3!} t^{3} +\cdots$$

Die Erwartung beider Seiten dieser Potenzreihe nehmen:

$$\begin{align} M_X(t) &= \color{blue}{\mathbb{E}\left[e^{\,tX}\right]} \\[1.5ex] &=1 + \frac{\color{red}{\mathbb{E} \left[X\right]}}{1!} \, t \, + \frac{\color{red}{\mathbb{E} \left[X^2\right]}}{2!} \, t^2 \, + \frac{\color{red}{\mathbb{E} \left[X^3\right]}}{3!} \, t^3 \, + \cdots\tag{3} \end{align}$$

Die Momente erscheinen auf dieser polynomischen "Wäscheleine" "thronend", bereit, durch einfaches Differenzieren von $k$ Zeiten und Bewerten bei Null gekeult zu werden, sobald wir die einfachere Integration (in Gleichung (2)) nur einmal für alle Momente durchlaufen haben ! Die Tatsache, dass die Integration einfacher ist, wird am deutlichsten, wenn das PDF exponentiell ist.

So stellen Sie den $k$ ten Moment wieder her:

$$M_X^{(k)}(0)=\frac{d^k}{dt^k}M_X(t)\Bigr|_{t=0}$$

Die Tatsache, dass letztendlich eine Differenzierung erforderlich ist, macht es zu einem nicht kostenlosen Mittagessen - am Ende handelt es sich um eine zweiseitige Laplace-Transformation des PDF mit einem geänderten Vorzeichen im Exponenten:

$$\mathcal L \{\text{pdf}(x)\}(s) =\int_{-\infty}^{\infty}e^{-sx}\text{pdf}(x) dx$$

so dass

$$M_X(t)=\mathcal L\{\text{pdf}(x)\}(-s)\tag 4.$$

Dies gibt uns in der Tat einen physikalischen Zugang zur Intuition. Die Laplace-Transformation wirkt auf das $\color{green}{\text{pdf}}$ und zerlegt es in Momente. Die Ähnlichkeit mit einer Fourier-Transformation ist unvermeidlich : Eine FT ordnet eine Funktion einer neuen Funktion auf der realen Linie zu, und Laplace ordnet eine Funktion einer neuen Funktion auf der komplexen Ebene zu. Die Fourier-Transformation drückt eine Funktion oder ein Signal als eine Reihe von Frequenzen aus, während die Laplace-Transformation eine Funktion in ihre Momente auflöst . Eine andere Art, Momente zu erhalten, ist die Fourier-Transformation ( charakteristische Funktion ). Der exponentielle Term in der Laplace - Transformation ist im Allgemeinen der Form $e^{-st}$ mit$s=\sigma + i\,\omega$ , das denreellen Exponentialen und imaginären Sinuskurven entspricht, und liefert Diagramme wiedas folgende:

---

[ Vom Leitfaden für Wissenschaftler und Ingenieure zur Signalverarbeitung von Steven W. Smith ]

---

Daher zerlegt die $M_X(t)$ -Funktion das $\text{pdf}$ irgendwie in seine "konstituierenden Frequenzen", wenn $\sigma=0.$ Aus Gl. (4):

$$\begin{align}\require{cancel} M_X(t)&=\mathbb E\big[e^{-sX}\big]\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}{e^{-sx}}\,\text{pdf}(x)\, dx\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}{e^{-(\sigma+i\omega)x}}\,\text{pdf}(x)\, dx\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}\cancel{e^{-\sigma x}}\,\color{red}{e^{-i\omega x}\,\text{pdf}(x)\, dx} \end{align}$$

was uns mit dem falschen Integral des Teils des Ausdrucks in rot zurücklässt, der der Fouriertransformation des PDF entspricht.

Im Allgemeinen besteht die Intuition der Laplace-Transformationspole einer Funktion darin, Informationen über die Exponential- (Abfall-) und Frequenzkomponenten der Funktion (in diesem Fall das PDF) bereitzustellen.

---

Bei der Beantwortung der Frage unter Kommentare zum Wechsel von $X^k$ zu $e^{tx}$ handelt es sich um einen völlig strategischen Schritt: Ein Ausdruck folgt nicht dem anderen. Hier ist eine Analogie: Wir haben ein eigenes Auto und können jedes Mal in die Stadt fahren, wenn wir uns um ein Geschäft kümmern müssen (Lesen, Integrieren von Gleichung $(1)$ egal wie schwierig es für jeden einzelnen Moment ist). . Stattdessen können wir etwas völlig anderes machen: Wir können zur nächsten U-Bahn-Station fahren (lies, löse Gleichung $(2)$ nur einmal) und von dort aus mit öffentlichen Verkehrsmitteln jeden einzelnen Ort erreichen, den wir besuchen müssen (lies, hol irgendein $k$Ableitung des Integrals in Gleichung $(2)$ , um den $k$ ten Moment zu extrahieren , den wir benötigen, wobei wir (dank Gleichung $(3)$ ) wissen, dass sich alle Momente dort "verstecken" und isoliert sind, indem wir bei $0$ auswerten ).

$$M(t)=e^{t\mu+1/2\sigma^2t^2}$$ $$\frac d {dt}M(t)|_{t=0}=\mu+\sigma^2t|_{t=0}=\mu$$

Da dieser MGF außerdem alles über die Verteilung codiert , können Sie Operationen auf alle Merkmale der Verteilung gleichzeitig anwenden, wenn Sie wissen, wie die Funktion zu manipulieren ist! Warum verwenden wir nicht immer MGF? Erstens ist MGF nicht in allen Situationen das einfachste Werkzeug. Zweitens existiert MGF nicht immer.

Über dem Laien

$$f(x)=\frac 1 {\sqrt{2\pi}}e^{-x^2/2}$$

Sie können das Moment wie Mittelwert und Standardabweichung berechnen und es für transformierte Variablen und Funktionen für Zufallsnormalen usw. verwenden.

Sie können sich das MGF der Normalverteilung als Alternative zu PDF vorstellen. Es enthält die gleiche Menge an Informationen. Ich habe bereits gezeigt, wie man den Mittelwert erhält.

$$\sigma^2=\int_{-\infty}^\infty x^2\frac 1 {\sqrt{2\pi}}e^{-x^2/2} dx=?$$ $M(t)=e^{t^2/2}$: $$\sigma^2=\frac {d^2} {dt^2}M(t)|_{t=0}=\frac d {dt} t |_{t=0}=1$$