Qu'est-ce qu'une fonction de génération de moment (MGF)?

Pouvez-vous l'expliquer en termes simples et avec un exemple simple et facile?

Veuillez limiter autant que possible les notations mathématiques formelles.

Supposons qu'une intuition sans équation ne soit pas possible, et insistons toujours pour résumer les mathématiques à l'essentiel pour avoir une idée de ce qui se passe: nous essayons d'obtenir les moments statistiques , qui, après la référence obligatoire à la physique , nous définissons comme la valeur attendue d'une puissance d'une variable aléatoire. Pour une variable aléatoire continue, le ème moment brut est par LOTUS :$k$

$$\begin{align}\large \color{red}{\mathbb{E}\left[{X^k}\right]} &= \displaystyle\int_{-\infty}^{\infty}\color{blue}{X^k}\,\,\color{green}{\text{pdf}}\,\,\,dx\tag{1}\end{align}$$

La fonction de génération de moment , est un moyen de contourner cette intégrale (Eq.1) en effectuant à la place:

$$M_X(t):=\mathbb E\big[e^{tX}\big],$$

$$\begin{align} \large \color{blue}{\mathbb{E}\left[e^{\,tX}\right]}&=\displaystyle \int_{-\infty}^{\infty}\color{blue}{e^{tX}}\,\color{green}{\text{pdf}}\, dx\tag{2}\end{align}$$

Pourquoi? Parce que c'est plus facile et il y a une propriété fantastique du MGF qui peut être vue en étendant la série Maclaurin de $\color{blue}{e^{\,tX}}$

$$e^{tX}=1+\frac{ X }{1!}\, t +\frac{ X^{2} }{2!}t^{2} +\frac{ X^{3} }{3!} t^{3} +\cdots$$

Prenant l'attente des deux côtés de cette série de puissance:

$$\begin{align} M_X(t) &= \color{blue}{\mathbb{E}\left[e^{\,tX}\right]} \\[1.5ex] &=1 + \frac{\color{red}{\mathbb{E} \left[X\right]}}{1!} \, t \, + \frac{\color{red}{\mathbb{E} \left[X^2\right]}}{2!} \, t^2 \, + \frac{\color{red}{\mathbb{E} \left[X^3\right]}}{3!} \, t^3 \, + \cdots\tag{3} \end{align}$$

les moments apparaissent "perchés" sur cette "corde à linge" polynomiale, prêts à être éliminés en différenciant simplement $k$ fois et en évaluant à zéro une fois que nous avons traversé l'intégration plus facile (en éq. (2)) une seule fois pour tous les moments! Le fait qu'il s'agisse d'une intégration plus facile est plus apparent lorsque le pdf est exponentiel.

Pour récupérer le $k$ ème moment:

$$M_X^{(k)}(0)=\frac{d^k}{dt^k}M_X(t)\Bigr|_{t=0}$$

Le fait que finalement il y ait un besoin de différenciation en fait un déjeuner pas gratuit - en fin de compte, c'est une transformation Laplace bilatérale du pdf avec un signe changé dans l'exposant:

$$\mathcal L \{\text{pdf}(x)\}(s) =\int_{-\infty}^{\infty}e^{-sx}\text{pdf}(x) dx$$

tel que

$$M_X(t)=\mathcal L\{\text{pdf}(x)\}(-s)\tag 4.$$

Ceci, en effet, nous donne une voie physique vers l'intuition. La transformée de Laplace agit sur le $\color{green}{\text{pdf}}$ et le décompose en moments. La similitude avec une transformée de Fourier est inévitable : un FT mappe une fonction à une nouvelle fonction sur la ligne réelle, et Laplace mappe une fonction à une nouvelle fonction sur le plan complexe. La transformée de Fourier exprime une fonction ou un signal sous la forme d'une série de fréquences, tandis que la transformée de Laplace résout une fonction en ses moments . En fait, une autre manière d'obtenir des moments consiste à utiliser une transformée de Fourier ( fonction caractéristique ). Le terme exponentiel dans la transformée de Laplace est en général de la forme $e^{-st}$ avec$s=\sigma + i\,\omega$ , correspondant auxexponentielles réelles et sinusoïdales imaginaires, et donnant des tracés tels quecelui-ci:

---

[ Extrait du Guide du scientifique et de l'ingénieur sur le traitement du signal par Steven W. Smith ]

---

Par conséquent, la fonction $M_X(t)$ décompose le $\text{pdf}$ quelque sorte en ses "fréquences constituantes" lorsque $\sigma=0.$ D'après l'éq. (4):

$$\begin{align}\require{cancel} M_X(t)&=\mathbb E\big[e^{-sX}\big]\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}{e^{-sx}}\,\text{pdf}(x)\, dx\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}{e^{-(\sigma+i\omega)x}}\,\text{pdf}(x)\, dx\\[2ex] &=\displaystyle \int_{-\infty}^{\infty}\cancel{e^{-\sigma x}}\,\color{red}{e^{-i\omega x}\,\text{pdf}(x)\, dx} \end{align}$$

ce qui nous laisse avec l'intégrale impropre de la partie de l'expression en rouge, correspondant à la transformée de Fourier du pdf.

En général, l' intuition des pôles de transformation de Laplace d'une fonction serait qu'ils fournissent des informations sur les composantes exponentielle (décroissance) et fréquentielle de la fonction (dans ce cas, le pdf).

---

$X^k$$e^{tx}$$(1)$$(2)$$k$$(2)$$k$$(3)$$0$

$$M(t)=e^{t\mu+1/2\sigma^2t^2}$$ $$\frac d {dt}M(t)|_{t=0}=\mu+\sigma^2t|_{t=0}=\mu$$

De plus, puisque ce MGF code tout sur la distribution, si vous savez manipuler la fonction, vous pouvez appliquer des opérations sur toutes les caractéristiques de la distribution à la fois! Pourquoi n'utilisons-nous pas toujours MGF? Tout d'abord, ce n'est pas dans toutes les situations que le MGF est l'outil le plus simple. Deuxièmement, MGF n'existe pas toujours.

Au-dessus du profane

$$f(x)=\frac 1 {\sqrt{2\pi}}e^{-x^2/2}$$

Vous pouvez calculer son moment tel que la moyenne et l'écart-type, et l'utiliser sur des variables transformées et des fonctions sur des normales aléatoires, etc.

Vous pouvez considérer le MGF de la distribution normale comme une alternative au PDF. Il contient la même quantité d'informations. J'ai déjà montré comment obtenir la moyenne.

$$\sigma^2=\int_{-\infty}^\infty x^2\frac 1 {\sqrt{2\pi}}e^{-x^2/2} dx=?$$ $M(t)=e^{t^2/2}$ $$\sigma^2=\frac {d^2} {dt^2}M(t)|_{t=0}=\frac d {dt} t |_{t=0}=1$$