Dérivation du changement de variables d'une fonction de densité de probabilité?

16

Dans la reconnaissance des formes de livre et l'apprentissage automatique (formule 1.27), il donne

py(y)=px(x)|dxdy|=px(g(y))|g(y)|
où , est le pdf qui correspond à par rapport au changement de la variable.px=g(y)p y ( y )px(x)py(y)

Les livres disent que c'est parce que les observations tombant dans la gamme seront, pour les petites valeurs de , transformées dans la gamme .δ x(x,x+δx)δX(y,y+δy)

Comment est-ce dérivé formellement?


Mise à jour de Dilip Sarwate

Le résultat n'est valable que si est une fonction d'augmentation ou de diminution strictement monotone.g


Quelques modifications mineures à la réponse de LV Rao Par conséquent, si augmente de façon monotone cas de diminution monotone \ donc f_ {Y} (y) = f_ {X} (g ^ {- 1} (y)) \ cdot \ left | \ frac {d} {dy} g ^ {- 1} (y) \ droite | g F Y ( y ) = F X

P(Ouiy)=P(g(X)y)={P(Xg-1(y)),si g augmente de façon monotoneP(Xg-1(y)),si g diminue de façon monotone
gf
FOui(y)=FX(g-1(y))
FY(y)=1-FX(g-1(y))fY(y)=-fX(g-1(y))d
FOui(y)=FX(g-1(y))yg-1(y)
FOui(y)=1-FX(g-1(y))
FOui(y)=-FX(g-1(y))yg-1(y)
FOui(y)=FX(g-1(y))|yg-1(y)|
dontloo
la source
1
Le résultat n'est valable que si est une fonction d'augmentation ou de diminution strictement monotone. Dessinez un graphique de et casse-vous en utilisant l'idée de base derrière la définition du dérivé (pas la définition formelle avec epsilon et delta). De plus, il y a une réponse de @whuber sur ce site qui précise les détails; c'est-à-dire qu'il doit être fermé en double. gg
Dilip Sarwate
L'explication de votre livre rappelle celle que j'ai proposée sur stats.stackexchange.com/a/14490/919 . J'ai également publié une méthode algébrique générale sur stats.stackexchange.com/a/101298/919 et une explication géométrique sur stats.stackexchange.com/a/4223/919 .
whuber
1
@DilipSarwate merci pour votre explication, je pense que je comprends l'intuition, mais je suis plus intéressé par la façon dont elle peut être dérivée en utilisant les règles et les théorèmes existants :)
dontloo

Réponses:

15

Supposons que est une variable aléatoire continue avec f (x). Si nous définissonsXpdfOui=g(X) , où g () est une fonction monotone, alors le pdfde est obtenu comme suit: en différenciant les CDFs des deux côtés wrt , nous obtenons le pdf de . La fonction g () pourrait être soit monotoniquement croissante, soit monotoniquement décroissante. Si la fonction g () augmente de façon monotone, alors le pdf de est donné par Oui

P(Ouiy)=P(g(X)y)=P(Xg-1(y))orFOui(y)=FX(g-1(y)),par la définition de CDF
yOuiOui
FOui(y)=FX(g-1(y))yg-1(y)
et d'autre part, si elle diminue de façon monotone, alors le pdf de est donné par Les deux équations ci-dessus peuvent être combinées en une seule équation: Oui
FOui(y)=-FX(g-1(y))yg-1(y)
FOui(y)=FX(g-1(y))|yg-1(y)|
LVRao
la source
Mais comme l'intégrale sur fx doit être égale à 1 et fy est une version mise à l'échelle de fx, cela ne signifie-t-il pas que fy n'est pas un pdf correct, à moins que le jacobien dans abs () soit 1 ou -1?
Chris
@Chris Le jacobien de n'est pas nécessairement une fonction constante, il peut donc être> 1 à certains endroits et <1 à d'autres. g-1
Yatharth Agarwal