Qu'est-ce que l'estimation conjointe?

12

Ma question est simple: qu'est-ce que l'estimation conjointe? Et qu'est-ce que cela signifie dans le contexte de l'analyse de régression? Comment est-il fait? J'ai erré dans le puissant Internet pendant un certain temps, mais je n'ai pas trouvé de réponses à ces questions.

Perdu dans la régression
la source
1
Merci beaucoup pour toutes les réponses utiles et l'effort que vous avez mis pour clarifier cela pour moi!
Perdu en régression

Réponses:

14

L'estimation conjointe consiste simplement à estimer conjointement deux (ou plus) choses en même temps. Cela peut être aussi simple que d'estimer la moyenne et l'écart type d'un échantillon.

Dans une grande partie de la littérature, le terme est invoqué car une procédure d'estimation spéciale doit être utilisée. C'est généralement le cas lorsqu'une quantité dépend de l'autre et vice versa, de sorte qu'une solution analytique au problème est insoluble. La façon dont l'estimation conjointe est effectuée dépend entièrement du problème.

Une méthode qui apparaît souvent pour la «modélisation conjointe» ou l'estimation conjointe est l'algorithme EM. EM signifie attente - maximisation. En alternant ces étapes, l'étape E remplit les données manquantes qui dépendent autrement de la composante A, et l'étape M trouve des estimations optimales pour la composante B. En itérant les étapes E et M, vous pouvez trouver une estimation de probabilité maximale de A et B, ainsi estimer conjointement ces choses.

AdamO
la source
1
Pouvez-vous donner un exemple où nous n'évaluons pas la moyenne et l'écart-type d'une variable? Quel type d'algorithme est alors utilisé?
smci
La modélisation linéaire mixte @smci estime conjointement les composantes fixes et aléatoires.
AdamO
merci, je veux dire, veuillez modifier cela (et tout autre exemple) dans votre réponse. L'algorithme est-il totalement différent de EM? (Comment parvient-il à estimer les deux composants simultanément?
Garantit
@smci je ne suis pas d'accord. a) Ce n'est pas la question du PO. b) Il existe une infinité d '«autres exemples» c) quel est l'algorithme de LME et comment est-il différent de EM est une autre question.
AdamO
cela aide à illustrer la réponse avec des exemples. Et cela fait une meilleure réponse, fait donc partie de ce qui a été demandé.
smci
6

Dans un contexte statistique, le terme "estimation conjointe" pourrait en théorie signifier l'une des deux choses suivantes:

    1. L' estimation simultanée de deux ou plusieurs paramètres scalaires (ou de manière équivalente, l'estimation d'un paramètre vectoriel avec au moins deux éléments); ou
    1. L'estimation d' un seul paramètre se rapportant à un joint (p. Ex. Dans l'étude de la menuiserie, des systèmes de plomberie ou du tabagisme de la marijuana).

De ces deux options, la seconde est une blague, donc presque certainement, l'estimation conjointe fait référence à l'estimation simultanée de deux paramètres scalaires à la fois.

Ben - Réintègre Monica
la source
1
être pédant, deux ou plus
qwr
1
Pédanterie acceptée - éditée.
Ben - Réintègre Monica
3

L'estimation conjointe utilise des données pour estimer deux paramètres ou plus en même temps. Une estimation séparée évalue chaque paramètre un par un.

L'estimation est le résultat d'une certaine forme de processus d'optimisation. Pour cette raison, il n'existe pas de solutions d'estimation uniques en statistique. Si vous changez votre objectif, vous changez ce qui est optimal. Lorsque vous apprenez des choses telles que la régression, personne ne vous dit pourquoi vous faites ce que vous faites. L'objectif de l'instructeur est de vous donner un certain degré de fonctionnalité de base en utilisant des méthodes qui fonctionnent dans un large éventail de circonstances. Au début, vous n'apprenez pas la régression. Au lieu de cela, vous apprenez une ou deux méthodes de régression qui sont largement applicables dans un large éventail de circonstances.

Le fait que vous recherchiez des solutions qui résolvent un objectif caché le rend un peu difficile à comprendre.

z=βXX+βyy+α
z(X,y){βX,βy,α}{X,y,z}

Dans une estimation distincte, vous estimeriez un paramètre à la fois. Dans l'estimation conjointe, vous les estimeriez tous en même temps.

Xzyy

XzXzz=βXX+αz=βyy+α

Maintenant, comment cela se fait. Toute estimation, à l'exception de quelques cas exceptionnels, utilise le calcul pour trouver un estimateur qui minimise une certaine forme de perte ou un certain type de risque. Le souci est que vous n'aurez pas de chance dans le choix de votre échantillon. Malheureusement, il existe un nombre infini de fonctions de perte. Il existe également un nombre infini de fonctions de risque.

J'ai trouvé plusieurs vidéos pour vous car c'est un sujet géant pour que vous puissiez le regarder sous une forme plus générale. Ils viennent de Mathematical Monk.

https://www.youtube.com/watch?v=6GhSiM0frIk

https://www.youtube.com/watch?v=5SPm4TmYTX0

https://www.youtube.com/watch?v=b1GxZdFN6cY

et

https://www.youtube.com/watch?v=WdnP1gmb8Hw .

Dave Harris
la source