L'attente est-elle la même que la moyenne?

Je fais du ML à mon université, et le professeur a mentionné le terme Attente (E), alors qu'il essayait de nous expliquer certaines choses sur les processus gaussiens. Mais d'après la façon dont il l'a expliqué, j'ai compris que E est le même que le μ moyen. Ai-je bien compris?

Si c'est la même chose, savez-vous pourquoi les deux symboles sont utilisés? J'ai également vu que E peut être utilisé comme une fonction, comme E ( ), mais je ne l'ai pas vu pour μ. $x^2$

Quelqu'un peut-il m'aider à mieux comprendre la différence entre les deux?

machine-learning gaussian-process linear-algebra Jim Blum
la source

Pour

continu

X

$X$ ,

E [X] = \int_{- \infty}^{\infty} f (x) x d x = μ (x)

$E[X] = \int_{-\infty}^{\infty} f(x)x dx = \mu(x)$ où

f (x)

$f(x)$ est la fonction de densité de probabilité. Il n'est donc vrai que lorsque

X

$X$ est l'argument. Cependant, cela pourrait également être vrai si nous avons

E [g (X)] = E [X] = μ (X)

$E[g(X)] = E[X] = \mu(X)$ , où

g

$g$ est autre chose que la fonction d'identité.

Jase

@Jase

μ (x)

$\mu(x)$ ? Pourquoi le côté droit est-il une fonction de

x

$x$ , qui aurait dû disparaître après substitution des limites lors de l'évaluation de l'intégrale?

Dilip Sarwate

@DilipSarwate

μ (x)

$\mu(x)$ était une faute de frappe. Signifie

μ = μ (X)

$\mu = \mu(X)$ .

Jase

John: si j'étais vous, j'apprendrais les probabilités de base avant de suivre des cours de Machine Learning / Processus gaussiens. Jetez un œil à ce livre: math.uiuc.edu/~r-ash/BPT.html

Zen

Merci beaucoup les gars pour votre aide! Je ne m'attendais pas à autant de retours. @Zen Merci beaucoup pour vos conseils. Je suis absolument d'accord avec vous. J'ai pris un module de premier cycle sur les probabilités et les statistiques, cependant, nous venons d'avoir une introduction simple aux distributions et aux probabilités, et malheureusement nous ne les avons pas faites en profondeur. De plus, nous n'avons pas mentionné le terme «attente». J'essaie maintenant de combler moi-même mes lacunes en matière de statistiques et de probabilités.

Jim Blum

Réponses:

Attente / valeur attendue est un opérateur qui peut être appliqué à une variable aléatoire. Pour les variables aléatoires discrètes (comme binôme) avec valeurs possibles, elle est définie comme . Autrement dit, c'est la moyenne des valeurs possibles pondérées par la probabilité de ces valeurs. Les variables aléatoires continues peuvent être considérées comme la généralisation de ceci: . La moyenne d'une variable aléatoire est synonyme d'attente. $k$ $\sum_i^k x_i p(x_i)$ $\int x dP$

La distribution gaussienne (normale) a deux paramètres et . Si est normalement distribué, alors . La moyenne d'une variable gaussienne distribuée est donc égale au paramètre . Ce n'est pas toujours le cas. Prenons la distribution binomiale, qui a les paramètres et . Si est distribué binomialement, alors . $\mu$ $\sigma^2$ $X$ $E(X)=\mu$ $\mu$ $n$ $p$ $X$ $E(X)=np$

Comme vous l'avez vu, vous pouvez également appliquer des attentes aux fonctions de variables aléatoires de sorte que pour un gaussien, vous pouvez trouver que . $X$ $E(X^2)=\sigma^2+\mu^2$

La page Wikipedia sur les valeurs attendues est assez informative: http://en.wikipedia.org/wiki/Expected_value

Jeremy Coyle
la source

"... de sorte que pour un gaussien, vous pouvez trouver que " Est-il absolument nécessaire que par Gaussian pour que cette relation se tienne?

X

$X$

E (X^{2}) = σ^{2} + μ^{2}

$E(X^2)=\sigma^2+\mu^2$

X

$X$

Dilip Sarwate

La relation tiendra toujours, mais je m'attendrais à ce que la réponse soit écrite en termes de paramètres de la distribution. Donc, si je demandais à quelqu'un ce était pour binomial distribué , je m'attendrais à la réponse , pas

E (X^{2}) = V (X) + E (X)^{2}

$E(X^2)=V(X)+E(X)^2$

E (X^{2})

$E(X^2)$

X

$X$

(n, p)

$(n,p)$

n p (1 - p) + (n p)^{2}

$np(1-p)+(np)^2$

σ^{2} + μ^{2}

$\sigma^2+\mu^2$

Jeremy Coyle

Mais si vous demandiez quel était pour une variable aléatoire binomiale de moyenne et de variance , la réponse serait . Certes, les variables aléatoires binomiales sont généralement paramétrées en utilisant et , mais alors quoi? A partir de la moyenne et de la variance, nous pouvons facilement trouver et

E (X^{2})

$E(X^2)$

μ

$\mu$

σ^{2}

$\sigma^2$

σ^{2} + μ^{2}

$\sigma^2+\mu^2$

n

$n$

p

$p$

p = 1 - \frac{variance}{mean}

$p = 1 - \frac{\text{variance}}{\text{mean}}$

n = \frac{mean}{p} = \frac{{mean}^{2}}{mean - variance} .

$n = \frac{\text{mean}}{p} = \frac{\text{mean}^2}{\text{mean}-\text{variance}}.$

Dilip Sarwate

L'intérêt de l'exemple était de faire une distinction entre les paramètres d'une distribution et les moments d'une distribution. Oui, il est possible de reparamétrer les distributions en fonction de leurs moments, mais comme l'OP posait des questions sur la relation entre et , il semble important de continuer à faire cette distinction. Y a-t-il une raison pour laquelle vous choisissez d'être pédant sur ce point?

E (X)

$E(X)$

μ

$\mu$

Jeremy Coyle

Merci beaucoup Jeremy! Excellente réponse. vous avez été très utile!

Jim Blum

L'attente avec une notation d'opérateur E () (on trouve des préférences variables sur les bonnes polices, romaines ou italiques, simples ou fantaisies) implique de prendre la moyenne de son argument, mais dans un contexte mathématique ou théorique. Le terme remonte à Christiaan Huygens au XVIIe siècle. L'idée est explicite dans une grande partie de la théorie des probabilités et des statistiques mathématiques et, par exemple, le livre de Peter Whittle, Probability via expectation, explique clairement comment il pourrait être rendu encore plus central.

C'est simplement une question de convention que les moyennes (moyennes) sont aussi souvent exprimées assez différemment, notamment par des symboles uniques, et surtout lorsque ces moyennes doivent être calculées à partir de données. Cependant, Whittle dans le livre qui vient d'être cité utilise une notation A () pour la moyenne et les parenthèses angulaires autour des variables ou expressions à moyenne sont courantes en sciences physiques.

Nick Cox
la source