La communauté du machine learning abusant est-elle «conditionnée» et «paramétrée par»?

Disons que dépend de . Rigoureusement parlant, $X$ $\alpha$

si et sont tous deux des variables aléatoires, on pourrait écrire ; $X$ $\alpha$ $p(X\mid\alpha)$
cependant, si est une variable aléatoire et est un paramètre, nous devons écrire . $X$ $\alpha$ $p(X; \alpha)$

Je remarque plusieurs fois que la communauté du machine learning semble ignorer les différences et abuser des termes.

Par exemple, dans le célèbre modèle LDA, où est le paramètre Dirichlet au lieu d'une variable aléatoire. $\alpha$

entrez la description de l'image ici

Ne devrait-il pas s'agir de ? Je vois beaucoup de gens, y compris les auteurs originaux du document LDA, l'écrire comme . $p(\theta;\alpha)$ $p(\theta\mid\alpha)$

machine-learning terminology Sibbs Gambling
la source

Mathématiquement parlant, vous pouvez toujours conditionner une constante, car il s'agit d'un cas limite de variable aléatoire. D'un point de vue bayésien, toutes les inconnues sont traitées comme des variables aléatoires, il est donc logique d'utiliser la notation de conditionnement partout.

Xi'an

@ Xi'an Je comprends votre point sur le "conditionnement sur une constante". Mais imaginez que je tire

d'une distribution catégorielle du paramètre

, c'est-à-dire

. Puis-je écrire la distribution comme

? Cela me semble bizarre, car on peut toujours définir un

fixe .

me semble plus confortable.

X

$X$

θ

$\theta$

X \sim C a t (θ)

$X\sim Cat(\theta)$

p (X ∣ θ)

$p(X\mid\theta)$

θ

$\theta$

p (X; θ)

$p(X;\theta)$

Sibbs Gambling

Je ne vois pas le problème en écrivant

dans ce cas particulier. Encore une fois, l'utilisation de notations conditionnelles ouvre la voie à l'introduction de distributions antérieures sur chaque paramètre inconnu.

p (X ∣ θ)

$p(X\mid\theta)$

Xi'an

Réponses:

Je pense que cela concerne plus les statistiques bayésiennes / non-bayésiennes que l'apprentissage automatique vs les statistiques.

Dans les statistiques bayésiennes, les paramètres sont également modélisés comme des variables aléatoires. Si vous avez une distribution conjointe pour , est une distribution conditionnelle, quelle que soit l'interprétation physique de et . Si l'on considère seulement s fixe ou sinon ne met pas une distribution de probabilité sur , les calculs avec sont exactement les mêmes qu'avec avec $X,\alpha$ $p(X \mid \alpha)$ $X$ $\alpha$ $\alpha$ $\alpha$ $p(X; \alpha)$ $p(X \mid \alpha)$ $p(\alpha)$ $\alpha$ $\alpha$ $\alpha$

$p(X ; \alpha)$ $p(X \mid \alpha)$ $p$ $\mid$

Juho Kokkala
la source