J'ai des difficultés avec Likelihoods . Je comprends le théorème de Bayes p(A|B,H)=p(B|A,H)p(A|H)p(B|H)p(A|B,H)=p(B|A,H)p(A|H)p(B|H)p(A|B, \mathcal{H}) = \frac{p(B|A, \mathcal{H}) p(A|\mathcal{H})}{p(B|\mathcal{H})} qui peut être directement déduit de l'application
Simulons d'abord quelques données pour une régression logistique avec des parties fixes et aléatoires: set.seed(1) n <- 100 x <- runif(n) z <- sample(c(0,1), n, replace=TRUE) b <- rnorm(2) beta <- c(0.4, 0.8) X <- model.matrix(~x) Z <- cbind(z, 1-z) eta <- X%*%beta + Z%*%b...
Je voudrais tout d'abord préciser que je ne suis pas un expert du sujet. Supposons que deux variables aléatoires et soient binomiales, respectivement X \ sim B (n_1, p) et Y \ sim B (n_2, p), notez ici que p est le même. Je sais que Z = X + Y \ sim B (n_1 + n_2, p).XXXYYYX∼B(n1,p)X∼B(n1,p)X\sim...
Christopher Bishop définit la valeur attendue de la fonction de vraisemblance du journal des données complètes (c'est-à-dire en supposant que l'on nous donne à la fois les données observables X et les données latentes Z) comme suit:
J'ai des données qui décrivent la fréquence à laquelle un événement se produit pendant une heure ("nombre par heure", nph) et la durée des événements ("durée en secondes par heure", dph). Ce sont les données d'origine: nph <- c(2.50000000003638, 3.78947368414551, 1.51456310682008,...
Je comprends où l'étape E se produit dans l'algorithme (comme expliqué dans la section mathématique ci-dessous). Dans mon esprit, l'ingéniosité clé de l'algorithme est l'utilisation de l'inégalité de Jensen pour créer une limite inférieure à la vraisemblance logarithmique. En ce sens, prendre le...
Je suis intéressé à comprendre la différence entre la "probabilité" d'un événement aléatoire avec une probabilité particulière se produisant réellement la probabilité exacte qu'il est probable. c'est-à-dire si un événement a une probabilité de 1 sur 10000, quelle est la probabilité que dans 10000...
Pourquoi un GLM prédit-il la moyenne et non le mode d'un signal? Cela ne contredit-il pas le fondement même du GLM, c'est-à-dire le maximum de vraisemblance? Les équations à résoudre pour les paramètres du modèle dans un GLM sont basées sur la maximisation de la vraisemblance comme décrit par la...
J'ai trouvé que pour un modèle de régression linéaire simple, OLS et la méthode du maximum de vraisemblance (en supposant une distribution normale) donnent le même résultat (valeurs des paramètres). À partir de là, pouvons-nous dire que l'OLS fait également des hypothèses implicites sur la...
Dans un modèle d'équation structurelle, on utilise souvent l'estimateur ML. Dans le cas où les variables ne sont pas normales à plusieurs variables, ML peut-il être utilisé? Souvent, les indicateurs dont vous disposez pour travailler ne sont pas normaux à plusieurs variables. Je ne sais pas comment...
On m'a donné un tableau de et , qui sont tels que le nombre de indique un nombre d'enfants que tous les ont.x = ( 0 , 1 , 2 , 3 , 4 , 5 , 6 )x=(0,1,2,3,4,5,6)x=(0,1,2,3,4,5,6)y= ( 3062 , 587 , 284 , 103 , 33 , 4 , 2 )y=(3062,587,284,103,33,4,2)y=(3062,587,284,103,33,4,2)Xjexix_iyjeyiy_i On me...
J'ai un modèle qui va: Single parameter -> Complex likelihood function -> Log-likelihood. J'ai exécuté une chaîne MCMC (en utilisant pymc) et tracé la trace du paramètre et la log-vraisemblance. L'estimation des paramètres s'est avérée raisonnable, mais le tracé de log-vraisemblance me semble...
Permettez-moi d'abord de donner quelques informations; Je résumerai mes questions à la fin. La distribution bêta, paramétrée par sa moyenne et , a , où est la fonction de variance.μμ\muϕϕ\phiVar(Y)=V(μ)/(ϕ+1)Var(Y)=V(μ)/(ϕ+1)\operatorname{Var}(Y) =
J'essaie de comprendre la différence entre la Newton-Raphsontechnique et la Fisher scoringtechnique en calculant la première itération pour chaque méthode pour un Bernoulliéchantillon. (Je sais que dans ce cas, je peux calculer explicitement et immédiatement mais je veux le faire de manière...
J'ai vu la justification suivante pour le test de Wald de l'hypothèse nulle pour un paramètre scalaire . Lorsque est le MLE pour estimé à partir d'un échantillon indépendant de taille , sous l'hypothèse nulle nous avons dans la distribution , où est l'information attendue pour une seule...
Cette question semble suffisamment fondamentale pour que je sois convaincue qu'il y ait une réponse ici quelque part, mais je ne l'ai pas trouvée. Je comprends que si la variable dépendante d'une régression est normalement distribuée, la probabilité maximale et les moindres carrés ordinaires...
Dans "L'apprentissage automatique: une perspective probabiliste" de Kevin Murphy, le chapitre 3.2, l'auteur montre l'apprentissage conceptuel bayésien sur un exemple appelé "jeu de nombres": Après avoir observé NNN des échantillons de {1,...,100}{1,...,100}\{1,...,100\}, nous voulons choisir une...