Comment accélérer le calcul des effets fixes dans un GLMM?

Je fais une étude de simulation qui nécessite des estimations d'amorçage obtenues à partir d'un modèle mixte linéaire généralisé (en fait, le produit de deux estimations pour les effets fixes, une à partir d'un GLMM et l'autre à partir d'un LMM). Pour bien faire l'étude, il faudrait environ 1000 simulations avec 1000 ou 1500 réplications bootstrap à chaque fois. Cela prend beaucoup de temps sur mon ordinateur (plusieurs jours).

How can I speed up the computation of these fixed effects?

Pour être plus précis, j'ai des sujets qui sont mesurés de manière répétée de trois manières, donnant lieu aux variables X, M et Y, où X et M sont continus et Y est binaire. Nous avons deux équations de régression où Y est la variable continue latente sous-jacente pour et les erreurs ne sont pas iid. La statistique que nous voulons démarrer est . Ainsi, chaque réplication bootstrap nécessite l'ajustement d'un LMM et d'un GLMM. Mon code R est (en utilisant lme4)

M = α_{0} + α_{1} X + ϵ_{1}

$M=\alpha_0+\alpha_1X+\epsilon_1$

Y^{*} = β_{0} + β_{1} X + β_{2} M + ϵ_{2}

$Y^*=\beta_0+\beta_1X+\beta_2M+\epsilon_2$

^{*}

$^*$

Y

$Y$

α_{1} β_{2}

$\alpha_1\beta_2$

    stat=function(dat){
        a=fixef(lmer(M~X+(X|person),data=dat))["X"]
        b=fixef(glmer(Y~X+M+(X+M|person),data=dat,family="binomial"))["M"]
        return(a*b)
    }

Je me rends compte que j'obtiens la même estimation pour si je l' comme un modèle linéaire, ce qui fait gagner du temps, mais la même astuce ne fonctionne pas pour . $\alpha_1$ $\beta_2$

Dois-je simplement acheter un ordinateur plus rapide? :)

r mixed-model BR
la source

@BR quel est le col de la bouteille ici? Fondamentalement, ce qui prend du temps Rprof.

suncoolsu

Une façon consiste simplement à ignorer la partie "mixte" du GLMM. Il suffit de tenir un GLM ordinaire, les estimations ne changent pas beaucoup, mais leurs erreurs standards seront probablement

probabilityislogic

@probabilityislogic. En plus de votre remarque, je pense également que la différence entre les réponses dépendra de la taille du groupe et du comportement individuel du groupe. Comme le disent Gelman et Hill: les résultats du modèle à effets mixtes se situeraient entre le regroupement et l'absence de regroupement. (Évidemment, c'est pour les modèles hiérarchiques bayésiens, mais les modèles mixtes sont une manière classique de faire de même.)

suncoolsu

@probabilityislogic: Cela fonctionne pour LMM, mais cela semble échouer pour GLMM (ce qui signifie que j'ai exécuté des modèles avec et sans le M supplémentaire sur les mêmes données et que j'ai obtenu des résultats sensiblement différents). À moins, bien sûr, qu'il n'y ait une erreur dans la mise en œuvre de glmer.

@suncoolsu: le goulot d'étranglement est l'estimation du GLMM, qui peut prendre quelques secondes (surtout avec plusieurs effets aléatoires). Mais faites cela 1000 * 1000 fois, et c'est 280 heures de calcul. La pose d'un GLM prend environ 1/100 du temps.

Réponses:

Cela devrait aider à spécifier les valeurs de départ, bien qu'il soit difficile de savoir combien. Lorsque vous effectuez une simulation et un amorçage, vous devez connaître les «vraies» valeurs ou les estimations non amorcées ou les deux. Essayez d'utiliser ceux de l' start =option glmer.

Vous pouvez également envisager de vérifier si les tolérances pour déclarer la convergence sont plus strictes que vous n'en avez besoin. Je ne sais pas cependant comment les modifier à partir de la lme4documentation.

un arrêt
la source

Deux autres possibilités sont également à considérer, avant d'acheter un nouvel ordinateur.

Informatique parallèle - l'amorçage est facile à exécuter en parallèle. Si votre ordinateur est raisonnablement neuf, vous avez probablement quatre cœurs. Jetez un œil à la bibliothèque multicœur de R.
Le cloud computing est également une possibilité et raisonnablement bon marché. J'ai des collègues qui ont utilisé le cloud amazon pour exécuter des scripts R. Ils ont trouvé que c'était assez rentable.

csgillespie
la source

Merci d'avoir répondu. D'une certaine manière, j'ai oublié le fait que j'ai deux cœurs (mon ordinateur n'est pas très nouveau). J'aurais dû regarder le multicœur il y a longtemps.

Ce pourrait être un ordinateur plus rapide. Mais voici une astuce qui peut fonctionner.

Générez une simultanéation de , mais seulement conditionnelle à , puis faites juste OLS ou LMM sur les valeurs simulées . $Y^*$ $Y$ $Y^*$

Supposons que votre fonction de liaison soit . cela indique comment vous obtenez de la probabilité de à la valeur , et est très probablement la fonction logistique . $g(.)$ $Y=1$ $Y^*$ $g(z)=log \Big(\frac{z}{1-z}\Big)$

Donc, si vous supposez une distribution d'échantillonnage bernouli pour , puis utilisez les jeffreys avant pour la probabilité, vous obtenez une bêta postérieure pour . La simulation à partir de cela devrait être comme l'éclairage, et si ce n'est pas le cas, vous avez besoin d'un ordinateur plus rapide. De plus, les échantillons sont indépendants, donc pas besoin de vérifier les diagnostics de "convergence" comme dans MCMC, et vous n'avez probablement pas besoin d'autant d'échantillons - 100 peuvent fonctionner correctement pour votre cas. Si vous avez des binomiaux , remplacez simplement le du postérieur ci-dessus par , le nombre d'essais du binôme pour chaque . $Y\rightarrow Y\sim Bernoulli(p)$ $p\sim Beta(Y_{obs}+\frac{1}{2},1-Y_{obs}+\frac{1}{2})$ $Y's$ $1$ $n_i$ $Y_i$

Vous avez donc un ensemble de valeurs simulées . Vous appliquez ensuite la fonction de lien à chacune de ces valeurs, pour obtenir . Ajustez un LMM à , ce qui est probablement plus rapide que le programme GLMM. Vous pouvez fondamentalement ignorer les valeurs binaires d'origine (mais ne les supprimez pas!), Et simplement travailler avec la "matrice de simulation" ( , où est la taille de l'échantillon et est le nombre de simulations). $p_{sim}$ $Y_{sim}=g(p_{sim})$ $Y_{sim}$ $N\times S$ $N$ $S$

Donc, dans votre programme, je remplacerais la fonction fonction , et par une seule simultation, vous créeriez alors une sorte de boucle qui applique la fonction à chaque simulation, puis prend la moyenne comme l'estimation de . Quelque chose comme $gmler()$ $lmer()$ $Y$ $lmer()$ $b$

a = \dots

$a=\dots$

b = 0

$b=0$

d o s = 1, \dots, S

$do \ s=1,\dots,S$

b_{e s t} = l m e r (Y_{s} \dots)

$b_{est}=lmer(Y_s\dots)$

b = b + \frac{1}{s} (b_{e s t} - b)

$b=b+\frac{1}{s}(b_{est}-b)$

e n d

$end$

r e t u r n (a * b)

$return(a*b)$

Faites-moi savoir si j'ai besoin d'expliquer quelque chose de plus clair

probabilitéislogique
la source

Merci pour la réponse, ça va me prendre un peu pour la digérer (et j'ai déjà des projets pour mon samedi soir). Il est suffisamment différent pour qu'il ne soit pas clair pour moi qu'il donne la même réponse que l'approche GLMM, mais je dois y réfléchir davantage.