Modèle bayésien hiérarchique (?)

Veuillez m'excuser d'avoir massacré le jargon statistique :) J'ai trouvé ici quelques questions concernant la publicité et les taux de clics. Mais aucun d'eux ne m'a beaucoup aidé dans ma compréhension de ma situation hiérarchique.

Il y a une question connexe. Ces représentations équivalentes du même modèle bayésien hiérarchique? , mais je ne sais pas s'ils ont réellement un problème similaire. Une autre question des Prieurs pour le modèle binomial bayésien hiérarchique va en détail sur les hyperpriors, mais je ne suis pas en mesure de cartographier leur solution à mon problème

J'ai quelques annonces en ligne pour un nouveau produit. J'ai laissé les annonces diffusées pendant quelques jours. À ce stade, suffisamment de personnes ont cliqué sur les annonces pour voir laquelle obtient le plus de clics. Après avoir éliminé tout sauf celui qui a généré le plus de clics, je laisse celui-ci s'exécuter pendant quelques jours pour voir combien de personnes achètent réellement après avoir cliqué sur l'annonce. À ce stade, je sais si c'était une bonne idée de diffuser les annonces en premier lieu.

Mes statistiques sont très bruyantes car je n'ai pas beaucoup de données car je ne vends que quelques articles par jour. Par conséquent, il est vraiment difficile d'estimer combien de personnes achètent quelque chose après avoir vu une annonce. Seulement environ un clic sur 150 entraîne un achat.

De manière générale, je dois savoir si je perds de l'argent sur chaque annonce dès que possible en lissant d'une manière ou d'une autre les statistiques par groupe d'annonces avec les statistiques globales sur toutes les annonces.

• Si j'attends que chaque annonce ait vu suffisamment d'achats, je vais faire faillite car cela prend trop de temps: pour tester 10 annonces, je dois dépenser 10 fois plus d'argent pour que les statistiques de chaque annonce soient suffisamment fiables. À ce moment-là, j'aurais peut-être perdu de l'argent.
• Si je fais la moyenne des achats sur toutes les annonces, je ne pourrai pas supprimer les annonces qui ne fonctionnent tout simplement pas aussi bien.

Puis-je utiliser le taux d'achat global ( sous-distributions N $? Cela signifie que plus je dispose de données pour chaque annonce, plus les statistiques de cette annonce sont indépendantes. Si personne n'a encore cliqué sur une annonce, je suppose que la moyenne mondiale est appropriée.$per click) and use it as a prior for$

Quelle distribution choisirais-je pour cela?

Si j'ai eu 20 clics sur A et 4 clics sur B, comment puis-je modéliser cela? Jusqu'à présent, j'ai compris qu'une distribution binomiale ou de Poisson pourrait avoir un sens ici:

• purchase_rate ~ poisson (?)
• (purchase_rate | group A) ~ poisson (estimer le prix d'achat uniquement pour le groupe A?)

Mais que dois-je faire ensuite pour calculer réellement le purchase_rate | group A. Comment puis-je connecter deux distributions ensemble pour donner un sens au groupe A (ou à tout autre groupe).

Dois-je d'abord monter un modèle? J'ai des données que je pourrais utiliser pour "former" un modèle:

• Annonce A: 352 clics, 5 achats
• Annonce B: 15 clics, 0 achat
• Annonce C: 3519 clics, 130 achats

Je cherche un moyen d'estimer la probabilité de l'un des groupes. Si un groupe n'a que quelques points de données, je veux essentiellement revenir à la moyenne mondiale. Je connais un peu les statistiques bayésiennes et j'ai lu beaucoup de PDF décrivant comment ils modélisent en utilisant l'inférence bayésienne et les antécédents conjugués, etc. Je pense qu'il existe un moyen de le faire correctement, mais je ne sais pas comment le modéliser correctement.

Je serais très heureux des conseils qui m'aideraient à formuler mon problème de manière bayésienne. Cela aiderait beaucoup à trouver des exemples en ligne que je pourrais utiliser pour réellement implémenter cela.

Mise à jour:

Merci beaucoup d'avoir répondu. Je commence à comprendre de plus en plus de petits détails sur mon problème. Je vous remercie! Permettez-moi de poser quelques questions pour voir si je comprends mieux le problème maintenant:

Je suppose donc que les conversions sont distribuées sous forme de distributions bêta et qu'une distribution bêta a deux paramètres, et .$a$$b$

Les paramètres sont des hyperparamètres, ils sont donc des paramètres antérieurs? Donc, au final, j'ai défini le nombre de conversions et le nombre de clics comme paramètre de ma distribution bêta?$\frac{1}{2}$ $\frac{1}{2}$

À un moment donné, lorsque je veux comparer différentes annonces, je calculerais donc . Comment calculer chaque partie de cette formule?$P(\mathrm{conversion} | \mathrm{ad}=X) = \frac{P(\mathrm{ad}=X | \mathrm{conversion}) * P(\mathrm{conversion})}{P(\mathrm{ad}=X)}$

• Je pense que est appelé vraisemblance, ou "mode" de la distribution bêta. C'est donc , avec et étant les paramètres de ma distribution. Mais les et spécifiques sont les paramètres de la distribution juste pour l'annonce , non? Dans ce cas, s'agit-il uniquement du nombre de clics et de conversions enregistrés par cette annonce? Ou combien de clics / conversions toutes les annonces ont-elles vues?α - $P(\mathrm{ad}=X | \mathrm{conversion})$ αβαβ$\frac{\alpha - 1}{\alpha + \beta - 2}$$\alpha$$\beta$$\alpha$$\beta$$X$

• Ensuite, je multiplie avec l'a priori, qui est P (conversion), qui est dans mon cas juste l'a priori de Jeffreys, qui n'est pas informatif. L'avant restera-t-il le même que j'obtiens plus de données?

• Je divise par , qui est la probabilité marginale, donc je compte la fréquence à laquelle cette annonce a été cliquée?$P(\mathrm{ad})$

En utilisant le précédent de Jeffreys, je suppose que je commence à zéro et je ne sais rien de mes données. Ce prieur est appelé "non informatif". Tandis que je continue à découvrir mes données, dois-je mettre à jour la précédente?

Au fur et à mesure des clics et des conversions, j'ai lu que je devais "mettre à jour" ma distribution. Est-ce à dire que les paramètres de ma distribution changent, ou que les changements antérieurs? Lorsque je reçois un clic pour l'annonce X, dois-je mettre à jour plusieurs distributions? Plus d'un avant?

Comme vous l'avez compris, une façon très générale d'aborder votre question est de construire un modèle bayésien hiérarchique (à plusieurs niveaux). Le modèle comprend trois parties, comme illustré ci-dessous.

Modèle

1. Au niveau de la population, nous modélisons la probabilité de conversion dans la population d'annonces à partir de laquelle votre ensemble particulier d'annonces testées est échantillonné. On pourrait fixer les paramètres de population et les utiliser comme a priori pour le deuxième niveau, comme l'a déjà noté Neil. Alternativement, nous pourrions placer un prior sur les paramètres de population eux-mêmes, ce qui offre l'avantage supplémentaire que nous pouvons maintenant exprimer notre incertitude sur les paramètres de population à la lumière des données. Suivons cette route et un sur la moyenne de la population et sur la précision de la population ( c'est-à-dire la variance inverse). Un a priori diffus peut être obtenu en utilisant$\mathcal{N}(\mu \mid \mu_0, \eta_0)$$\mu$$\textrm{Ga}(\lambda \mid a_0, b_0)$$\mu_0 = 0, \eta_0 = 0.1, a_0 = 1, b_0 = 1$, ce qui garantit que nos inférences postérieures seront dominées par les données.

2. Au niveau des annonces individuelles, nous pouvons modéliser la probabilité de conversion d'une annonce donnée distribuée logit-normalement. Ainsi, pour chaque annonce , la probabilité de conversion logit est modélisée comme .$\pi_j$$j$$j$$\rho_j := \textrm{logit}(\pi_j)$$\mathcal{N}(\rho_j \mid \mu,\lambda)$

3. Enfin, au niveau des données observées, nous modélisons le nombre de conversions pour ad comme , où utilise la transformée sigmoïde pour traduire un taux logit en une probabilité, et où est le nombre de clics sur l'annonce . j Bin ( k j ∣ σ ( ρ j ) , n j ) σ ( ρ j ) n j$k_j$$j$$\textrm{Bin}(k_j \mid \sigma(\rho_j), n_j)$$\sigma(\rho_j)$$n_j$$j$

Les données

Par exemple, prenons les données que vous avez publiées dans votre question d'origine,

Annonce A: 352 clics, 5 achats

Annonce B: 15 clics, 0 achat

Annonce C: 3519 clics, 130 achats

que nous traduisons en:$n_1 = 352, k_1 = 5, n_2 = 15, k_2 = 0, \ldots$

Inférence

Inverser ce modèle signifie obtenir des distributions postérieures pour nos paramètres de modèle. Ici, j'ai utilisé une approche bayésienne variationnelle pour modéliser l'inversion, qui est plus efficace sur le plan informatique que les schémas d'échantillonnage stochastiques tels que MCMC. J'ai tracé les résultats ci-dessous.

La figure montre trois panneaux. (a) Une visualisation simple des données d'exemple que vous avez fournies. Les barres grises représentent le nombre de clics, les barres noires indiquent le nombre de conversions. (b) La distribution postérieure résultante sur le taux de conversion moyen de la population. À mesure que nous observons plus de données, cela deviendra de plus en plus précis. (c) Intervalles de probabilité postérieure centrale à 95% (ou intervalles crédibles) des taux de conversion postérieure spécifiques à l'annonce.

Le dernier panneau illustre deux caractéristiques clés d'une approche bayésienne de la modélisation hiérarchique. Premièrement, la précision des postérieurs reflète le nombre de points de données sous-jacents. Par exemple, nous avons relativement de nombreux points de données pour l'annonce C; ainsi, son postérieur est beaucoup plus précis que les postérieurs des autres publicités.

Deuxièmement, les inférences spécifiques à l'annonce sont basées sur les connaissances de la population. En d'autres termes, les postérieurs spécifiques à l'annonce sont basés sur les données de l'ensemble du groupe, un effet connu sous le nom de rétrécissement de la population . Par exemple, le mode postérieur (cercle noir) de l'annonce A est beaucoup plus élevé que son taux de conversion empirique (bleu). En effet, toutes les autres annonces ont des modes postérieurs plus élevés, et nous pouvons donc obtenir une meilleure estimation de la vérité terrain en informant nos estimations spécifiques à l'annonce par la moyenne du groupe. Moins nous avons de données sur une annonce particulière, plus sa partie postérieure sera influencée par les données des autres annonces.

Toutes les idées que vous avez décrites dans votre question d'origine sont réalisées naturellement dans le modèle ci-dessus, illustrant l'utilité pratique d'un cadre entièrement bayésien.

$p$

$p$$a$$a'$$b$$b'$

$a'$$b'$$(\frac12, \frac12)$$a', b'$

$p$$a, b$

En réponse à vos modifications:

$p$$a$$b$$p$$p$$a$$b$

La mise à jour bayésienne est

$x$$p$$a$$b$$a$$b$$p$

Le prieur des Jeffreys n'est pas la même chose que le prieur non informatif, mais je pense que c'est mieux à moins d'avoir une bonne raison de l'utiliser. N'hésitez pas à poser une autre question si vous souhaitez entamer une discussion à ce sujet.