Susciter des prieurs… avec de l'argent!

10

Supposons que j'ai « experts », dont je voudrais obtenir une distribution préalable sur une variable . Je voudrais les motiver avec de l'argent réel . L'idée est de susciter les priors, d'observer réalisations de la variable aléatoire , puis de répartir une certaine «bourse» prédéterminée parmi les experts en fonction de l'adéquation de leurs priors avec les preuves. Quelles sont les méthodes suggérées pour cette dernière partie, en cartographiant les antérieurs et les preuves sur un vecteur de paiement?XkXXnX

shabbychef
la source
Puisqu'il n'y a probablement pas de bonne réponse, nous pourrions vouloir CW celui-ci. Je laisse cela à la discrétion du modérateur.
shabbychef
1
Il peut y avoir une seule bonne réponse objectivement valable à cette question, donc j'hésite à la transformer en CW.
whuber
1
Ceci est similaire à l'idée de marchés de prédiction . PredictionBook est un endroit décent à regarder.
ely

Réponses:

7

Dans l'esprit de mon commentaire ci-dessus, je pense que la bonne chose à considérer est un marché de prédiction . Vous devez vendre des titres qui ont un gain fixe pour l'exactitude des prévisions. Vous pouvez utiliser des mesures standard de distance probabiliste, telles que celles mentionnées par Daniel Johnson dans sa réponse. Mais le but est de fixer les paiements sous forme de titres et de fixer des normes de mesure à l'avance (de préférence, utilisez simplement des événements binaires, tels que s'est produit ou non). De cette façon, si quelqu'un est prêt à payer X pour un titre qui paie 1,00 $ si l'événement qu'il couvre se produit réellement, vous savez qu'il affecte la probabilité X à l'événement couvert par le titre. La liquidité du marché veillera à la répartition des titres entre les experts.$A$

Je pense que cela est supérieur à un vecteur de paiement fixe comme celui que vous pourriez avoir pour un tournoi de golf. La raison en est que dans un tournoi de golf, tout ce qui compte, c'est votre performance face à vos concurrents, pas votre score global. Lorsque vous souhaitez inciter les croyances antérieures les plus précises possibles, vous ne voulez pas que les gens pensent qu'ils n'ont qu'à se surpasser pour obtenir le prix ... vous voulez qu'ils soient prêts à parier leur propre argent pour obtenir des paiements, car alors ils doivent eux-mêmes croire en leur évaluation antérieure, pas seulement que leur évaluation préalable est meilleure que celle de quelqu'un d'autre.

ely
la source
Il convient également de noter que les effets de la manipulation du marché ont été étudiés expérimentalement sur les marchés de prédiction (voir ici et ici ), et bien que plus de travail reste à faire, il semble que les participants peuvent facilement compenser les manipulateurs malveillants. Les résultats empiriques suggèrent qu'il serait extrêmement difficile de « jeu » du système, comme vous l' avez mentionné dans votre autre commentaire
ely
4

Le mot-clé à rechercher est la notation des règles : ce sont des fonctions pour évaluer et récompenser les prédictions probabilistes, et il y a eu pas mal de travail sur le sujet, remontant aux années 50. La principale chose que vous devez vérifier est qu'il est approprié , c'est-à-dire que l'expert dont vous demandez le précédent est incité à être honnête.

Il existe de nombreuses règles de notation appropriées: l'une des plus simples est la règle de notation logarithmique: vous récompensez l'expert avec une (fonction linéaire de) la probabilité de journalisation qu'il a attribuée à l'événement.

Simon Byrne
la source
Merci! Je me penchais vers quelque chose comme ça. En particulier, je voulais qu'il soit difficile de «jouer» le système par un agent sans aucune information.
shabbychef
1
Vérifiez le commentaire que j'ai ajouté à ma réponse ci-dessus ( lien ), car il existe des recherches prometteuses sur la robustesse des marchés de prédiction contre les manipulateurs et autres essayant de `` jouer '' le système. C'est vraiment supérieur aux règles de notation simples qui n'offrent des paiements que pour obtenir une meilleure précision que leurs pairs.
ely
@EMS: Qu'est-ce qui rend les marchés de prédiction supérieurs? L'intérêt d'une règle de notation est que le score EST indépendant des concurrents (même s'il est vrai qu'ils ne sont pas souvent mis en œuvre de cette manière dans la pratique: c'est-à-dire que tout l'argent est donné à la personne ayant le score le plus élevé)
Simon Byrne
0

Si la vraie distribution est connue de celui qui paie l'argent, une statistique naturelle à examiner serait l' entropie relative de l'a priori donné et la vraie distribution. Ensuite, le paiement pourrait simplement être une fonction décroissante monotone de l'entropie relative.

Cependant, je suppose que vous êtes intéressé par le cas où la véritable distribution est inconnue et les paiements doivent être décidés en utilisant uniquement les points de données. Une façon de procéder consiste à considérer la somme de la probabilité des points de données sous chaque distribution antérieure. Donc, plus formellement, .score n ( j antérieur  ) = n i = 1 P j ( X = x i )nscore(prior j)=i=1nPj(X=xi)

Une autre méthode serait très similaire à la première où je suppose que nous savions que la distribution de . Puisque nous avons points de données, nous pouvons utiliser ces informations pour approximer la vraie distribution en utilisant l' estimation de la densité du noyau . L'entropie relative peut alors être calculée entre la distribution estimée et chacun des a priori fournis par les experts.nXn

Daniel Johnson
la source
Certes, cependant, les experts tiendraient compte de toutes ces choses avant de vous donner leur "préalable".
ely
2
Voulez-vous dire si les experts ont été autorisés à visualiser les points de données? J'avais l'impression que leurs antérieurs avaient été créés avant le prélèvement des échantillons et ne pouvaient pas être fonction de ces données. n
Daniel Johnson
Ce ne serait pas les mêmes points de données, mais je suppose qu'ils essaieraient de collecter des données d'une manière ou d'une autre ou de connecter le problème à quelque chose pour lequel ils ont des données. Sinon, je ne sais pas comment un humain pourrait simplement dire verbalement une croyance antérieure. Comment sauriez-vous que cela correspondait à leurs croyances internes et n'était pas influencé comme la fixation des prix ou quelque chose par l'énorme signe de 3,99 qu'ils ont vu à la station-service sur le chemin de l'expérience? Aussi ... miaou. $n$
ely
1
Ce qui est bien, c'est que par rapport aux quantités physiques, comme l'estimation des distances ou du nombre de M&M dans un bocal, les humains sont des estimateurs non biaisés: prenez la moyenne d'un grand nombre de suppositions et c'est généralement très proche. Mais par rapport aux quantités non physiques, comme ce que sera le prix du gaz le mois prochain, les humains (même les experts) sont terribles , même en moyenne. La littérature sur la planification de l'erreur est effrayante, en particulier les exemples d'urbanistes professionnels qui évaluent constamment les coûts des projets municipaux, tout comme la façon dont les étudiants diplômés en statistique font mal avec le biais de l'erreur de conjonction.
ely
1
Le principal que je connais à la légère était certaines choses discutées dans un vieux livre sur la vision, "The Ecological Approach to Visual Perception" de James Gibson. Il a mentionné certaines expériences où les gens estimaient les distances sur un terrain de football entre deux personnes éloignées et d'autres choses similaires. Je ne me souviens pas où j'ai entendu le truc de M&M, mais je vais essayer de trouver des sources dessus.
ely