Pourquoi n'utilisons-nous pas la moyenne arithmétique pondérée au lieu de la moyenne harmonique?

Je me demande quelle est la valeur intrinsèque de l'utilisation de la moyenne harmonique (par exemple pour calculer les mesures F), par opposition à la moyenne arithmétique pondérée pour combiner précision et rappel? Je pense que la moyenne arithmétique pondérée pourrait jouer le rôle de moyenne harmonique, ou est-ce que je manque quelque chose?

machine-learning monte-carlo precision-recall harmonic-mean olga
la source

La moyenne harmonique est une moyenne arithmétique pondérée: chaque

a un poids proportionnel à

x_{i}

$x_i$

1 / x_{i}^{2}

$1/x_i^2$

whuber

Pouvez-vous en dire plus sur la façon dont la précision et le rappel sont combinés de cette façon?

AdamO

@whuber Je ne sais pas si votre commentaire est sérieux ou ironique. Les poids sont généralement supposés être fonction de l' indice de l'échantillon , et non de la valeur de l'échantillon . Sinon, toute moyenne est une moyenne arithmétique pondérée

Luis Mendo

@Luis La vérité se situe entre les deux. L'index de l'échantillon n'a souvent aucun sens. Les poids sont des fonctions des objets, mais ces fonctions ne dépendent généralement pas des valeurs faisant l'objet de la moyenne. Les exemples sont les poids associés aux temps (EWMA), à l'emplacement (comme dans les mesures de corrélation spatiale), au rang (comme dans le test de Shapiro-Wilk) et aux probabilités d'échantillonnage. Mais tous les moyens ne sont pas des AM pondérés: le GM ne l'est pas, par exemple. Puisque Filippa pose des questions sur la «valeur intrinsèque», il a semblé pertinent de souligner la relation mathématique entre la moyenne harmonique et les moyennes pondérées.

whuber

Réponses:

En général, les moyennes harmoniques sont préférées lorsque l'on essaie de faire la moyenne des taux, au lieu des nombres entiers. Dans le cas d'une mesure F1, une moyenne harmonique pénalisera de très petites précisions ou rappels, contrairement à la moyenne arithmétique non pondérée. Imaginez une moyenne de 100% et 0%: la moyenne arithmétique est de 50% et la moyenne harmonique est de 0%. La moyenne harmonique exige que la précision et le rappel soient élevés.

De plus, lorsque la précision et le rappel sont proches, la moyenne harmonique sera proche de la moyenne arithmétique. Exemple: la moyenne harmonique de 95% et 90% est de 92,4% par rapport à la moyenne arithmétique de 92,5%.

La question de savoir s'il s'agit d'une propriété souhaitable dépend probablement de votre cas d'utilisation, mais elle est généralement considérée comme bonne.

Enfin, notez que, comme @whuber l'a indiqué dans les commentaires, la moyenne harmonique est en effet une moyenne arithmétique pondérée.

ilanman
la source

10

$10$

120

$120$

10

$10$

60

$60$

80

$80$

10

$10$

120

$120$

10

$10$

60

$60$

90

$90$

En effet, le premier paragraphe est plutôt une déclaration générale sur la moyenne harmonique. Mais vous avez raison, la précision et le rappel sont des fractions et non des taux. Je crois qu'il y a une notion qu'une moyenne arithmétique est préférée pour les valeurs qui ont une somme interprétable (qui ne s'appliquerait pas dans ce cas), mais certainement on peut prendre une moyenne arithmétique de précision et rappeler et produire un résultat utile.

ilanman

Excellent! Je recherche plutôt des "justifications" pour l'utilisation de la règle de moyenne harmonique. Mais je ne sais pas trop comment penser aux justifications ..

olga

$\mathbb{E}[X]$ $\mathbb{E}[1/X]$

f (x) = \frac{α x_{0}^{α}}{x^{α + 1}} I_{x \geq x_{0}}

$f(x)=\dfrac{\alpha x_0^{\alpha}}{x^{\alpha+1}}\mathbb{I}_{x\ge x_0}$

α \leq 1

$\alpha\le 1$

E [1 / X] = \int_{x_{0}}^{\infty} \frac{α x_{0}^{α}}{x^{α + 2}} d x = \frac{α x_{0}^{α}}{(α + 1) x_{0}^{α + 1}} = \frac{α}{(α + 1) x_{0}}

$\mathbb{E}[1/X]=\int_{x_0}^\infty \dfrac{\alpha x_0^{\alpha}}{x^{\alpha+2}}\,\text{d}x=\dfrac{\alpha x_0^{\alpha}}{(\alpha+1) x_0^{\alpha+1}}=\dfrac{\alpha}{(\alpha+1) x_0}$

$\mathcal{B}e(\alpha,\beta)$ $\alpha\le1$

E [\frac{φ (θ)}{π (θ) L (θ | x)} | x] = \frac{1}{m (x)}

$\mathbb{E}\left[\dfrac{\varphi(\theta)}{\pi(\theta)L(\theta|x)}\Big| x\right]=\dfrac{1}{m(x)}$

φ (\cdot)

$\varphi(\cdot)$

π (\cdot)

$\pi(\cdot)$

L (\cdot | x)

$L(\cdot|x)$

m (\cdot)

$m(\cdot)$

Xi'an
la source

Pourquoi ces propriétés sont-elles préférables lors de la moyenne des taux?

Walrus the Cat

Je ne connais pas les résultats d'optimalité, mais avoir un estimateur avec une espérance finie semble préférable à un sans!

Xi'an