Quelle est la différence entre une fonction de perte et une fonction d'erreur?

Dans le contexte d'un modèle prédictif ou inférentiel, le terme "erreur" se réfère généralement à l'écart d'une valeur réelle par rapport à une prédiction ou à une attente de cette valeur. Elle est entièrement déterminée par le mécanisme de prédiction et le comportement réel des quantités sous observation. La «perte» est une mesure quantifiée de la gravité d'une erreur d'une taille / direction particulière, qui est affectée par les conséquences négatives qui découlent d'une prédiction inexacte.

Une fonction d'erreur mesure l'écart d'une valeur observable par rapport à une prédiction, tandis qu'une fonction de perte opère sur l'erreur pour quantifier la conséquence négative d'une erreur. Par exemple, dans certains contextes, il pourrait être raisonnable de supposer qu'il y a une perte d'erreur au carré , où la conséquence négative d'une erreur est quantifiée comme étant proportionnelle au carré de l'erreur. Dans d'autres contextes, nous pourrions être plus négativement affectés par une erreur dans une direction particulière (par exemple, faux positif contre faux négatif) et, par conséquent, nous pourrions adopter une fonction de perte non symétrique.

La fonction d'erreur est un objet purement statistique, tandis que la fonction de perte est un objet théorique de décision que nous apportons pour quantifier les conséquences négatives de l'erreur. Ce dernier est utilisé en théorie de la décision et en économie (généralement par son contraire - une fonction d'utilité cardinale).

Un exemple: vous êtes un racket criminel qui dirige un salon de paris illégal pour la foule. Chaque semaine, vous devez payer 50% des bénéfices au patron de Mob, mais puisque vous gérez le lieu, le patron compte sur vous pour donner une véritable comptabilité des bénéfices. Si vous avez une bonne semaine, vous pourriez le tirer de la pâte en sous-représentant votre profit, mais si vous sous-payez le patron, par rapport à ce qu'il soupçonne être le vrai profit, vous êtes un homme mort. Vous voulez donc prédire combien il s'attend à recevoir et payer en conséquence. Idéalement, vous lui donnerez exactement ce à quoi il s'attend et garderez le reste, mais vous pourriez potentiellement faire une erreur de prédiction et le payer trop ou (ouais!) Trop peu.

Vous avez une bonne semaine et gagnez de profit, donc le patron doit . Il ne sait pas quelle bonne semaine vous avez eue, donc sa véritable attente de sa part n'est que de (à votre insu). Vous décidez de lui payer . Alors votre fonction d'erreur est: $\pi = \$40,000$ $\tfrac{1}{2} \pi = \$20,000$ $\theta = \$15,000$ $\hat{\theta}$

Error (\hat{θ}, θ) = \hat{θ} - θ,

$\text{Error}(\hat{\theta}, \theta) = \hat{\theta} - \theta ,$

et (si nous supposons que la perte est linéaire en argent) votre fonction de perte est:

Loss (\hat{θ}, θ) = {\begin{cases} \infty & if \hat{θ} < θ (sleep wit' da fishes) \\ \hat{θ} - π & if \hat{θ} ⩾ θ (live to spend another week) \end{cases}

$\text{Loss}(\hat{\theta}, \theta) = \begin{cases} \infty & & \text{if } \hat{\theta} < \theta \quad \text{(sleep wit' da fishes)} \\[6pt] \hat{\theta} - \pi & & \text{if } \hat{\theta} \geqslant \theta \quad \text{(live to spend another week)} \\ \end{cases}$

Ceci est un exemple d'une fonction de perte asymétrique (solution discutée dans les commentaires ci-dessous) qui diffère sensiblement de la fonction d'erreur. La nature asymétrique de la fonction de perte dans ce cas souligne le résultat catastrophique dans le cas où il y a sous-estimation du paramètre inconnu.

Réintégrer Monica
la source

Très clair, merci pour ta réponse. J'accepterai une réponse après que d'autres auront eu la chance.

Dan Kowalczyk

Ce nouvel exemple semble provenir d'une expérience personnelle ...

Dan Kowalczyk

L'exemple est formidable.

Greenstick

Bien que l'exemple soit amusant, une perte infinie n'a pas de sens. La solution optimale dans ce cas serait toujours de donner à votre patron tout l'argent que vous avez gagné. Je suggère de changer cela pour que la réponse soit vraiment excellente.

Alex bGoode

Il semble y avoir des opinions divergentes sur l'exemple, donc pour le moment je vais le laisser tel quel, mais je suis ouvert à une modification si elle se révèle impopulaire. Cela dit, le but dans le présent contexte est de montrer au PO un exemple de fonction de perte hautement asymétrique, pour souligner la différence avec la fonction d'erreur. Le fait que la solution optimale consiste à donner tout l'argent au patron ne rend pas l'exemple «insignifiant» - cela signifie simplement que la solution optimale est de donner tout l'argent au patron.

Rétablir Monica le

Quelle est la différence entre une fonction de perte et une fonction d'erreur?

Réponses: