Je regardais à travers la littérature sur la régularisation, et je vois souvent des paragraphes qui relient la régulation de L2 à Gaussian prior, et L1 à Laplace centrée sur zéro. Je sais à quoi ressemblent ces priors, mais je ne comprends pas comment cela se traduit, par exemple, par des poids...
Il m'est venu à l'esprit aujourd'hui que la distribution pourrait être considéré comme un compromis entre les distributions gaussienne et de Laplace, pourx∈R,p∈[1,2]etβ>0. Unetelle distribution a-t-elle un nom? Et a-t-il une expression pour sa constante de normalisation? Le calcul m'arrête, car...
loss=∥y−Xβ∥22+λ∥β∥1loss=‖y−Xβ‖22+λ‖β‖1 {\rm loss} = \| y - X \beta \|_2^2 + \lambda \| \beta \|_1 exp(−λ∥β∥1)exp(−λ‖β‖1) \exp(-\lambda \| \beta \|_1 ) λλ\lambda Considérons que du point de vue bayésien, nous pouvons calculer la probabilité postérieure que, disons, les estimations de paramètres non...
Beaucoup de distributions ont des "mythes d'origine", ou des exemples de processus physiques qu'ils décrivent bien: Vous pouvez obtenir des données normalement distribuées à partir de sommes d'erreurs non corrélées via le théorème de limite centrale Vous pouvez obtenir des données distribuées...
Il semble que si Xi∼N(0,1)Xi∼N(0,1)X_i \sim N(0,1) , alors X1X2+X3X4∼Laplace(0,1)X1X2+X3X4∼Laplace(0,1)X_1 X_2 + X_3 X_4 \sim \mathrm{Laplace(0,1)} J'ai vu des articles sur les formes quadratiques arbitraires, ce qui se traduit toujours par des expressions chi-carré non centrales horribles. La...
Existe-t-il un conjugué préalable pour la distribution de Laplace ? Sinon, existe-t-il une expression de forme fermée connue qui se rapproche de la valeur postérieure pour les paramètres de la distribution de Laplace? J'ai beaucoup cherché sur Google sans succès, donc ma supposition actuelle est...
Je veux comparer 2 moyennes d'échantillons pour des retours de stock d'une minute. Je suppose qu'ils sont distribués par Laplace (déjà vérifiés) et j'ai divisé les retours en 2 groupes. Comment puis-je vérifier s'ils sont significativement différents? Je pense que je ne peux pas les traiter comme...
Considérons un modèle de régression linéaire: yi=xi⋅β+εi,i=1,…,n,yi=xi⋅β+εi,i=1,…,n, y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n, où εi∼L(0,b)εi∼L(0,b)\varepsilon _i \sim \mathcal L(0, b) , c'est-à-dire , La distribution de Laplace avec 000 moyenne et paramètre...
J'écris actuellement un algorithme de confidentialité différentielle en utilisant le mécanisme de Laplace. Malheureusement, je n'ai aucune expérience en statistique, donc beaucoup de termes me sont inconnus. Alors maintenant, je trébuche sur le terme: bruit de Laplace . Pour rendre un différentiel...