Qu'est-ce qu'une mesure exacte de la rareté?

11

Je travaille actuellement sur la détection compressée et la représentation clairsemée des signaux, en particulier des images.

On me demande souvent "quelle est la définition de la rareté?". Je réponds "si la plupart des éléments d'un signal sont nuls ou proches de zéro, dans un domaine comme Fourier ou Wavelet, alors ce signal est clairsemé sur cette base." mais il y a toujours un problème dans cette définition, "qu'est-ce que la plupart des éléments signifient? Est-ce 90 pour cent? 80 pour cent? 92,86 pour cent?!" Voici où se pose ma question, existe-t-il une définition exacte, c'est-à-dire numérique, de la rareté?

M.Jalali
la source
3
Je pense que vous constaterez que la rareté est un terme comme la bande passante . Ils n'ont pas de définition unique applicable dans tous les contextes. La réponse est un "ça dépend" insatisfaisant.
Jason R
@JasonR Je pense que oui, mais y a-t-il une référence le mentionnant?
M.Jalali
Cela dépend aussi de vos plans de reconstruction.
MimSaad
1
@Jason R Votre conjonction avec la bande passante est très inspirante. Les deux ont une notion sans amplitude sur certains supports. La bande passante me semble imposer une idée de connexité "suffisante" sur la rareté
Laurent Duval

Réponses:

13

« Y at - il exact, c. -à- numérique, la définition pour sparsity? » Et numérique , je comprends les deux calculable , et pratiquement « utilisables ». Mon opinion est la suivante: pas encore, du moins, il n'y a pas de consensus, mais il y a quelques prétendants dignes. La première option « compter uniquement les termes non nuls » est précise, mais inefficace (sensible à l'approximation numérique et au bruit, et très complexe à optimiser). La deuxième option "la plupart des éléments d'un signal sont zéro ou proche de zéro " est plutôt imprécise, soit sur "la plupart" et "près de".

" Une mesure exacte de la rareté " reste donc insaisissable, sans aspects plus formels. Une tentative récente de définir la rareté effectuée dans Hurley et Rickard, 2009 Comparing Measures of Sparsity , IEEE Transactions on Information Theory.

Leur idée est de fournir un ensemble d'axiomes qu'une bonne mesure de rareté devrait remplir; par exemple, un signal X multiplié par une constante non nulle, αX , devrait avoir la même rareté. En d' autres termes, une mesure de parcimonie devrait être 0 -homogeneous. Curieusement, le proxy 1 en détection compressive ou en régression au lasso est 1 -homogène. C'est en effet le cas pour chaque norme ou quasi-norme p , même si elles tendent vers la mesure de comptage (non robuste) 0 comme p0 .

Ils détaillent donc leurs six axiomes, effectuent des calculs, empruntés à l'analyse de richesse:

  • Robin Hood (prendre aux riches, donner aux pauvres réduit la rareté),
  • Mise à l'échelle (une multiplication constante préserve la rareté),
  • Rising Tide (l'ajout du même compte non nul réduit la rareté),
  • Clonage (la duplication des données préserve la rareté),
  • Bill Gates (Un homme qui s'enrichit augmente la rareté),
  • Bébés (l'ajout de valeurs nulles augmente la rareté)

1/2pq p/qX0<pq

1p(X)q(X)0(X)1/p-1/q

1X

c(k)Cα.(k)-αα

Laurent Duval
la source