Détection de compression vs codage clairsemé

9

Il existe apparemment différentes terminologies utilisées pour faire référence au même domaine appelé "détection compressive" comme (voir cette page wiki ): détection compressée, échantillonnage compressif ou échantillonnage clairsemé. Je me pose des questions sur la "détection clairsemée"!

Néanmoins, et après quelques recherches sur Internet, ce que les gens appellent le "codage clairsemé" ne semble pas faire référence au champ "détection compressive" comme les autres terminologies que j'ai citées ci-dessus.

Y a-t-il vraiment une différence entre la détection compressive et le codage clairsemé?

Et l'apprentissage des dictionnaires?

Learn_and_Share
la source

Réponses:

5

Quelques ouvrages de référence proposent une explication:

Si nous regardons la définition du terme dans le contexte de l'apprentissage par dictionnaire, par exemple dans K-SVD: un algorithme pour concevoir des dictionnaires trop complets pour une représentation parcimonieuse , le terme est défini:

Codage Sparse est le processus de calcul des coefficients de représentation en fonction du signal donné et le dictionnaire .Xy

Le codage clairsemé consiste donc à trouver une représentation clairsemée d'un signal donné dans un dictionnaire donné. En ce qui concerne la détection compressée, cela me semble être l'interprétation la plus pertinente du terme. En tant que tel, le codage clairsemé est étroitement lié à la détection compressée, mais la détection compressée traite spécifiquement de la recherche de la solution la plus clairsemée à un ensemble sous-déterminé d'équations linéaires qui, comme le montre la théorie, est la bonne solution dans ce cas avec une probabilité élevée. Le codage clairsemé est alors plus général en ce sens qu'il ne traite pas nécessairement d'un ensemble d'équations sous-déterminé.

Thomas Arildsen
la source
Dans votre dernier paragraphe, cinquième ligne, qu'entendez-vous par: la bonne solution dans "ce cas". De quel cas parlez-vous?
Learn_and_Share
@MedNait Je fais référence au cas sous-déterminé.
Thomas Arildsen
Ainsi, la détection compressée consiste à trouver la solution la plus «clairsemée» à l'ensemble sous-déterminé d'équations linéaires, qui, selon vous, est la «solution correcte», mais dans quel sens?
Learn_and_Share
D'après ce que j'ai compris de votre explication, la détection compressée est intéressée à résoudre un cas particulier du problème que le codage clairsemé est intéressé à résoudre. Donc, à votre avis, pourquoi semble-t-il que les gens les traitent comme des problèmes distincts? Est-ce que les gens comprennent mal les principes sous-jacents ou y a-t-il une différence fondamentale qui a mené à cela?
Learn_and_Share
1
@MedNait, veuillez voir ma réponse mise à jour avec des clarifications sur certaines différences subtiles entre la détection compressée et le codage clairsemé.
Atul Ingle
5

Comme vous l'avez correctement noté , la détection compressée, l'échantillonnage compressif et l'échantillonnage clairsemé signifient tous la même chose. Certains auteurs l'appellent également détection clairsemée. L'idée derrière la détection compressée est qu'un signal clairsemé peut être récupéré à partir de très peu de mesures linéaires. En symboles, siX est N×1 clairsemé vecteur, et UNE est un M×N matrice avec MN, et nous mesurons y=UNEX, puis la théorie de la détection compressée nous dit que nous pouvons récupérer exactement X de y. Ceci est remarquable car il dit que nous pouvons récupérer le signal d'origine à partir de moins de mesures.

L'apprentissage des dictionnaires, d' autre part, traite d'un problème entièrement différent de représentation parcimonieuse d'un ensemble de vecteurs de données. Étant donné un ensemble de vecteurs de données{X1,X2,,XK}, nous aimerions trouver un autre ensemble de vecteurs {v1,v2,,vL} (appelés "atomes") de sorte que chaque vecteur de données Xje peut être représenté comme une combinaison linéaire de ces vj's. L'ensemble des atomes s'appelle un dictionnaire. Le but ici est d'apprendre un dictionnaire beaucoup plus petit que le nombre de vecteurs de données c'est à dire L<K.

Étant donné un ensemble d'atomes dans un dictionnaire et un vecteur y, le but du codage clairsemé est de représentery comme une combinaison linéaire de aussi peu d'atomes que possible.

Enfin, l' apprentissage par dictionnaire clairsemé est une combinaison d'apprentissage par dictionnaire et de codage clairsemé. Le but ici est double: trouver une représentation parcimonieuse de l'ensemble des vecteurs de données et s'assurer que chaque vecteur de données peut être écrit comme une combinaison linéaire du moins d'atomes possible.

Détection compressée v / s codage clairsemé
Ces deux techniques traitent de la recherche d'une représentation clairsemée, mais il existe de subtiles différences.

La détection compressée traite spécifiquement du problème de la résolution d'un système sous-déterminé d'équations linéaires, c'est-à-dire moins de points de données que le signal d'origine. D'un signal clairsemé inconnuX et matrice de détection UNE, on observe le vecteur de données y=UNEX. UNEa moins de lignes que de colonnes. La théorie de la détection comprimée traite des types de questions suivants:

  1. Dans quelles conditions l'ensemble sous-déterminé d'équations linéaires est-il résoluble et comment pouvons-nous le résoudre d'une manière robuste au bruit et calculable?

  2. Comment concevons-nous des matrices de détection UNE pour diverses applications?

En revanche, le codage clairsemé ne traite pas la question de la conception UNE. De plus, vous n'êtes pas intéressé à résoudre un système d'équations sous-déterminé ---UNE est autorisé à avoir plus de lignes que de colonnes.%

Références:

Détection compressive [Notes de cours]

Apprentissage du dictionnaire

Apprentissage de dictionnaire en ligne pour un codage épars

Notes de bas de page:

Clairsemé signifie que le vecteur a très peu d'éléments non nuls.

UNE et M besoin de satisfaire à certaines conditions techniques.

Contrairement aux méthodes de transformation standard telles que la transformation de Fourier, l'apprentissage par dictionnaire est adaptatif aux données. Lors de la prise d'une transformée de Fourier, les vecteurs de basevjsont fixés à l'avance (exponentielles complexes). Dans l'apprentissage par dictionnaire, ils sont tirés des données.

% C'est ce qu'on appelle un dictionnaire trop complet.

Atul Ingle
la source
Au moins selon Aharon, Elad & Bruckstein cités dans dsp.stackexchange.com/a/44282/1464 , cette définition du codage clairsemé est incorrecte. Selon eux, le codage clairsemé n'est qu'une partie de la procédure d'apprentissage clairsemée du dictionnaire.
Thomas Arildsen
1
@ThomasArildsen bon point. J'ai corrigé la réponse.
Atul Ingle du