Aide à la maximisation des attentes à partir du papier: comment inclure la distribution préalable?

La question est basée sur l'article intitulé: Reconstruction d'images en tomographie optique diffuse à l'aide du modèle couplé de transport et de diffusion radiatifs

Lien de téléchargement

Les auteurs appliquent l'algorithme EM avec régularisation de densité d'un vecteur inconnu pour estimer les pixels d'une image. Le modèle est donné par$l_1$$\mu$

$$y=A\mu + e \tag{1}$$ L'estimation est donnée en Eq (8) comme

$$\hat{\mu} = \arg max {\ln p(y|\mu) + \gamma \ln p(\mu)} \tag{2}$$

Dans mon cas, j'ai considéré que est un filtre de longueur et sont vecteurs représentant les filtres. Donc,L μ L × $\mu$$L$$\mathbf{\mu}$$L \times 1$

Le modèle peut être réécrit comme

$$y(n) = \mathbf{\mu^T}a(n) + v(n) \tag{3}$$

Question: Formulation du problème: (n par 1) est l'entrée non observée et est la moyenne nulle avec une variance inconnue bruit additif. La solution MLE sera basée sur la maximisation des attentes (EM). { e ( n ) } σ 2 ${\mu(n)}$$\{e(n)\}$$\sigma^2_e$

Dans l'article Eq (19) est la fonction - la log-vraisemblance complète mais pour mon cas, je ne comprends pas comment je peux inclure la distribution de dans l'expression log-vraisemblance complète. A , $A$$A, \mu$

Quelle sera la log-vraisemblance complète en utilisant EM de compris la distribution précédente?$y$

Si nous considérons la cible comme la représentation à la base de EM est pour un arbitraire , à cause de la décomposition ou qui fonctionne pour une valeur arbitraire de (car il n'y en a pas sur les lhs ) et fonctionne donc pour toute attente dans : log L ( θ | x ) = E [ log L ( θ | x ( Z | x , θ ) | x , θ ⁰ ] θq ( z | x , ≥ E [ log L ( θ ⁰ | x , [ log L ( θ 1 |

$$\arg\max_\theta L(\theta|x)\pi(\theta) = \arg\max_\theta \log L(\theta|x) + \log \pi(\theta)$$ $$\log L(\theta|x) = \mathbb{E}[\log L(\theta|x,Z)|x,\theta⁰]-\mathbb{E}[\log q(Z|x,\theta)|x,\theta⁰]$$ $\theta⁰$ $$q(z|x,\theta)=f(x,z|\theta) \big/ g(x|\theta)$$ $$g(x|\theta) = f(x,z|\theta) \big/ q(z|x,\theta)$$ $z$$Z$ $$\log g(x|\theta) = \log f(x,z|\theta) - \log q(z|x,\theta) = \mathbb{E}[\log f(x,Z|\theta) - \log q(Z|x,\theta)|x]$$ pour toute distribution conditionnelle de donnée , par exemple . Par conséquent, si nous maximisons dans avec la solution nous avons while par les arguments standard de EM. Par conséquent, $Z$$X=x$$q(z|x,\theta⁰)$$\theta$ $$\mathbb{E}[\log L(\theta|x,Z)|x,\theta⁰]+ \log \pi(\theta)$$ $\theta^1$ $$\mathbb{E}[\log L(\theta^1|x,Z)|x,\theta⁰]+ \log \pi(\theta^1)\ge\mathbb{E}[\log L(\theta⁰|x,Z)|x,\theta⁰]+ \log \pi(\theta⁰)$$ $$\mathbb{E}[\log q(Z|x,\theta⁰)|x,\theta⁰]\ge\mathbb{E}[\log q(Z|x,\theta^1)|x,\theta⁰]$$ $$\mathbb{E}[\log L(\theta^1|x,Z)|x,\theta⁰]+ \log \pi(\theta^1)\ge\mathbb{E}[\log L(\theta⁰|x,Z)|x,\theta⁰]+ \log \pi(\theta⁰)$$ et en utilisant comme étape E la cible conduit à une augmentation du postérieur à chaque M étape, ce qui signifie que l'algorithme EM modifié converge vers une MAP locale. $$\mathbb{E}[\log L(\theta|x,Z)|x,\theta⁰]+ \log \pi(\theta)$$

Je ne pense pas que montrer un log-postérieur croissant monotone (ou log vraisemblance pour MLE) soit suffisant pour montrer la convergence au point stationnaire de l'estimation MAP (ou MLE). Par exemple, les incréments peuvent devenir arbitrairement petits. Dans le célèbre article de Wu 1983 , une condition suffisante pour converger vers un point stationnaire de EM est la différenciation dans les deux arguments de la fonction de limite inférieure.