Compréhension concrète de la différence entre les définitions PP et BPP

Je suis confus quant à la façon dont PP et BPP sont définis. Supposons $\chi$ est la fonction caractéristique d'un langage $\mathcal{L}$ . M être la machine de Turing probabiliste. Les définitions suivantes sont-elles correctes:
P P = { L : P r [ χ ( x ) ≠ M ( x ) ] > $BPP =\{\mathcal{L} :Pr[\chi(x) \ne M(x)] \geq \frac{1}{2} + \epsilon \quad \forall x \in \mathcal{L},\ \epsilon > 0 \}$
$PP =\{\mathcal{L} :Pr[\chi(x) \ne M(x)] > \frac{1}{2} \}$

Si la définition est incorrecte, veuillez essayer de faire des changements minimes pour les corriger (c.-à-d. Ne pas donner une autre définition équivalente qui utilise une machine de comptage ou un modèle modifié). Je ne peux pas distinguer correctement les conditions de probabilité sur les deux définitions.

Quelques exemples concrets avec un aperçu clair des points subtils seraient très utiles.

Cela me semble correct. La différence entre BPP et PP est que , pour BPP la probabilité doit être supérieure à $1/2$ par une constante , alors que pour PP , il pourrait être $1/2+ 1/2^n$ . Donc, pour les problèmes BPP, vous pouvez faire une amplification de probabilité avec un petit nombre de répétitions, alors que pour les problèmes PP généraux, vous ne pouvez pas.

La réponse de Vor donne la définition standard. Permettez-moi d'essayer d'expliquer la différence un peu plus intuitivement.

Soit $M$ un algorithme à temps polynomial probabiliste d'erreur bornée pour un langage $L$ qui répond correctement avec une probabilité d'au moins $p\geq\frac{1}{2}+\delta$. Soit$x$l'entrée et$n$la taille de l'entrée.

Ce qui distingue un arbitraire algorithme à partir d' un B P P algorithme est l' écart positif entre la probabilité d'accepter x ∈ L et la probabilité d'acceptation x ∉ L . $\mathsf{PP}$$\mathsf{BPP}$$x\in L$$x\notin L$L'essentiel de est que l'écart est au moins n - O ( 1 ) . Je vais essayer d'expliquer pourquoi cette distinction est significative et permet de considérer B P P comme des algorithmes efficaces (même conjecturés pour être égaux à $\mathsf{BPP}$$n^{-O(1)}$$\mathsf{BPP}$$\mathsf{P}$) alors que est considéré comme inefficace (en fait P P contient N P ). Tout cela vient de cet écart.$\mathsf{PP}$$\mathsf{PP}$$\mathsf{NP}$

Commençons par regarder plus attentivement.$\mathsf{PP}$

Notez que si un algorithme utilise au plus bits aléatoires pendant son exécution et que la probabilité d'erreur est inférieure à 2 - r ( n ) alors la probabilité d'erreur est en fait de 0 , il ne peut y avoir de choix de bits aléatoires qui rendront l'algorithme répondre incorrectement.$r(n)$$2^{-r(n)}$$0$

De plus, un algorithme avec un temps d'exécution ne peut pas utiliser plus de t ( n ) bits aléatoires, donc si l'erreur d'un algorithme probabiliste avec le pire temps d'exécution t ( n ) est meilleure que$t(n)$$t(n)$$t(n)$

Avec un argument similaire, nous pouvons montrer que le cas où la différence entre la probabilité d'accepter un et la probabilité d'accepter un x ∉ L est trop petite est similaire au cas où nous n'avons presque pas de différence comme dans P P cas.$x\in L$$x\notin L$$\mathsf{PP}$

Allons maintenant en voie .$\mathsf{BPP}$

Dans les algorithmes probabilistes, nous pouvons augmenter la probabilité de répondre correctement. Disons que nous voulons augmenter la probabilité de correction à pour une probabilité d'erreur ϵ = 2 - n (erreur exponentiellement petite).$1-\epsilon$$\epsilon=2^{-n}$

L'idée est simple: lancez plusieurs fois et prenez la réponse de la majorité.$M$

Combien de fois faut-il exécuter pour que la probabilité d'erreur soit au plus ϵ ? Θ ( δ - 1 lg ϵ ) fois. La preuve est donnée au bas de cette réponse.$M$$\epsilon$$\Theta(\delta^{-1} \lg \epsilon)$

Prenons maintenant en considération que les algorithmes dont nous discutons doivent être polynomiaux. Cela signifie que nous ne pouvons pas exécuter plus de plusieurs fois de façon polynomiale. En d'autres termes, Θ ( δ - 1 ln ϵ ) = n O ( 1 ) , ou plus simplement$M$$\Theta(\delta^{-1} \ln \epsilon) = n^{O(1)}$

$$\delta^{-1} \lg \epsilon = n^{O(1)}$$

Cette relation classe les algorithmes probabilistes d'erreur bornée en classes en fonction de leur probabilité d'erreur. Il n'y a pas de différence entre la probabilité d'erreur étant 2 - n ou une constante positive (c'est-à-dire ne change pas avec n ) ou $\epsilon$$2^{-n}$$n$. On peut passer de l'un à l'autre tout en restant dans le temps polynomial.$\frac{1}{2}-n^{O(1)}$

Toutefois , si est trop petit, disons 0 , 2 - n , ou même n - ω ( 1 ) nous n'avons pas une façon de renforcer la probabilité exactitude et de réduire la probabilité d'erreur suffisamment pour entrer dans B P P .$\delta$$0$$2^{-n}$$n^{-\omega(1)}$$\mathsf{BPP}$

Le point principal ici est que dans nous pouvons réduire efficacement la probabilité d'erreur de façon exponentielle, nous sommes donc presque certains des réponses et c'est ce qui nous fait considérer cette classe d'algorithmes comme des algorithmes efficaces. La probabilité d'erreur peut être réduite à tel point qu'une défaillance matérielle est plus probable ou même qu'un météore tombant sur l'ordinateur est plus probable que de commettre une erreur par l'algorithme probabiliste.$\mathsf{BPP}$

Ce n'est pas vrai pour , nous ne savons pas comment réduire la probabilité d'erreur et nous nous retrouvons presque comme si nous répondions en lançant une pièce pour obtenir la réponse (nous ne sommes pas complètement, les probabilités ne sont pas à moitié et moitié, mais il est très proche de cette situation).$\mathsf{PP}$

---

Cette section donne la preuve que pour obtenir la probabilité d'erreur lorsque l'on part d'un algorithme avec gap ( $\epsilon$nous devrions exécuterMΘ(δ-1lgϵ)fois.$(\frac{1}{2}-\delta,\frac{1}{2}+\delta)$$M$ $\Theta(\delta^{-1} \lg \epsilon)$

Soit l'algorithme qui exécute M pendant k fois, puis répond selon la réponse de la majorité. Pour simplifier, supposons que k est impair, donc nous n'avons pas de liens.$N_k$$M$$k$$k$

Prenons le cas que . Le cas x ∉ L est similaire. Alors P r { M ( x )  accepte } = p ≥ $x \in L$$x \notin L$ Pour analyser la probabilité d'exactitude deNk,nous devons estimer la probabilité que la majorité deskexécutions acceptent.

$$\mathsf{Pr}\{M(x) \text{ accepts}\} = p \geq \frac{1}{2} + \delta$$ $N_k$$k$

Soit $X_i$ 1 si le ème passage accepte et 0 s'il le rejette. Notez que chaque exécution est indépendante des autres car elles utilisent des bits aléatoires indépendants. Ainsi, X i s sont des variables aléatoires booléennes indépendantes où E [ X i ] = P r { X i = 1 } = P r { M ( x )  accepte } = p ≥ $i$$0$$X_i$

$$\mathbb{E}[X_i] = \mathsf{Pr}\{X_i=1\} = \mathsf{Pr}\{M(x)\text{ accepts}\} = p \geq \frac{1}{2}+\delta$$

Soit . Nous devons estimer la probabilité que la majorité accepte, c'est-à-dire la probabilité que Y ≥ $Y = \Sigma_{i=1}^k X_i$ .$Y\geq\frac{k}{2}$

$$\mathsf{Pr}\{N_k(x) \text{ accepts}\} = \mathsf{Pr}\{Y \geq \frac{k}{2}\}$$

Comment faire? Nous pouvons utiliser la borne de Chernoff qui nous indique la concentration de probabilité proche de la valeur attendue. Pour toute variable aléatoire de valeur attendue μ , nous avons$Z$$\mu$

$$\mathsf{Pr}\{|Z-\mu| > \alpha\mu\} < e^{\frac{\alpha^2}{4}\mu}$$

$Z$$\alpha\mu$$\mu$$\alpha$$Y < \frac{k}{2}$

$$\mathbb{E}[Y] = \mathbb{E}[\Sigma_{i=1}^k X_i] = \Sigma_{i=1}^k \mathbb{E}[X_i] = kp \geq \frac{k}{2} + k\delta$$

$Y< \frac{k}{2}$$|Y-(\frac{k}{2}+k\delta)| > k\delta$

$$Pr\{|Y - kp| > \alpha kp\} < e^{-\frac{\alpha^2}{4}kp}$$

$\alpha$$\alpha kp = k\delta$$\alpha = \frac{\delta}{p} \leq \frac{2\delta}{2\delta+1}$

Nous avons donc

$$Pr\{Y < \frac{k}{2} \} \leq Pr\{|Y - (\frac{k}{2}+k\delta)| > k\delta\} \leq Pr\{|Y - kp| > \alpha kp\} < e^{-\frac{\alpha^2}{4}kp}$$

et si vous faites les calculs, vous verrez que

$$\frac{\alpha^2}{4}kp \leq \frac{\delta^2}{4\delta+2}k = \Theta(k\delta)$$

on a

$$Pr\{Y < \frac{k}{2} \} < e^{-\Theta(k\delta)}$$

$\epsilon$

$$e^{-\Theta(k\delta)} \leq \epsilon$$

ou en d'autres termes

$$\Theta(\delta^{-1} \lg \epsilon) \leq k$$

$N_k$$k$$M$

$\frac{1}{2}$

En utilisant votre notation:

$BPP =\{L : \exists$$M,$$0 < c \leq 1/2$$\forall x \; Pr[\chi_L(x) = M(x)] \geq \frac{1}{2} + c\}$

$PP =\{L : \exists$ une machine de Turing à temps polynomial probabiliste $M$ tel que $\forall x \; Pr[\chi_L(x) = M(x)] > \frac{1}{2}\}$

La différence a été soulignée par adrianN, et vous pouvez également jeter un œil à Wikipedia PP vs BPP