Pour une variable aléatoire continue arbitraire, disons , son entropie différentielle est-elle toujours inférieure à ∞ ? (C'est ok si c'est - ∞ .) Sinon, quelle est la condition nécessaire et suffisante pour qu'elle soit inférieure à ∞ ?
14
Réponses:
J'ai réfléchi un peu plus à cette question et j'ai réussi à trouver un contre-exemple, grâce également aux commentaires de Piotr ci-dessus. La réponse à la première question est non - l'entropie différentielle d'une variable aléatoire continue (RV) n'est pas toujours inférieure à . Par exemple, considérons un RV X continu dont le pdf est f ( x ) = log ( 2 )∞
pourx>2
Il n'est pas difficile de vérifier que son entropie différentielle est infinie. Il croît cependant assez lentement (environ logarithmiquement).
Pour la 2ème question, je ne connais pas de condition simple nécessaire et suffisante. Cependant, une réponse partielle est la suivante. Catégorisez un VR continu dans l'un des 3 types suivants en fonction de son support, à savoir
Type 1: un RV continu dont le support est borné, c'est-à-dire contenu dans [a, b].∞ −∞
Type 2: un VR continu dont le support est à moitié délimité, c'est-à-dire contenu dans [a, ) ou ( - ∞ , a] Type 3: un RV continu dont le support est illimité.
Ensuite nous avons le suivant -
la source