Indépendance linéaire vs indépendance statistique (PCA et ICA)

Je lis cet article intéressant sur l'application de l'ICA aux données d'expression génique.

Les auteurs écrivent:

[T] il n'est pas nécessaire que les composants PCA soient statistiquement indépendants.

C'est vrai, mais les PJ sont orthogonaux, n'est-ce pas?

Je suis un peu flou quant à la relation entre l'indépendance statistique et l'orthogonalité ou l'indépendance linéaire.

Il convient de noter que si l'ICA fournit également une décomposition linéaire de la matrice de données, l'exigence d'indépendance statistique implique que la matrice de covariance des données est décorrélée de manière non linéaire, contrairement à l'ACP où la décorrélation est effectuée de manière linéaire.

Je ne comprends pas ça. Comment le manque de linéarité découle-t-il de l'indépendance statistique?

Question: comment l'indépendance statistique des composants dans ICA est-elle liée à l'indépendance linéaire des composants dans PCA?

Il s'agit probablement d'un doublon de certaines questions plus anciennes, mais je vais répondre brièvement est néanmoins.

Pour une explication non technique, je trouve très utile cette figure de l'article Wikipedia sur la corrélation et la dépendance :

Les nombres au-dessus de chaque nuage de points montrent des coefficients de corrélation entre X et Y. Regardez la dernière ligne: sur chaque nuage de points la corrélation est nulle, c'est-à-dire que X et Y sont "linéairement indépendants". Cependant, ils ne sont évidemment pas statistiquement indépendants: si vous connaissez la valeur de X, vous pouvez affiner les valeurs possibles de Y. Si X et Y étaient indépendants, cela signifierait que connaître X ne vous dit rien sur Y.

Le but de l'ICA est d'essayer de trouver des composants indépendants. Dans PCA, vous obtenez uniquement des composants non corrélés ("orthogonaux"); leur corrélation est nulle mais ils peuvent très bien être statistiquement dépendants.