Vous avez plusieurs questions ici. Commençons par la différence entre l'ACP et l'analyse factorielle (FA). L'ACP vous donne une transformation des variables d'origine en un nouvel ensemble mutuellement orthogonal. Le premier nouveau composant maximise la variance. L'ACP répond à la question: "Quelle combinaison linéaire de mes variables a la plus grande variance? (Sous réserve de normalisation des poids)."
FA commence par un modèle sur la façon dont les variables sont liées et d'où vient la variation dans les données. Ce modèle implique que la matrice de covariance aura un certain format. L'idée clé ici est la variable latente (ou facteur). Ces facteurs sont réputés expliquer la variation intéressante observée dans l'échantillon et l'analyse tente de les retrouver. L'analyse factorielle peut être effectuée à l'aide de diverses méthodes - et l'une d'elles consiste à effectuer une ACP en route vers la solution. Mais c'est tout. Vous n'avez pas vraiment besoin de faire un PCA pour obtenir un FA.
Plus déroutant, SPSS propose sa routine PCA à partir du même menu d'analyse que l'analyse factorielle exploratoire, encourageant ainsi chez les débutants la fausse idée que ces méthodes sont les mêmes. La philosophie derrière eux est totalement différente.
Varimax et Oblimin. L'analyse factorielle répond en fait à la question: "si mes données, avec ses p variables disent, proviennent en fait d'un espace dimensionnel q (q <p) et de l'ajout de bruit, quel est cet espace dimensionnel q?" En pratique, les algorithmes ne vous donnent pas seulement l'espace q dimensionnel, ils vous donnent également une base pour cet espace (ce sont les facteurs). Mais cette base n'est peut-être pas la meilleure façon de comprendre le sous-espace q dimensionnel. Les méthodes de rotation des facteurs préservent le sous-espace et vous en donnent une base différente. Varimax renvoie des facteurs orthogonaux; Oblimin permet aux facteurs de ne pas être orthogonaux.
Idéalement, nous aimerions que des facteurs chargent "tout ou rien" sur les variables originales ... comme dans "les questions 1 à 5 de l'enquête se rapportent toutes aux attitudes envers l'autorité; les questions 6 à 10 se rapportent toutes au sens de la justice". Vous voulez que les coefficients des facteurs soient grands ou 0. Les méthodes de rotation visent cela. L'idée est de vous donner des facteurs plus faciles à interpréter. Oblimin fait un "meilleur" travail, étant donné qu'il n'a pas à forcer les résultats à être orthogonaux. D'un autre côté, l'idée derrière les facteurs était qu'ils tenaient compte de la variation dans l'échantillon ... si les facteurs sont corrélés, qu'est-ce qui explique la relation entre les facteurs?
Pour moi, je pense qu'il est probablement préférable de se procurer Varimax lors d'une FA exploratoire. Ensuite, explorez les relations possibles entre les facteurs dans l'analyse factorielle confirmatoire, qui est mieux adaptée à ce type de modélisation.
Notez que SPSS en tant que tel ne fait pas de FA confirmatoire ni de modélisation d'équation structurelle. Pour cela, vous devez acheter le module complémentaire Amos. Alternativement, vous pouvez utiliser les fonctions sem () ou lavaan () dans R.