主成分分析中,某个主成分是原先各变量的线性组合;因子分析中,原先各变量是共同因子与特殊因子的线性组合。
主成分分析可以理解为因子分析的一种方案(因子分析可能有多种方案)。利用主成分分析实现因子分析(或者说,采用主成分方法做因子分析)时,相当于在做事先规定好主成分个数的主成分分析。不过,一般的主成分分析并不事先规定主成分个数,而是根据特征值的实际情况决定主成分的个数。
SPSS中主成分分析功能嵌套在因子分析功能中,由此要注意SPSS主成分分析的结果。SPSS在做主成分分析时,会首先将原先各变量标准化。同时,SPSS输出的“载荷矩阵”是“各主成分与各标准化变量的相关系数”乘以对应特征值平方根的结果。不能直接利用SPSS载荷矩阵的结果去表示各主成分与原先各变量的线性关系。
SAS与STATA中主成分分析功能独立于因子分析功能,因此它们的主成分分析结果与SPSS一般不同。