这段时间，在琢磨主成分分析和因子分析,体会是：
主成分分析：
1.用较少的变量表示原来的样本；
2.目的是样本数据信息损失最小的原则下，对高维变量进行降维。
3.参数估计，一般是求相关矩阵的特征值和相应的特征向量（主成分分析法），取前几个计算主成分。
4.应用：应用较少变量来解释各个样本的特征（数据降维、综合平价）。

因子分析：
1.用较少的因子表示原来的变量；
2.目的是尽可能保持原变量相互关系(结构)原则下;寻找变量的公共因子。
3.参数估计，指定几个公因子，将其还原成相关系数矩阵，在和原样本相关矩阵最相似（最大似然法）原则下，估计各个公因子的估计值。
4.应用：找到具有本质意义的少量因子来归纳原来变量的特征（因子降维、潜在因子）。

本人是研究算法的，因此可认为：因子分析用最大似然估计法可能反映了数据分析的本质。
最近对我们的DPS中因子分析的最大似然法进行了重大改进，参数估计速度、精度提高了许多，相见：
http://www.chinadps.net/whatsnew1.htm

本文来自: 人大经济论坛 详细出处参考：http://www.pinggu.org/bbs/viewth ... 1&from^^uid=89680

http://en.wikipedia.org/wiki/Factor_analysis
Factor analysis is related to principal component analysis (PCA) but not identical. Because PCA performs a variance-maximizing rotation of the variable space, it takes into account all variability in the variables. In contrast, factor analysis estimates how much of the variability is due to common factors ("communality"). The two methods become essentially equivalent if the error terms in the factor analysis model (the variability not explained by common factors, see below) can be assumed to all have the same variance.

看了上面大家说的,基本都没有说到实质

PCA是各个变量的组合(这些变量具有相关性),以降低维度和减少相关性

FA研究潜在因子(你观察不到的东西)由可测变量来反映, FA也可以用PCA的方法来计算.这就是为什么大家感觉FA和PCA比较混乱.
如果我们研究学生的计算能力,可是计算能力怎么研究,就依赖数学,物理,统计这些具有计算性学科的分数,反映了学生的计算能力.
这个时候需要用FA方法,但是你可以用PCA的方法计算FA.

如果你准备考虑数学,物理,统计的分数与工资的关系的时候,你需要用PCA来处理共线性

其实对PCA感觉挺了解的，就是FA总是想糊涂。

看了大家的解释，还是挺糊涂的。。。。

或者有人用过SAS做PCA么？有两个方法：PROC PRINCOMP 或者 PROC FACTOR。

我想问这么一段CODE:

PROC FACTOR DATA = A METHOD = PRIN MINEIGEN = 1 SCREE
            ROTATE = VARIMAX;
VAR A - D;
RUN;

我的疑问是，既然METHOD是PRIN，就是应该做PCA吧，那ROTATE = VARIMAX这个选项还能起到作用么？

7# dps2000

对于PCA:

PC1 = A1*VAR1 +B1* VAR2 +C1* VAR3 + ...
PC2 = A2*VAR1 +B2* VAR2 +C2* VAR3 + ...

...

我知道PCA的PROCEDURE大概如下：

1ST PC: LINEAR COMBINATION OF A1'X 满足：VAR(A'X)最大，并且，A1'A = 1;

2ND PC: LINEAR COMBINATION OF A2'X 满足： VAR(A'X）最大，并且, A2'A = 1 AND COV(A1'X, A2'X) =0

......


对于FA：

FA1 = A1*VAR1 +B1* VAR2 +C1* VAR3 + ...
FA2 = A2*VAR1 +B2* VAR2 +C2* VAR3 + ...

...

那么FA的PROCEDURE是什么？？？我很想从这个PROCEDURE上看出来，到底FA跟PCA是差别在哪里了。。。。