PCA,LDA——简述 要求:原数据协方差矩阵变换成对角矩阵(非对角线数据全为零)Ps:非对角线矩阵为零是因为特征线性无关 原数据协方差矩阵不是对角矩阵是因为现在选择的基向量不好,变换后,选择好的基向量 原理:实对称矩阵一定能转换成对角阵 对角线上的值为特征值,大小决定了特征向量的重要程度(降维的关键) 目标:...
LDA和PCA的对比(并没有公式推导,改日会写) 先补一补数学(不需要): 方差——概率论和统计方差衡量随机变量或一组数据时离散程度的度量;概率论中方差用来度量随机变量和其数学期望之间的偏离程度。统计中的方差(样本方差)是每个样本值与全体样本值的平均数之差的平方值的平均数。 期望——在概率论和统计学中,数...