企业培训资讯_企业培训干货

当前位置:首页 > 新闻中心

PCA和KPCA傻傻分不清楚?戳进来教你如何区分:华体会体育

发布时间:2021-04-29    来源:华体会体育平台16366

本文摘要:在格物汇之前的文章中,我们辩论了特征提取的经典算法——主成分分析PCA与线性判别分析LDA的原理与应用于场景。

在格物汇之前的文章中,我们辩论了特征提取的经典算法——主成分分析PCA与线性判别分析LDA的原理与应用于场景。PCA是一种无监督的降维方法,找寻的是让数据方差仅次于的一种同构;LDA是一种有监督的降维方法,找寻的是让数据分类效果最差的一种同构。

华体会体育

但是它们依然有应用于的局限性,今天我们就一起来理解下。PCA的局限性我们再行来总结一下PCA的降维原理:PCA企图通过转动寻找新的向量恩,符合这样的两条性质:1、最近重构性:样本点到新的同构的向量恩距离充足相似。2、仅次于可分性:样本点在新的向量基上方差仅次于。

华体会体育

最后我们推论获得:我们只必须对协方差矩阵XX^T展开特征值分解成,获得的特征值和特征向量即是转换矩阵w的解和改主成分所说明的方差量。这样的降维方法是线性的降维方法,即从低维空间到较低维空间的函数同构是线性的。

然而在不少应用于场景中,线性同构有可能无法获得想的结果,例如如下的例子:S型曲线的本真二维结构是其较低维空间的原本形状,通过线性降维后获得的结果显著并不是我们所希望的。核方法我们讲解SVM的时候所讲解的核方法是一种可以展开升至维来分解一些非线性的同构。这个方法我们可以某种程度用于在PCA降维分析中。

假设我们有一个样本集:x1,x2……xn假设映射函数为,那么同构到高维以后,数据变为:类似于PCA的解法方法,XX^T经过高维同构后获得故:我们把λ移动到等号左边获得:我们令其:做到一个非常简单的更换,获得:代入等式1,获得:我们在左右两边同时乘上获得:做到一下非常简单的转变:十分幸运地的是,我们设计出有了否还忘记我们在SVM的核函数中曾多次检验过,在较低维空间计算出来(x1,x2+1)^2获得的结果与低维空间上计算出来的结果相近,只是系数略有不同。因此我们也可以在此应用于核方法来计算出来。我们在此定义核函数矩阵:代入上面等式2,之后可获得:即很显著,这又返回了特征值分解成的问题,所取K仅次于的d个特征值所对应的特征向量才可。

华体会体育

小结我们通过将数据同构到高维以后,精妙的建构出有了目的是为了通过在较低维空间上应用于核函数,计算出来获得跟低维空间上差不多的效果。PCA所做到的是对坐标轴线性变换,即转换后的新的基还是一条直线。而KPCA对坐标轴做到了非线性转换,数据所同构的新基就仍然是一条直线了,而是一条曲线或者曲面,如下图右图:通过上面这个图,大家应当理解了KPCA和PCA的区别了吧?好了,本期格物资的内容就到这里,我们下期妳。


本文关键词:华体会体育

本文来源:华体会体育-www.nxyshr.com

分享到:
华体会体育_三丝炒蛋的做法 华体会体育-每四天开一家 开发商为拿地盯上饭店业
热门文章
ZARA试水AR技术购物要用新玩法圈粉?【华体会体育】
新能源汽车技术12-纯电动汽车关键技术:华体会体育
新时代的文明实践 计算机培训班 让人们在接下来的一年里可以学习和享受自己
华体会体育|2014考研准考证打印:12月25日开始 打印步骤详解(图)
风塘美术教育,2-18岁一贯制美术教育体系机构
华体会体育_PMP认证应考程序须知
安徽省2018年普通高等学校招生艺术专业省统考于11月18日开始【华体会体育】
安徽省计量科学研究院招聘22名工作人员 2018元旦后开始报名:华体会体育
光荣使命98k怎么样 光荣使命98k使用技巧|华体会体育
堡垒之夜蝙蝠信号灯在哪里 在哥谭市外亮起多个蝙蝠信号灯-华体会体育
我的起源激活码怎么得 船票获得方法汇总|华体会体育
转基因种子被窃之争触动公众神经
【华体会体育】粤港澳大湾区智慧零售创业孵化计划亮相,新世界加注人才孵化
华体会体育|企业宁静生产无小事,124页公司级宁静教育培训课件,系统全面
月嫂培训机构哪家好 老月嫂推荐的才是好
客户案例
×