PCA和LDA以及之间的区别_pca与lda区别-程序员宅基地

技术标签: CS  

Season请您先思考:

    ·PCA与矩阵有什么关系?

    ·LDA与瑞利商有什么关系?

    ·PCA和LDA在降维世界里,谁是赢家?


一、PCA

1、思想

       主成分分析(Principal components analysis),是一种降维方法,在数据压缩消除冗余和数据噪音消除等领域都有广泛的应用,需要我们找出数据里最主要的方面,然后来代替原始数据。比如我们希望将数据从二维降低到一维,那么这里就存在了一个映射关系,通常这个映射关系我们用矩阵表示。而我们的工作便是找到这个矩阵,这里我们要思考矩阵是用哪些向量来表示的呢?带着这个问题我们来解决二维数据降维到一维的具体问题。数据如下图。我们希望找到某一个维度方向,它可以代表这两个维度的数据。图中列了两个向量方向,U1和U2那么哪个向量可以更好的代表原始数据集呢?从直观上也可以看出,U1U2好。为什么答案是这样呢?u1


我们是这样解释的,因为我们希望降维后 ,样本点在这个向量(或者是超平面)上的投影尽可能的分开,也就是说基于最大化投影方差。为什么标准是这个样子呢?请试想,如果投影后的数据点全都集中到一个地方了,那么很多点就无法看到了,也就是说失去了很多有效的信息,如果我们将数据点尽可能的分开让大家都能看到,这样的话,信息保留的会最多。


2、数学推导

(注意:基于方差最大化挨个找出w1w2,,,且各个向量彼此正交)



版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/Chenzhi_2016/article/details/79451201

智能推荐

如何使用SonarQube Scanner扫描器对代码进行扫描-程序员宅基地

文章浏览阅读3.2k次。2019独角兽企业重金招聘Python工程师标准>>> ..._代码扫描工具对转测前代码进行扫描

SQL常用语法( WITH 语句)-程序员宅基地

文章浏览阅读1.3w次,点赞6次,收藏46次。WITH语句

解决MySQL登录出现错误码10061_2008服务器登陆错误10061-程序员宅基地

文章浏览阅读2.5k次,点赞3次,收藏5次。原因: 没有启动MySQL服务解决方案:以管理员身份打开cmd命令行窗口,使用cd命令将目录切换为你MySQL的bin目录下,输入 net start mysql 启动MySQL服务即可解决此问题!!!电脑中搜索服务找到MySQL服务,启动它!管理员身份命令行窗口打开Windows快捷键: Win + X + A如果找不到MySQL服务,需要安装MySQL服务。解决的方法是用管理员的方式打开mysql安装目录bin。执行mysqld.exe -install,安装后就可以启动服务了!..._2008服务器登陆错误10061

STM32移植工程教程 包括解决Keil 一些常见的错误等等_s32ds 移植 keil startup error-程序员宅基地

文章浏览阅读2.9k次,点赞6次,收藏55次。然后打开Keil 在左边的能看到即说明添加成功 出现如图则说明添加成功编译一下,把多余的头文件删去 有6个错误 我们一般从第一个错误开始看 这里的错误 是TIM定时器的结构体没定义,但其实这些在工程里面的库函数这些都已经包含了这时候,找到stm32f10x_conf.h打开,可以看到stm32f10x_tim.h被注释掉了,这就是导致编译错误的原因,只需要删掉注释 重新编译一下即可 重新编译一下 错误就没有了有时候 会遇到引脚冲突,解决方法一修改文件里面的宏定义 更换为别的引脚解决方法二使用重定义功能_s32ds 移植 keil startup error

networkx学习与使用——(6)图划分与介数计算_边介数计算方法-程序员宅基地

文章浏览阅读6.8k次,点赞7次,收藏33次。networkx学习与使用——(5)图划分与介数计算摘要图划分例子生成介数定义及计算定义networkx计算边介数通过networkx的最短路算法实现使用networkx的内置函数计算结果分析参考摘要图划分按照一定规则将一个连通图划分成几个连通分量,看上去有点像聚类的感觉。从网络的角度,会根据一些重要的节点或边来进行划分,这里介绍划分图的指标——边介数。图划分图划分一般有两种方法,“删边法"和"聚集法”。删边法通过删除某条"重要"的边进行划分。聚集法通过将最"接近"的节点聚集起来构成不同的区域。这里_边介数计算方法

Python3读取Excel表格数据时报错:ImportError: Missing optional dependency ‘xlrd‘. Install xlrd >= 1.0.0 for Exc_install xlrd >= 1.0.0 for excel support-程序员宅基地

文章浏览阅读388次。ImportError: Missing optional dependency 'xlrd'. Install xlrd >= 1.0.0 for Excel support Use_install xlrd >= 1.0.0 for excel support

随便推点

Windows + Android 真机设备,Flutter 真机调试遇到的一些问题_flutter 安卓如何真机调试-程序员宅基地

文章浏览阅读534次。Android Studio(Windows)配合 Xiaomi11 Pro Flutter 真机测试,遇到了一些问题,记录一下问题和解决方法。_flutter 安卓如何真机调试

数字图像处理与Python实现-图像滤波-Frangi滤波器-程序员宅基地

文章浏览阅读1.1k次。Frangi滤波器一种依赖局部结构的血管增强滤波方法。 该方法使用有关二阶椭球体的信息,并在使用两种临床图像模式(2D DSA 图像和 3D MRA 图像)的实验中,它表现出对血管增强的噪声和背景的稳健性。_frangi滤波器

基于大模型的电商智能导购系统可视化设计-程序员宅基地

文章浏览阅读493次,点赞9次,收藏8次。基于大模型的电商智能导购系统可视化设计作者:禅与计算机程序设计艺术1. 背景介绍电子商务行业近年来发展迅猛,为消费者提供了海量的商品选择。然而,对于普通消费者而言,在如此庞大的商品库中寻找到真正满足自己需求的商品变得越来越困难。传统的关键词搜索已经无法满足消费者个

Win10的WLAN网络共享给以太网(Ubuntu)_wifi共享给以太网-程序员宅基地

文章浏览阅读3.5k次。Win10的WLAN网络共享给Ubuntu实验室有一台比较老的机子,没有无线网卡,而且正好最长的一根网线水晶头坏掉了,装上Ubuntu上发现上不了网,正好看到旁边的笔记本(装的Win10),于是就萌生了使用WLAN将网络共享过来的想法。在网上查了些资料也遇到了一些坑,这里给大家分享一下。1、右键 打开“网络和Internet”设置2、打开 网络和共享中心3、点击 更改适配器设置4、在WLAN连接的情况下,右键选择属性 点开共享勾选允许其他网络用户通过此计算机的Internet连接来连接,_wifi共享给以太网

国网站直接SHOPPING经验之总结, 和美国代购说拜拜~~新加 如何注册PAYPAL~~~~-程序员宅基地

文章浏览阅读5.6w次。 不披马甲没几年 发表于 2009-06-15 23:03[引用]非常感谢众多JMS对本贴的支持和关心~~~ 也感谢 棍子鱼 管理员, 将原先的COPY发给偶, 使本贴重生~~~~申明!!! 本贴无任何商业目的, 不组织团购, 不参与代购!!! 血拼的同时大家也要按时偿还信用卡, 坚决不做卡奴!!!互联网的初衷是什么?? 就是资源共享~~~在经济危机的年代,

int数组、char数组理解,int8_t、int16_t、int32_t、int64_t、uint8_t、size_t、ssize_t区别_int16_t数组-程序员宅基地

文章浏览阅读2.9k次。这是根据需要决定的。用 char 时,数组每个元素的 字长与存储单元 是1个byte,(16进制2位,2进制8位), 用int时,数组每个元素的 字长与存储单元 是4个byte,(16进制8位,2进制32位)。现存放 16进制2位数,例如 0x3f, 0x06 之类,用 char 型足够了。若改用 int 型 当然也可以,只是浪费了 存储空间,因数位多,运算,读写 也要多费时间。..._int16_t数组

推荐文章

热门文章

相关标签