Scikit-Learn支持向量机分类-程序员宅基地

技术标签: 支持向量机  机器学习  scikit-learn  # Python  # 人工智能与机器学习  





1、支持向量机(SVM)

1.1、SVM概述


在机器学习中,支持向量机(Support Vector Machine,SVM)算法既可以用于回归问题(SVR),也可以用于分类问题(SVC)

支持向量机是一种经典的监督学习算法,通常用于分类问题。SVM(分类)在机器学习知识结构中的位置如下:

在这里插入图片描述
SVM的核心思想是将分类问题转化为寻找分类超平面的问题,并通过最大化分类边界点(支持向量)到分类平面的距离(间隔)来实现分类

在这里插入图片描述

如图所示,左图展示了三种可能的线性分类器的决策边界,虚线所代表的模型表现非常糟糕,甚至都无法正确实现分类;其余两个模型在训练集上表现堪称完美,但是它们的决策边界与实例过于接近,导致在面对新样本时,表现可能不会太好

右图中的实线代表SVM分类器的决策边界,两虚线表示最大间隔超平面,虚线之间的距离(两个异类支持向量到超平面的距离之和)称为超平面最大间隔,简称间隔;SVM的决策边界不仅分离了两个类别,而且尽可能的远离了最近的训练实例,距离决策边界最近的实例称为支持向量

1.2、SVM原理


SVM的最优化问题就是要找到各类样本点到超平面的距离最远,也就是找到最大间隔超平面。任意超平面的方程为
ω T x + b = 0 \omega^Tx+b=0 ωTx+b=0

其中 ω \omega ω为超平面的法向量,决定了超平面的方向; b b b为位移项,决定了超平面到原点间的距离

二维空间点 ( x , y ) (x,y) (x,y)到直线 A x + B y + C = 0 Ax+By+C=0 Ax+By+C=0的距离公式为
d = ∣ A x + B y + C ∣ A 2 + B 2 d=\frac{|Ax+By+C|}{\sqrt{A^2+B^2}} d=A2+B2 Ax+By+C

扩展到N维空间中,点 ( x 1 , x 2 , . . . x n ) (x_1,x_2,...x_n) (x1,x2,...xn)到直线 ω T x + b = 0 \omega^Tx+b=0 ωTx+b=0的距离为
d = ∣ ω T x + b ∣ ∣ ∣ ω ∣ ∣ d=\frac{|\omega^Tx+b|}{||\omega||} d=∣∣ω∣∣

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/weixin_55629186/article/details/137972376

智能推荐

react-native-vision-camera RN相机 初使用小记-程序员宅基地

文章浏览阅读3.7k次,点赞3次,收藏9次。react-native-camera react-native-vision-camera RN拍照 react-native 拍照 相机 扫码 _react-native-vision-camera

2022最新最全Java 进阶资料合集_2022java最新学习资料-程序员宅基地

文章浏览阅读225次。由简到繁,由易到难,一步步的学习,最后成为JAVA攻城狮基础语法,可帮助你建立基本的编程逻辑思维;面向对象,以对象方式去编写优美的Java程序;集合,后期开发中存储数据必备技术;IO,对磁盘文件进行读取和写入基础操作;多线程与并发,提高程序效率;异常,编写代码逻辑更加健全;网络编程,应用服务器学习基础,完成数据的远程传输。 书籍PDF我已经整理好,文末有免费获取方式 下面是资料的列表 按照技术详细的分成了不同的阶段。包括Java基础、WEB前端、JavaEE、高级框_2022java最新学习资料

RTSP/Onvif协议安防视频平台EasyNVR录像模式自定义操作_支持onvif协议监控软件-程序员宅基地

文章浏览阅读333次。在【录像计划】-【模板列表】中添加新的录像模板。_支持onvif协议监控软件

java计算机毕业设计springboot+vue考研资料分享系统_基于springboot的考研资料分享系统微信小程序-程序员宅基地

文章浏览阅读242次。本考研资料分享系统设计目标是实现考研资料的信息化管理,提高管理效率,使得考研资料交流工作规范化、科学化、高效化。本文研究的考研资料分享系统基于Springboot架构,采用JSP技术、JAVA编程语言和MYSQL数据库设计开发。通过本系统,实现了管理员和用户两个角色的功能,能够有效提高考研资料交流诊断效率。本系统经过测试,运行效果稳定,操作方便、快捷,是一个功能全面、实用性好、安全性高,并具有良好的可扩展性、可维护性的考研资料分享系统。..._基于springboot的考研资料分享系统微信小程序

flask和vue的冲突问题_vue在flask挂载之后页面刷新则变为api的页面-程序员宅基地

文章浏览阅读1.3k次。###################################################################下面提供两种index.html(都是完整的)都位于templates下面。###################################################################index.html方法一:&..._vue在flask挂载之后页面刷新则变为api的页面

如何学习sqlite源码_sqlite database system design and implementation-程序员宅基地

文章浏览阅读694次。先来说说sqlite的资料.首先sqlite的资料其实是不多不少的.不少的原因是因为这些资料确实能够让你明白sqlite的设计原理.说它不多的原因是也就让你明白其原理, 仅此而已.sqlite的资料主要来自四个地方, 从简到深依次为:1.<>, 这是一本介绍sqlite"基本原理"的小书, 只有80页左右, 介绍了sqlite的"后端"原理. 这本书在百度有下载, 纯英文版..._sqlite database system design and implementation

随便推点

antd From 中 Form.Item里含有自己封装的组件,获取不到值的解决方法_from.item 拿到组件无法获取参数-程序员宅基地

文章浏览阅读2.9k次。const { onChange } = this.props; onChange(value)_from.item 拿到组件无法获取参数

爬虫的基本原理-程序员宅基地

文章浏览阅读746次。文章目录一.什么是爬虫?二.爬虫的基本流程三.什么是Request和Response?一.什么是爬虫?爬虫是请求网站并提取数据的自动化程序二.爬虫的基本流程发起请求通过HTTP库向目标站点发起请求,即发送一个Request,请求可以包含额外的headers等信息,等待服务器响应。获取响应内容如果服务器能正常响应,会得到一个Response,Response的内容便是所要获取的页面内容,类型可能有HTML,Json字符串,二进制数据(如图片视频)等类型。解析内容得到的内容可能是HTML,_爬虫的基本原理

Ubuntu好用的软件推荐_ubuntu开发推荐软件-程序员宅基地

文章浏览阅读3.4w次。转自:http://www.linuxidc.com/Linux/2017-07/145335.htm使用Ubuntu开发已经有些时间了。写下这篇文章,希望记录下这一年的小小总结。使用Linux开发有很多坑,同时也有很多有趣的东西,可以编写一些自动化脚本,添加定时器,例如下班定时关机等自动化脚本,同时对于服务器不太了解的朋友,建议也可以拿台Linux来实践下,同时Ubuntu在Androi_ubuntu开发推荐软件

Nginx反向代理获取客户端真实IP_nginx获取到的是交换机的ip-程序员宅基地

文章浏览阅读2.2k次。一,问题 nginx反向代理后,在应用中取得的ip都是反向代理服务器的ip,取得的域名也是反向代理配置的url的域名,解决该问题,需要在nginx反向代理配置中添加一些配置信息,目的将客户端的真实ip和域名传递到应用程序中。二,解决 Nginx服务器增加转发配置 proxy_set_header Host $host;_nginx获取到的是交换机的ip

Wireshark TCP数据包跟踪 还原图片 WinHex应用_wireshark抓包还原图片-程序员宅基地

文章浏览阅读1.4k次。Wireshark TCP数据包跟踪 还原图片 WinHex简单应用 _wireshark抓包还原图片

Win8蓝屏(WHEA_UNCORRECTABLE_ERROR)-程序员宅基地

文章浏览阅读1.5k次。Win8下安装VS2012时,蓝屏,报错WHEA_UNCORRECTABLE_ERROR(P.S.新的BSOD挺有创意":("),Google之,发现[via]需要BIOS中禁用Intel C-State,有严重Bug的嫌疑哦原因有空再看看..._win8.1 whea_uncorrectable_error蓝屏代码

推荐文章

热门文章

相关标签