距离向量(欧式距离、曼哈顿距离等)_向量欧式距离-程序员宅基地

技术标签: 距离向量  

二、距离向量

1)欧氏距离

欧式距离是最容易值观理解的距离度量方法。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-zmCovBFn-1573195675837)(file:///C:/Users/%E6%B8%85%E9%A3%8E/Desktop/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E4%BB%B6/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AE%B2%E4%B9%89/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%88%E7%AE%97%E6%B3%95%E7%AF%87%EF%BC%89/K-%E8%BF%91%E9%82%BB%E7%AE%97%E6%B3%95/images/1.4%20%E6%AC%A7%E5%BC%8F%E8%B7%9D%E7%A6%BB2-1965410.png)]

2)曼哈顿距离

在曼哈顿街区要从一个十字路口开车到另一个十字路口,驾驶距离显然不是两点之前的直线距离。这个实际的驾驶距离就是"曼哈顿距离"。曼哈顿距离也称“城市街区距离”。

在这里插入图片描述

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-5mfaBqhG-1573195675846)(file:///C:/Users/%E6%B8%85%E9%A3%8E/Desktop/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E4%BB%B6/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AE%B2%E4%B9%89/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%88%E7%AE%97%E6%B3%95%E7%AF%87%EF%BC%89/K-%E8%BF%91%E9%82%BB%E7%AE%97%E6%B3%95/images/1.6%20%E6%9B%BC%E5%93%88%E9%A1%BF%E8%B7%9D%E7%A6%BB.png)]

3)切比雪夫距离

国际象棋中,国王可以直行、横行、斜行,所以国王走一步可以移动到相邻8个方格中的任意一个。国王从格子(x1,y1)走到格子(x2,y2)最少需要走多少步?这个距离就叫做切比雪夫距离。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-oosoEmkR-1573195675848)(file:///C:/Users/%E6%B8%85%E9%A3%8E/Desktop/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E4%BB%B6/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AE%B2%E4%B9%89/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%88%E7%AE%97%E6%B3%95%E7%AF%87%EF%BC%89/K-%E8%BF%91%E9%82%BB%E7%AE%97%E6%B3%95/images/1.7%20%E5%88%87%E6%AF%94%E9%9B%AA%E5%A4%AB%E8%B7%9D%E7%A6%BB.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Jh2WkPKB-1573195675849)(file:///C:/Users/%E6%B8%85%E9%A3%8E/Desktop/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E4%BB%B6/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AE%B2%E4%B9%89/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%88%E7%AE%97%E6%B3%95%E7%AF%87%EF%BC%89/K-%E8%BF%91%E9%82%BB%E7%AE%97%E6%B3%95/images/1.8%20%E5%88%87%E6%AF%94%E9%9B%AA%E5%A4%AB%E8%B7%9D%E7%A6%BB.png)]

4)闵可夫斯基距离

闵氏距离不是一种距离,而是一组距离的定义,是对多个距离度量公式的概括性的表示。

两个n维变量a(x11,x12,…x1n)与b(x21,x22,…,x2n)间的闵可夫斯基距离定义为:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-KCzIXBz6-1573195675850)(file:///C:/Users/%E6%B8%85%E9%A3%8E/Desktop/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E4%BB%B6/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AE%B2%E4%B9%89/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%88%E7%AE%97%E6%B3%95%E7%AF%87%EF%BC%89/K-%E8%BF%91%E9%82%BB%E7%AE%97%E6%B3%95/images/%E9%97%B5%E5%8F%AF%E5%A4%AB%E6%96%AF%E5%9F%BA%E8%B7%9D%E7%A6%BB.png)]

其中p是一个变参数:

  • p=1的时候,就是曼哈顿距离;
  • p=2的时候,就是欧式距离;
  • p→∞的时候,就是切比雪夫距离。

就是根据参数p的不同,闵氏距离可以表示某一种类/种的距离。

但是:

闵氏距离、曼哈顿距离、欧式距离和切比雪夫距离都存在明显的缺点

  • 将各个分两的量纲,也就是“单位”相同看待了。
  • 未考虑各个分量的分布(期望、方差等)可能是不同的。

5)标准化欧氏距离

标准化欧式距离是针对欧式距离的缺点而做的一种改进

思路:既然数据各维分两的分布不一样,那就先将各个分量都”标准化“到均值、方差等。

Sk表示各个维度的标准差

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-r3tPK90q-1573195675851)(file:///C:/Users/%E6%B8%85%E9%A3%8E/Desktop/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E4%BB%B6/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AE%B2%E4%B9%89/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%88%E7%AE%97%E6%B3%95%E7%AF%87%EF%BC%89/K-%E8%BF%91%E9%82%BB%E7%AE%97%E6%B3%95/images/%E6%A0%87%E5%87%86%E5%8C%96%E6%AC%A7%E5%BC%8F%E8%B7%9D%E7%A6%BB.png)]

如果将方差的倒数看成一个权重,也可以称之为加权欧式距离

6)余弦距离

几何中,夹角余弦可用来衡量两个向量方向的差异;机器学习中,借用这一概念来衡量样本向量之间的差异。

夹角余弦取值范围为[-1,1]。余弦越大表示两个向量的夹角越小,余弦越小表示两向量的夹角越大。当两个向量的方向重合时余弦取最大值1,当两个向量的方向完全相反余弦取最小值-1。

结果越趋近于1越正相关,越趋近于-1则越负相关,越趋近于0说越无相关。

7)汉明距离

两个等长字符串s1与s2的汉明距离为:将其中一个变成为另一个所需要作的最小替换次数。

汉明重量:是字符串相对于同样长度的零字符串的汉明距离,也就是说,它是字符串中非零的元素个数:对于二进制字符串来说,就是 1 的个数,所以 11101 的汉明重量是 4。因此,如果向量空间中的元素a和b之间的汉明距离等于它们汉明重量的差a-b。

8)杰卡德距离

杰卡德相似系数:两个集合A和B的交集元素在A和B的并集所占的比例,称为两个集合的杰卡德相似系数,用符号J(A,B)表示:
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-awI0P0cP-1573195675852)(file:///C:/Users/%E6%B8%85%E9%A3%8E/Desktop/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E4%BB%B6/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AE%B2%E4%B9%89/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%88%E7%AE%97%E6%B3%95%E7%AF%87%EF%BC%89/K-%E8%BF%91%E9%82%BB%E7%AE%97%E6%B3%95/images/%E6%9D%B0%E5%8D%A1%E5%BE%B7%E8%B7%9D%E7%A6%BB1.png)]

杰卡德距离:与杰卡德相似系数相反,用两个集合中的不同元素占所有元素的比例来衡量两个集合的区分度:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-TEeto4gQ-1573195675853)(file:///C:/Users/%E6%B8%85%E9%A3%8E/Desktop/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E4%BB%B6/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AE%B2%E4%B9%89/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%88%E7%AE%97%E6%B3%95%E7%AF%87%EF%BC%89/K-%E8%BF%91%E9%82%BB%E7%AE%97%E6%B3%95/images/%E6%9D%B0%E5%8D%A1%E5%BE%B7%E8%B7%9D%E7%A6%BB2.png)]

9)马氏距离

下图有两个正态分布图,它们的均值分别为a和b,但方差不一样,则图中的A点离哪个总体更近?或者说A有更大的概率属于谁?显然,A离左边的更近,A属于左边总体的概率更大,尽管A与a的欧式距离远一些。这就是马氏距离的直观解释。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-LhulTMFC-1573195675854)(file:///C:/Users/%E6%B8%85%E9%A3%8E/Desktop/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E4%BB%B6/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AE%B2%E4%B9%89/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%88%E7%AE%97%E6%B3%95%E7%AF%87%EF%BC%89/K-%E8%BF%91%E9%82%BB%E7%AE%97%E6%B3%95/images/%E9%A9%AC%E6%B0%8F%E8%B7%9D%E7%A6%BB.png)]

马氏距离是一种基于样本分布的距离

马氏距离是由印度统计学家马哈拉诺比斯提出的,表示数据的协方差距离。它是一种有效的计算两个位置样本集的相似度的方法。

与欧式距离不同的是,它考虑到各种特性之间的联系,即独立于测量尺度。

**马氏距离定义:**设总体G为m维总体(考察m个指标),均值向量为μ=(μ1,μ2,… …,μm,)`,协方差阵为∑=(σij),

则样本X=(X1,X2,… …,Xm,)`与总体G的马氏距离定义为:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-o0U8KO58-1573195675854)(file:///C:/Users/%E6%B8%85%E9%A3%8E/Desktop/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AF%BE%E4%BB%B6/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E8%AE%B2%E4%B9%89/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%EF%BC%88%E7%AE%97%E6%B3%95%E7%AF%87%EF%BC%89/K-%E8%BF%91%E9%82%BB%E7%AE%97%E6%B3%95/images/%E9%A9%AC%E6%B0%8F%E8%B7%9D%E7%A6%BB1.png)]

马氏距离也可以定义为两个服从同一分布并且其协方差矩阵为∑的随机变量的差异程度:如果协方差矩阵为单位矩阵,马氏距离就简化为欧式距离;如果协方差矩阵为对角矩阵,则其也可称为正规化的欧式距离。

马氏距离特性:

1.量纲无关,排除变量之间的相关性的干扰;

2.马氏距离的计算是建立在总体样本的基础上的,如果拿同样的两个样本,放入两个不同的总体中,最后计算得出的两个样本间的马氏距离通常是不相同的,除非这两个总体的协方差矩阵碰巧相同;

3 .计算马氏距离过程中,要求总体样本数大于样本的维数,否则得到的总体样本协方差矩阵逆矩阵不存在,这种情况下,用欧式距离计算即可。

4.还有一种情况,满足了条件总体样本数大于样本的维数,但是协方差矩阵的逆矩阵仍然不存在,比如三个样本点(3,4),(5,6),(7,8),这种情况是因为这三个样本在其所处的二维空间平面内共线。这种情况下,也采用欧式距离计算。

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/WangTaoTao_/article/details/102973124

智能推荐

整理_gotodlgctrl(getdlgitem-程序员宅基地

文章浏览阅读578次。1.GotoDlgCtrl(GetDlgItem(IDC_examnum)); GetDlgItem()_gotodlgctrl(getdlgitem

UVALive4167 HDU2700 Parity【水题】_the parity problem returns 1 if the input that are-程序员宅基地

文章浏览阅读877次。ParityTime Limit: 2000/1000 MS (Java/Others) Memory Limit: 32768/32768 K (Java/Others)Total Submission(s): 4842 Accepted Submission(s): 3635Problem DescriptionA bit string has odd parity_the parity problem returns 1 if the input that are 1 is even

【GPLT】L1-039 古风排版_l1-039 古风排版c语言-程序员宅基地

文章浏览阅读138次。题目描述:中国的古人写文字,是从右向左竖向排版的。本题就请你编写程序,把一段文字按古风排版。输入描述:输入在第一行给出一个正整数N(<100),是每一列的字符数。第二行给出一个长度不超过1000的非空字符串,以回车结束。输出描述:按古风格式排版给定的字符串,每列N个字符(除了最后一列可能不足N个)。输入样例:4This is a test case输出样例:asa Ts..._l1-039 古风排版c语言

mac电脑安装cocoapods出错,以及安装最新版本ruby方法_error installing cocoapods: cocoapods-1.11.2 requi-程序员宅基地

文章浏览阅读1.5k次,点赞8次,收藏10次。使用如上命令确实安装成功了,但在 Flutter 中启动 Xcode 就会报错,启动失败。的环境变量,不用多想,按照提示来(不要复制如下路径,复制你终端提示的命令)会在安装完后提示两个路径:将这两个路径复制到你的命令行,重新执行一下。我尝试后,发现又安装失败。所以现在的情况就只有一个办法,升级。时碰到一个报错:大概率是ruby的版本太低导致的。根据以上,提醒我们需要一个至少 1.9 版本的。,指定一个低版本是否可行呢?的版本太低了,导致不能安装最新的。,那我卸载然后继续安装。版本是否就可以了呢?_error installing cocoapods: cocoapods-1.11.2 requires ruby version >= 2.6.

HttpURLConnection请求调用webservice接口_httpurlconnection soap webservice-程序员宅基地

文章浏览阅读439次,点赞5次,收藏8次。【代码】HttpURLConnection请求调用webservice接口。_httpurlconnection soap webservice

Ubuntu 18.04安装nccl_ubuntu18.04 安装nccl-程序员宅基地

文章浏览阅读2.2k次,点赞3次,收藏6次。NCCL (NVIDIA Colloctive Comunications Library)是英伟达的一款直接与GPU交互的库。安装cupy前需要先安装该库。1. 下载官网下载地址:https://developer.nvidia.com/nccl/nccl-download注意版本与你的cuda适配。2.安装获得.deb安装文件如:nccl-repo-ubuntu1804-2.8.3-ga-cuda10.2_1-1_amd64.deb后sudo dpkg -i nccl-repo-ubunt_ubuntu18.04 安装nccl

随便推点

python是低级语言吗_科悟学院带你初识python(3)Python是一门什么语言-程序员宅基地

文章浏览阅读104次。python是一门什么样的语言编程语言主要分为编译型和解释型编程语言编译型和解释型的区别是什么?编译器是把源程序的每一条语句都编译成机器语言,并保存成二进制文件,这样运行时计算机可以直接以机器语言来运行此程序,速度很快;而解释器则是只在执行程序时,才一条一条的解释成机器语言给计算机来执行,所以运行速度是不如编译后的程序运行的快。这是因为计算机不能直接认识并执行我们写的语句,它只能认识机器语言(是二..._python是一门低级编程语言

pdf中的尺寸和html中尺寸,如何将PDF文档中的图片尺寸调整到宽度一致?-程序员宅基地

文章浏览阅读1.3k次。如何将PDF文档中的图片尺寸调整到宽度一致?今天有粉丝跟我们提问,说PDF文档里的图片大小不一,看起来不够美观,想问问怎么才能把图片大小调整一致。大家平常阅读PDF文档比较多,关于PDF编辑可能不够熟悉。其实PDF文档中图片大小不一致是因为原图片的尺寸就不一样,想要把图片修改尺寸形成一致也很容易,今天小编就来告诉大家操作的方法。1、首先我们要修改PDF中的图片需要借助PDF编辑器,大家可以直接在本..._pdf上下页图片怎么调在同一宽度

使用plsql管理oracle数据库连接,使用PLSQL Developer连接Oracle数据库详解-程序员宅基地

文章浏览阅读863次。**前景摘要 **本人使用plsql连接oracle折磨半天才得以正常连接使用 由于总是需要换机子 所以每次都要重新安装 所以将其记录下来 为以后不时之需。安装过的系统Windows7 64位Windows10 64位一、工具准备1.Oracle11g_64位2.PLSQL Developer 9_64位3.instantclient 11_32位**二、安装 **自行安装 网上有很多教程1.or..._plsql登录没有提示normal

机器学习实战之支持向量机SVM-2_svm2实战-程序员宅基地

文章浏览阅读176次。续:机器学习实战之支持向量机SVM-1后来对前面的代码进行优化,主要是3方面:1.更加合理选择j,取代原来的随机选择j;j是从已更新的alpha值的列表中选取,也就是已发现的支持向量列表中选取。选择原则是:max(abs(Ei-Ej)),2.选择ai,先遍历整个数据集,后面只遍历支持向量数据集;只更新支持向量的ai,更加合理。3.将数据结构化,整洁易懂。对非线性数据的处理,要用到核函数。这里用到高..._svm2实战

ROS中运行rostopic echo话题名 出现 Cannot load message class错误-程序员宅基地

文章浏览阅读4.7k次,点赞9次,收藏26次。当运行ROS时,在新开启的一个终端运行rostopic echo话题名时,出现ERROR: Cannot load message class for [plumbing_pub_sub/Person]. Are your messages built?(其中Person为自定义的message类型)解决方法:这是因为这个话题名的消息类型并不是ros本身拥有的,而是自定义的,因此我们须在这个新的终端中先刷新一下环境source ./devel/setup.bash配置工作空间,用于刷新环境,将当前的工_rostopic echo

机器学习:探索数据中的模式与智能-程序员宅基地

文章浏览阅读1.4k次,点赞37次,收藏22次。机器学习的定义在本部分,我们将会对机器学习进行界定,明确其所涵盖的内容和基本原理。机器学习是一种人工智能的分支领域,它使得计算机系统能够通过数据学习模式和规律,并利用这些模式和规律进行决策和预测,而无需显式地进行编程。换句话说,机器学习是一种让计算机程序能够从经验中学习,改进和自我完善的技术。机器学习的重要性在今天的科技领域中,机器学习扮演着至关重要的角色,其重要性体现在以下几个方面:处理大规模数据: 随着互联网和物联网的发展,数据量呈指数级增长。