float和double 精度分析_mfc判断浮点数合法-程序员宅基地

技术标签: double  float  成长进步  

  1. 结论
    1.)范围
    float和double的范围是由指数的位数来决定的。
    float的指数位有8位,而double的指数位有11位,分布如下:
    float:
    1bit(符号位) 8bits(指数位) 23bits(尾数位)
    double:
    1bit(符号位) 11bits(指数位) 52bits(尾数位)
    于是,float的指数范围为-127+128,而double的指数范围为-1023+1024,并且指数位是按补码的形式来划分的。
    其中负指数决定了浮点数所能表达的绝对值最小的非零数;而正指数决定了浮点数所能表达的绝对值最大的数,也即决定了浮点数的取值范围。
    float的范围为-2^128 ~ +2^128,也即-3.40E+38 ~ +3.40E+38;double的范围为-2^1024 ~ +2^1024,也即-1.79E+308 ~ +1.79E+308。

  2. ) 精度
    float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的,其整数部分始终是一个隐含着的“1”,由于它是不变的,故不能对精度造成影响。
    float:2^23 = 8388608,一共七位,这意味着最多能有7位有效数字,但绝对能保证的为6位,也即float的精度为6~7位有效数字;
    double:2^52 = 4503599627370496,一共16位,同理,double的精度为15~16位。

  3. 详细分析
    参考https://www.cnblogs.com/c-primer/p/5992696.html

  4. 验证
    1.) float

	float f1 = 1.23456789;
	float f2 = 1.23456781;
	bool fresult = qFuzzyCompare(f1, f2);

因为前6位一样,所以结果为true
在这里插入图片描述
2 )float

	float f3 = 1.2345;
	float f4 = 1.2346;
	fresult = qFuzzyCompare(f3, f4);

因为第4位不一样,所以结果为false
在这里插入图片描述
3 ) double

	double d1 = 1.23456789;
	double d2 = 1.23456781;
	bool dresult = qFuzzyCompare(d1, d2);

因为第8位不一样,所以结果为false
在这里插入图片描述
5. qFuzzyCompare 详解

Q_REQUIRED_RESULT Q_DECL_CONSTEXPR static inline Q_DECL_UNUSED bool qFuzzyCompare(double p1, double p2)
{
    return (qAbs(p1 - p2) * 1000000000000. <= qMin(qAbs(p1), qAbs(p2)));
}

Q_REQUIRED_RESULT Q_DECL_CONSTEXPR static inline Q_DECL_UNUSED bool qFuzzyCompare(float p1, float p2)
{
    return (qAbs(p1 - p2) * 100000.f <= qMin(qAbs(p1), qAbs(p2)));
}

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/mafucun1988/article/details/87783707

智能推荐

Unity 3D之开发效率细节-程序员宅基地

文章浏览阅读98次。主要总结和记录一些Unity 3D游戏开发中,对效率优化中的部分细节。当前Unity3d版本号为5.61、尽量减少空的update()函数出现。2、Update()里面最好不要放GameObject.Find()函数或GetComponent(),极其占用资源。3、字体文件如果是一直不变的,最好用图片。UGUI中的字体文件每个字体是一个面片,会占渲染资源。4、不推荐..._untity3d的开发效率高于osg

(11)Flink实战-Mysql读取、写入-source+sink_flinkjdbcreader-程序员宅基地

文章浏览阅读2.2k次。1、pom.xml <dependency> <groupId>mysql</groupId> <artifactId>mysql-connector-java</artifactId> <version>5.1.33</version> </dependency>2、MysqlReader(sourc_flinkjdbcreader

【00NOIP普及组】计算器的改良(信息学奥赛一本通 1910)(洛谷 1022)-程序员宅基地

文章浏览阅读1.2k次。【题目描述】NCL是一家专门从事计算器改良与升级的实验室,最近该实验室收到了某公司所委托的一个任务:需要在该公司某型号的计算器上加上解一元一次方程的功能。实验室将这个任务交给了一个刚进入的新手ZL先生。为了很好的完成这个任务,ZL先生首先研究了一些一元一次方程的实例:4+3x=86a-5+1=2-2a-5+12Y=0ZL先生被主管告之,在计算器上键入的一个一元一次方程..._1910:【00noip普及组】计算器的改良

hive metastore && hiveserver2 . 基本配置-程序员宅基地

文章浏览阅读200次。# hiveserver2 && metastore 配置标签(空格分隔): Hive---基本配置:```<?xml version="1.0" encoding="UTF-8" standalone="no"?><?xml-stylesheet type="text/xsl" href="configuration.xsl"?>..._hive.server2.webui.use.ssl

C++学习笔记十四-运算符重载-程序员宅基地

文章浏览阅读148次。概述:C++ 允许我们重定义操作符用于类类型对象时的含义。如果需要,可以像内置转换那样使用类类型转换,将一个类型的对象隐式转换到另一类型。标准库为容器类定义了几个重载操作符。这些容器类定义了下标操作符以访问数据元素,定义了 * 和 -> 对容器迭代器解引用。这些标准库的类型具有相同的操作符,使用它们就像使用内置数组和指针一样。 一、重载操作符的定义 1.重载操作符是..._c++自增重载有会创建形参吗

redhat 5.4 +oracle10g + tuxedo 10gR3 (64位)环境搭建_cannot open message catalog libtux_cat, set 1, num-程序员宅基地

文章浏览阅读3.1k次。昨天在MGSDL搭建LINUX 5.4 X64 + ORACLE 10.2.0.4 X64 + TUXEDO 10gR3 X64环境,遇到比较多的问题,纠结啊,总算成功完成。做个笔记: 首先,安装时遇到问题1:Exception :java.lang.UnsatisfiedLinkError:/u01/product/oracle/jdk/jre/lib/i386/libawt.so:_cannot open message catalog libtux_cat, set 1, num 1316;

随便推点

Lookup函数_lookup 9e+307-程序员宅基地

文章浏览阅读489次。LOOKUP:好处:速度快,假设Vlookup遍历100次,LOOKUP只要7次。原理:1.数据升序排列(默认)2.在由N个数据组成区间(1——N)查找某值X假设查找范围100个数据,LOOKUP首先比较中间值(第INT(1+100)/2=50)与X的大小。如果该值&amp;lt;X,则收敛搜索区域为“右区间”即第51-100个。反之则在左区间查找,进入次级区间后,将再度使用刚才的方法对比查找。..._lookup 9e+307

java1.12.3实验3(从键盘输入数据)Scanner工具类_使用 scanner 类从键盘上输入一个整数: scanner sc=new scanner(sys-程序员宅基地

文章浏览阅读2.2k次。import java.util.Scanner;public class Test { public static void main(String[] args){ int amount; float price , sum; Scanner input=new Scanner(System.in); System.ou_使用 scanner 类从键盘上输入一个整数: scanner sc=new scanner(system.in); system.out.print(

linux如何开放6888端口,Linux Centos 使用 Redis service 启动,Redis service 脚本编写-程序员宅基地

文章浏览阅读8.9k次。我昨天买了一批ECS服务器,然后挨个装环境不方便,所以我需要先做一个镜像,然后用镜像去创建系统盘就方便了。修改Redis配置修改配置 redis.conf 文件,为 redis-6379.conf 。mv /usr/local/redis/etc/redis.conf /usr/local/redis/etc/redis-6379.conf修改daemonize配置redis.conf配置文件..._linux打开端口6888

POJ-3414-Pots_poj - 3414 pots-程序员宅基地

文章浏览阅读132次。POJ-3414-Pots传送门这道题是一道判断很多的bfs~题目大意:就是我们小时候玩的两个杯子相互倒水问题,然后最终达到一个预期值。现在分别给你容器为A,B的两个杯子,有一下几个步骤可以实行,问某个杯子是否能达到所给定的预期值C,不能则输出"impossible",否则输出相应的步骤。初始的时候两个杯子都没有水,是空的。操作如下:1.FILL(i) //从水龙头装满某个杯子2.DROP(i) //把i杯子里面的水倒到排水管里面3.POUR(i, j) //将i水杯里面的水倒在j水杯里(_poj - 3414 pots

ZStack--临界资源管理_zstack 的临界区-程序员宅基地

文章浏览阅读1.1k次。先看一个临界区代码保护的例子: HAL_ENTER_CRITICAL_SECTION(intState); events = activeTask->events; activeTask->events = 0; //清楚任务的事件 HAL_EXIT_CRITICAL_SECTION(intState);其中:中断宏定义如下#def_zstack 的临界区

Nginx阻止DDoS攻击的教程收集(转)(待实践)-程序员宅基地

文章浏览阅读269次。DDoS估计是一个非常头痛的问题。分布式拒绝服务攻击(DDoS)指的是通过多台机器向一个服务或者网站发送大量看似合法的数据包使其网络阻塞、资源耗尽从而不能为正常用户提供正常服务的攻击手段。随着互联网带宽的增加和相关工具的不断发布,这种攻击的实施难度越来越低,有大量IDC托管机房、商业站点、游戏服务商一直饱受DDoS攻击的困扰,那么如何缓解甚至解决DDoS呢?最近Rick Nelson..._nginx被ddos攻击 如何关闭udp

推荐文章

热门文章

相关标签