labview的深入探索----双精度数精度问题

2015-08-25 09:40:54来源: eefocus 关键字:labview  双精度数  精度问题
日前帮朋友看一个程序,一个WHILE循环,退出条件是等于一个双精度数,结果程序未按照预想条件退出,由此想到了双精度数的精度问题

计算机中的双精度数都存在精度损失的问题,因此一般不宜用相等进行判断。





可以看出,0.8+(0.42-0.5)!=0而下面(0.08+0.42)-0.5 =0
上面!=0但是+1后却等于1。

双精度浮点数的确不适合用相等来判断。

关键字:labview  双精度数  精度问题

编辑:什么鱼 引用地址:http://www.eeworld.com.cn/Test_and_measurement/2015/0825/article_12907.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:LABVIEW的深入探索之内外有别的条件结构
下一篇:labview的深入探索------顺序结构是"结构"吗?

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利
推荐阅读
全部
labview
双精度数
精度问题

小广播

独家专题更多

TI车载信息娱乐系统的音视频解决方案
TI车载信息娱乐系统的音视频解决方案
汇总了TI汽车信息娱乐系统方案、优质音频解决方案、汽车娱乐系统和仪表盘参考设计相关的文档、视频等资源
迎接创新的黄金时代 无创想,不奇迹
迎接创新的黄金时代 无创想,不奇迹
​TE工程师帮助将不可能变成可能,通过技术突破,使世界更加清洁、安全和美好。
TTI携TE传感器样片与你相见,一起传感未来
TTI携TE传感器样片与你相见,一起传感未来
TTI携TE传感器样片与你相见,一起传感未来
电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2017 EEWORLD.com.cn, Inc. All rights reserved