全部版块 我的主页
论坛 数据科学与人工智能 数据分析与数据科学 MATLAB等数学软件专版
1008 2
2015-08-24
为什么1.15-1.10==0.05的结果为0,而1.5-1.0==0.5的结果为1?应该做出怎样的改正让1.15-1.10==0.05的结果为1,谢谢各位大神!
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

全部回复
2015-8-25 18:52:27
浮点数误差
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

2015-8-26 08:05:00
楼上的已经说明了,是浮点数的误差所造成的,
处理方法
               1.15-1.10-0.05<eps,即不是要求 1.15-1.10==0.05 ,而是 1.15-1.10-0.05  小于一个非常小的eps,那么就认为 1.15-1.10==0.05

可以参见

http://www.mathworks.com/help/matlab/ref/eps.html
二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

相关推荐
栏目导航
热门文章
推荐文章

说点什么

分享

扫码加好友,拉您进群
各岗位、行业、专业交流群