原图尺寸 27.79 KB
whymath 查看完整内容
请注明:姓名-公司-职位
以便审核进群资格,未注明则拒绝
whymath 发表于 2022-5-8 11:27 可能是浮点型错误。 试用 put(i30g30_chg_,24.12) 查看变量的精确值
cinaiyimu 发表于 2022-5-11 11:59 用put函数后发现原始数据(3位小数点)相减后出现小数点变为15位的情况,有的数值相减没有变,有的变了。 ...
whymath 发表于 2022-5-11 18:10 关于浮点数错误的成因和解决办法网上有很多资料,一搜便知。 一种简单的解决办法是将要比较的两个数作差 ...