关于matlab的输出格式``` - 经管之家

› 论坛 › 数据科学与人工智能 › 数据分析与数据科学 › MATLAB等数学软件专版

关于matlab的输出格式```

2358

5

收藏 2011-04-19

>>vpa(0.12345678900987654321,21)
ans =
0.123456789009876541363

>> fprintf('%.21f\n',0.12345678900987654321)
0.123456789009876540000

为什么vpa 和 fprintf 会出现这样不一样的输出? matlab精算精度到底多少?
求教```555 thx in ad...

二维码

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

全部回复

2011-4-19 17:32:40

这两个类型不一样，不能比较的，而且和计算精度也没有关系

二维码

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2011-4-20 02:51:35

那为什么结果不一样?

二维码

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2011-4-21 00:17:17

顶```````````````````````````````````````

二维码

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2011-4-21 10:27:06

这个涉及到Matlab如何处理输入的高精度的数值。详细请看：

http://blog.macro2.org/2011-04/Matlab精度问题再研究.html

二维码

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

2016-8-14 19:08:44

vpa(A)里面的A带有t1未知数，提示sym输入参数不支持。

二维码

扫码加我拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

相关推荐

栏目导航

热门文章

推荐文章

扫码加好友，拉您进群

各岗位、行业、专业交流群