1-1.以下各数都是经过四舍五入得到近似值 ,试分别指出它们绝对误差限,相对误差限和有效数字位数.
x1=5.420,x2=0.5420,x3=0.00542,x4=6000,x5=0.6105.
一.习题1(第10页)
解 绝对误差限分别为: 1=0.510-3,2=0.510-4,
3=0.510-5,4=0.5,5=0.5104 .
相对误差限分别为: r1=0.510-3/5.420=0.00923%, r2=0.00923%,r3=0.0923%,4=0.0083%,5=8.3%.
有效数位分别为: 4位,4位,3位,4位,1位.
1-2.以下近似值绝对误差限都是0.005,试问它们有几位有效数字. a=-1.00031,b=0.042,c=-0.00032
解 有效数位分别为: 3位,1位,0位.
1-3.为了使101/2相对误差小于0.01%,试问应取几位有效数字?
解 因为101/2=3.162…=0.3162…10,若含有n位有效数字,则其绝对误差限为0.5 101-n ,于是有
...
附件列表