关于十进制转换二进制的误差问题
关于十进制转换二进制的误差问题
日期:2013-10-23 11:56:55 人气:1
误差小于千分之五,是说转换后的数 x 与之前的数 0.32 的差的绝对值除以 0.32,结果小于 0.005 ,
也就是 |x-0.32|<0.0016 ,
所以 0.3184<x<0.3216 。
按乘以 2 取整法,
0.32*2=0.64,----------0
0.64*2=1.28,----------1
0.28*2=0.56,----------0
0.56*2=1.12,----------1
0.12*2=0.24,----------0
0.24