关于十进制转换二进制的误差问题

日期:2013-10-23 11:56:55 人气:1

关于十进制转换二进制的误差问题

误差小于千分之五,是说转换后的数 x 与之前的数 0.32 的差的绝对值除以 0.32,结果小于 0.005 , 也就是 |x-0.32|<0.0016 , 所以 0.3184<x<0.3216 。 按乘以 2 取整法, 0.32*2=0.64,----------0 0.64*2=1.28,----------1 0.28*2=0.56,----------0 0.56*2=1.12,----------1 0.12*2=0.24,----------0 0.24
    A+
热门评论