在c语言中,有效数字和有效数位怎么解释?
在c语言中,有效数字和有效数位怎么解释?
日期:2020-03-25 17:14:25 人气:1
以下所述都指vc6.0环境,其他的可能有所不同。
单精度7位指的是整数部分加上小数部分的数字。比如
a=100000000.0/3.0;
printf("%10.20f\n",a);//输出33333334.00000000000000000...(20个0)
a=10.0/3.0;
printf("%10.20f\n",a);//3.3333332537....(小数部分共20位,但明显小数