关于pascal里的实型乘法运算

日期:2012-07-24 17:11:27 人气:1

关于pascal里的实型乘法运算

其实无论是real还是double,他们都是用8位储存的,而且使用的是浮点计数法.很明显,8位能存储的信息只有8*8=64 byte也就是最大(就算没有浮点位) 2^64 = 1.8*10^19 左右,而你这个答案的数字长度已经达到23位,明显信息量上来看已经存不下了.编程上来说,就是精度不够了,如果是整数,这个数字会循环(超出最大值变成最小值),而如果是实数,则只保留前面的精度,后面的其实已经丢失了.唯一保留的是浮点位,也就是小数点的位置. 想解决这个问题,可以尝试使用增强型extended代替
    A+
热门评论