挨着火车道的房子风水:为什么有时候VB的浮点计算不准确

来源:百度文库 编辑:神马品牌网 时间:2024/05/09 09:24:09
有误差

这是因为计算机使用二进制保存数据,对于有限位十进制的小数来说,二进制使他变成了无限不循环小数(至于为什么,建议看数学书),损失了一点,然后在恢复成十进制时自然会有一点误差.

是的。
VB的浮点计算只能准确到小数点后三位,建议不要用副点计算!!

浮点行都有精确度,误差所有语言都有,正常。用的时候需要注意

大部分语言的浮点运算都有误差的。

程序的浮点计算就是有误差的