计算问题 803.4-753.2 为什么=50.199999999 ? 是我的autoit设置问题还是都这样?

litemp · 发表于 2013-8-23 07:48:01

本帖最后由 litemp 于 2013-8-23 07:52 编辑

计算问题 803.4-753.2 为什么=50.199999999 ? 是我的autoit设置问题还是都这样?
非要在计算以后用round吗?
求高手，解答

是我autoit 版本问题还是都这样?
还是设置问题?

msgbox(0,"",803.4-753.2)

大侠们帮试试

kk_lee69 · 发表于 2013-8-23 09:30:30

回复 1# litemp

好像 AUTOIT 的浮點數運算有問題

請搜索下 BigNum
或者利用 math 的UDF 處理

litemp · 发表于 2013-8-23 13:09:40

哦是这样，了解了谢谢，，用round吧，方便些

tutou9997 · 发表于 2013-8-28 14:37:44

应该大家的都是这样.我也是一样的

		自动登录	找回密码
密码			加入

[效率算法] 计算问题 803.4-753.2 为什么=50.199999999 ? 是我的autoit设置问题还是都这样?