找回密码
 加入
搜索
查看: 2482|回复: 5

[AU3基础] Mod函数求模,结果。。。杯具了。

[复制链接]
发表于 2010-7-25 00:01:18 | 显示全部楼层 |阅读模式
什么都不说了,上代码
$n=31415926.5358979
MsgBox(0,0,Mod($n,10000))
最杯具的是在学习圆周率精度算法,失之豪厘,谬之千里。
还是上代码吧:
Local $b=0,$c=2800,$d=0,$e=0,$f[2801]
For $i=0 To $c
        $f[$i]=2000
Next
Do 
                $b=$c
                $d=$f[$b]*10000
                $f[$b]=Mod($d,($b*2-1))
                $d=$d/($b*2-1)
                $b-=1
                Do
                        $d=$d*$b+$f[$b]*10000
                        $f[$b]=Mod($d,($b*2-1))
                        $d=$d/($b*2-1)
                        $b-=1
                Until $b=0
                $c-=14
                ConsoleWrite(StringFormat('%4d',$e+$d/10000))
                $e=Mod($d,10000)
Until $c=0
发表于 2010-7-25 17:33:44 | 显示全部楼层
有豪意思 不懂为什么
发表于 2010-7-25 17:34:19 | 显示全部楼层
不知怎搞的 帮顶
 楼主| 发表于 2010-7-25 20:44:53 | 显示全部楼层
双精度浮点数的原因?
发表于 2010-7-25 23:04:28 | 显示全部楼层
貌似是双精度浮点数的问题
当$n = 415926.5358979
mod 是正确的,到了$n=1415926.5358979 时,就出现问题了
 楼主| 发表于 2010-7-26 18:58:51 | 显示全部楼层
顶起来,请教解决办法。
各路神仙快快显灵
您需要登录后才可以回帖 登录 | 加入

本版积分规则

QQ|手机版|小黑屋|AUTOIT CN ( 鲁ICP备19019924号-1 )谷歌 百度

GMT+8, 2024-11-15 12:37 , Processed in 0.081260 second(s), 23 queries .

Powered by Discuz! X3.5 Licensed

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表