论坛 › 『 提问交流 』 › Mod函数求模，结果。。。杯具了。

3mile 发表于 2010-7-25 00:01:18

Mod函数求模，结果。。。杯具了。

什么都不说了，上代码$n=31415926.5358979
MsgBox(0,0,Mod($n,10000))最杯具的是在学习圆周率精度算法，失之豪厘，谬之千里。
还是上代码吧：Local $b=0,$c=2800,$d=0,$e=0,$f
For $i=0 To $c
        $f[$i]=2000
Next
Do
                $b=$c
                $d=$f[$b]*10000
                $f[$b]=Mod($d,($b*2-1))
                $d=$d/($b*2-1)
                $b-=1
                Do
                        $d=$d*$b+$f[$b]*10000
                        $f[$b]=Mod($d,($b*2-1))
                        $d=$d/($b*2-1)
                        $b-=1
                Until $b=0
                $c-=14
                ConsoleWrite(StringFormat('%4d',$e+$d/10000))
                $e=Mod($d,10000)
Until $c=0

yarsye 发表于 2010-7-25 17:33:44

有豪意思 不懂为什么

yarsye 发表于 2010-7-25 17:34:19

不知怎搞的 帮顶

3mile 发表于 2010-7-25 20:44:53

双精度浮点数的原因？

C.L 发表于 2010-7-25 23:04:28

貌似是双精度浮点数的问题
当$n = 415926.5358979
mod 是正确的，到了$n=1415926.5358979 时，就出现问题了

3mile 发表于 2010-7-26 18:58:51

顶起来，请教解决办法。
各路神仙快快显灵

查看完整版本: Mod函数求模，结果。。。杯具了。