123
返回列表 回复 发帖

院士

Rank: 5Rank: 5Rank: 5

UID
352 
帖子
1321 
精华
14 
积分
2599 
来自
河南永城 
21#
changxde发表于 2014-1-19 21:01 | 只看该作者
"浮点运算中的很多大吃小的问题
是什么样的问题，能具体一点吗？
回复 引用

TOP

博导

Rank: 4Rank: 4

UID
188 
帖子
660 
精华
7 
积分
405 
22#
分形几何发表于 2014-1-19 21:16 | 只看该作者
由于计算机位数所限，数量级悬殊很大的数在运算时的“对阶”中，可能出现小数“隐消”，即小数被大数“吃掉”的现象。例如在八位机上解一元二次方程：x^2-(10^9+1)x+10^9=0会得到两根分别是x=10^9和x=0。显然，第二个错。
回复 引用

TOP

院士

Rank: 5Rank: 5Rank: 5

UID
352 
帖子
1321 
精华
14 
积分
2599 
来自
河南永城 
23#
changxde发表于 2014-1-23 22:26 | 只看该作者
修正bug更新之
再造二三四次方程求根公式2014.gsp (50.33 KB)
请继续测试。
回复 引用

TOP

博导

Rank: 4Rank: 4

UID
188 
帖子
660 
精华
7 
积分
405 
24#
分形几何发表于 2014-1-24 22:29 | 只看该作者
23# changxde
还有问题： 再造二三四次方程求根公式2014(err).gsp (54.85 KB)
回复 引用

TOP

院士

Rank: 5Rank: 5Rank: 5

UID
352 
帖子
1321 
精华
14 
积分
2599 
来自
河南永城 
25#
changxde发表于 2014-1-25 22:15 | 只看该作者
23# changxde
还有问题：21035
分形几何 发表于 2014-1-24 22:29
修正一处bug
23#文件更新，请继续测试
回复 引用

TOP

123
返回列表