- UID
- 1336
- 帖子
- 157
- 精华
- 1
- 积分
- 142
|
关于系统计算误差问题导致sgn误差的解决方案
任何计算系统都存在误差问题,由于误差的积累经常导致意想不到的运行结果,让人迷惑。几何画板中很多问题出现的误差并不是精确度不够造成的,而是由于精确度太好造成的。这一点实在出乎我们的想象。既然问题的症结在这,我们就有办法解决此类的问题,那就是降低精确度。方法是:对于参于运算的度量值a格式化,先计算trunc(a*10^8)/10^8,计算结果仍用a表示,隐去原来的a,后续计算就用格式化后的a。例子中用两种颜色区分原计算和格式化后的计算,原先的误差得到纠正了。
本想法仅是个人探索的结果,不一定正确,只供参考。欢迎高手指正。
2010年山东省淄博市第23题.gsp (15.12 KB)
|
|