返回列表 回复 发帖

关于系统计算误差问题导致sgn误差的解决方案

任何计算系统都存在误差问题,由于误差的积累经常导致意想不到的运行结果,让人迷惑。几何画板中很多问题出现的误差并不是精确度不够造成的,而是由于精确度太好造成的。这一点实在出乎我们的想象。既然问题的症结在这,我们就有办法解决此类的问题,那就是降低精确度。方法是:对于参于运算的度量值a格式化,先计算trunc(a*10^8)/10^8,计算结果仍用a表示,隐去原来的a,后续计算就用格式化后的a。例子中用两种颜色区分原计算和格式化后的计算,原先的误差得到纠正了。
    本想法仅是个人探索的结果,不一定正确,只供参考。欢迎高手指正。 2010年山东省淄博市第23题.gsp (15.12 KB)
郑老师,为什么要乘以10的8次方呢,再低点或高点不行吗?
2# wangbutian
是无奈的方法,王老师有没有什么更好的办法请交流。
返回列表