标题:
关于系统计算误差问题导致sgn误差的解决方案
[打印本页]
作者:
zhengmh
时间:
2010-8-14 10:22
标题:
关于系统计算误差问题导致sgn误差的解决方案
任何计算系统都存在误差问题，由于误差的积累经常导致意想不到的运行结果，让人迷惑。几何画板中很多问题出现的误差并不是精确度不够造成的，而是由于精确度太好造成的。这一点实在出乎我们的想象。既然问题的症结在这，我们就有办法解决此类的问题，那就是降低精确度。方法是：对于参于运算的度量值a格式化，先计算trunc(a*10^8)/10^8，计算结果仍用a表示，隐去原来的a，后续计算就用格式化后的a。例子中用两种颜色区分原计算和格式化后的计算，原先的误差得到纠正了。
本想法仅是个人探索的结果，不一定正确，只供参考。欢迎高手指正。
2010年山东省淄博市第23题.gsp
(15.12 KB)
下载次数: 3469
2010-8-14 10:22
附件:
2010年山东省淄博市第23题.gsp
(2010-8-14 10:22, 15.12 KB) / 下载次数 3469
http://inrm3d.cn/attachment.php?aid=6470&k=a50d14d96b7d3f1aa19e501b41460e8d&t=1730439581&sid=mOHmtT
作者:
ln_hwqg
时间:
2010-8-14 15:04
郑老师，为什么要乘以10的8次方呢，再低点或高点不行吗？
作者:
zhengmh
时间:
2010-8-14 16:54
2#
wangbutian
是无奈的方法，王老师有没有什么更好的办法请交流。
欢迎光临 inRm3D: 画板论坛 (http://inrm3d.cn/)
Powered by Discuz! 7.0.0
2010年山东省淄博市第23题.gsp (15.12 KB)
附件: 2010年山东省淄博市第23题.gsp (2010-8-14 10:22, 15.12 KB) / 下载次数 3469