关于精度问题
在计算几何的计算中,精度问题是一个很常见的问题。
这是由于计算机存储浮点数时保留的精度有限而产生的。
即使用两个实型变量来存储同一个数字,都有可能产生误差。
因此在判定实型变量大小关系时,若直接采用=
,>
或<
进行比较,很有可能出错。
一般常见的解决方法是设定一个极小量epsilon
(一般写作eps
)来辅助比较。
比如判定两个浮点数是否相等时,我们检查两个浮点数之间的差值。若差值小于eps
时,我们就认为这两个浮点数相等:
equals(double x, double y): eps = 1e-6 // 根据题目要求的精度范围来设定eps If (abs(x - y) < eps) Then Return True End If Return false
同样,其它比较符号也需要做对应的修改,具体可以参考下表:
原符号 修正a == b abs(a-b) < epsa != b abs(a-b) > epsa > b a-b > epsa >= b a-b > -epsa < b a-b < -epsa <= b a-b < eps 注:摘自hihocder的一篇题解 http://hihocoder.com/discuss/question/3573