博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
关于精度问题(实数计算)
阅读量:5305 次
发布时间:2019-06-14

本文共 649 字,大约阅读时间需要 2 分钟。

关于精度问题

在计算几何的计算中,精度问题是一个很常见的问题。

这是由于计算机存储浮点数时保留的精度有限而产生的。

即使用两个实型变量来存储同一个数字,都有可能产生误差。

因此在判定实型变量大小关系时,若直接采用=,><进行比较,很有可能出错。

一般常见的解决方法是设定一个极小量epsilon(一般写作eps)来辅助比较。

比如判定两个浮点数是否相等时,我们检查两个浮点数之间的差值。若差值小于eps时,我们就认为这两个浮点数相等:

equals(double x, double y):    eps = 1e-6 // 根据题目要求的精度范围来设定eps    If (abs(x - y) < eps) Then        Return True    End If    Return false

同样,其它比较符号也需要做对应的修改,具体可以参考下表:

原符号       修正a == b      abs(a-b) < epsa != b      abs(a-b) > epsa > b       a-b > epsa >= b      a-b > -epsa < b       a-b < -epsa <= b      a-b < eps 注:摘自hihocder的一篇题解 http://hihocoder.com/discuss/question/3573

转载于:https://www.cnblogs.com/yspworld/p/5773637.html

你可能感兴趣的文章
我的工作习惯小结
查看>>
把word文档中的所有图片导出
查看>>
浏览器的判断;
查看>>
ubuntu 18.04取消自动锁屏以及设置键盘快捷锁屏
查看>>
Leetcode 589. N-ary Tree Preorder Traversal
查看>>
机器学习/深度学习/其他开发环境搭建记录
查看>>
xml.exist() 实例演示
查看>>
判断是否为空然后赋值
查看>>
zabbix监控日志文件
查看>>
正则表达式
查看>>
pip install torch on windows, and the 'from torch._C import * ImportError: DLL load failed:' s...
查看>>
环套树
查看>>
java基础(一):我对java的三个环境变量的简单理解和配置
查看>>
arcgis api 4.x for js 结合 Echarts4 实现散点图效果(附源码下载)
查看>>
YTU 2625: B 构造函数和析构函数
查看>>
apache自带压力测试工具ab的使用及解析
查看>>
C#使用Xamarin开发可移植移动应用(2.Xamarin.Forms布局,本篇很长,注意)附源码
查看>>
jenkins搭建
查看>>
C#中使用Split分隔字符串的技巧
查看>>
eclipse的调试方法的简单介绍
查看>>