浮点数运算与溢出处理详解
需积分: 3 111 浏览量
更新于2024-08-10
收藏 12.06MB PDF 举报
"上溢下溢和非法计算-大智慧指标公式编写终极教程"
这篇教程主要讲解了浮点数表示和浮点算术运算中的几个关键概念,这些知识点在编程和数学计算中非常重要,特别是在金融计算软件如大智慧指标公式编写中。首先,我们来看浮点数的表示方式:
1. 非规格化数:非规格化数是用于表示极小数值的浮点数形式。它有一个特殊的指数(这里是0,表示-126),以及一个尾数,尾数由1到2^23-1的值表示,假设2^23为0,二进制小数点紧随其后。例如,一个负的非规格化数可以表示为(-1) * 2^(-126) * (尾数 * 2^(-23))。
2. 零:零有两个表示形式,+0.0和-0.0,区别在于符号位,0表示正零,1表示负零。它们在数学上都等于0,但在浮点运算中可能产生不同的结果。
3. 无穷大:无穷大用符号位和特定指数(255,即2^8-1)表示,表示无法表示的极大或极小数值。+∞对应符号位0,-∞对应符号位1,尾数都是0。
4. NaN(非数字):当计算结果无法表示为数字或无穷大时,比如0.0/0.0,会产生NaN。指数同样是255,但尾数不为0。对于NaN的具体数值,没有严格的定义。
接着,我们讨论了浮点算术运算的结果处理:
1. 四舍五入规则:当运算结果超出内部表示范围时,会进行四舍五入。如果结果在两个内部浮点数之间,会向最接近的数值靠拢,如果中间,则会四舍五入使得尾数的下一个位为0。
2. 上溢、下溢和非法计算:上溢会根据结果的符号给出+∞或-∞;下溢则给出+0.0或-0.0。非法计算如无穷大与相反符号的数相加、无穷大除以无穷大等,会得到NaN。
此外,提到了欧姆龙CP1E系列的CPU单元,这是一款可编程控制器,适用于自动化系统的设计、安装和管理。尽管这个信息与浮点数运算的理论知识关联不大,但表明了这些理论在实际工业设备中的应用。
这个教程深入浅出地介绍了浮点数表示法和浮点运算规则,这对于理解和编写涉及浮点数计算的程序至关重要。同时,欧姆龙CP1E系列的提及也强调了这些理论在实际工业控制中的应用。
2014-12-19 上传
2021-06-01 上传
2011-04-09 上传
点击了解资源详情
点击了解资源详情
点击了解资源详情
点击了解资源详情
点击了解资源详情
点击了解资源详情
theAIS
- 粉丝: 59
- 资源: 2万+
最新资源
- 火炬连体网络在MNIST的2D嵌入实现示例
- Angular插件增强Application Insights JavaScript SDK功能
- 实时三维重建:InfiniTAM的ros驱动应用
- Spring与Mybatis整合的配置与实践
- Vozy前端技术测试深入体验与模板参考
- React应用实现语音转文字功能介绍
- PHPMailer-6.6.4: PHP邮件收发类库的详细介绍
- Felineboard:为猫主人设计的交互式仪表板
- PGRFileManager:功能强大的开源Ajax文件管理器
- Pytest-Html定制测试报告与源代码封装教程
- Angular开发与部署指南:从创建到测试
- BASIC-BINARY-IPC系统:进程间通信的非阻塞接口
- LTK3D: Common Lisp中的基础3D图形实现
- Timer-Counter-Lister:官方源代码及更新发布
- Galaxia REST API:面向地球问题的解决方案
- Node.js模块:随机动物实例教程与源码解析