导航:首页 > 源码编译 > 浮点数算法争议与限制

浮点数算法争议与限制

发布时间:2023-01-04 11:23:21

1. 浮点数与科学计算有何关系

1、根据ieee754国际标准,常用的浮点数有两种格式
(1)单精度浮点数(single)
(2)双精度浮点数(double)
2、相同点:它们都用来表示带有小数部分的实数,一般都用于科学计算,都由阶码和尾数构成。
3、不同点:
(1)单精度浮点数占用4个字节(32位)存储空间,包括符号位1位,阶码8位,尾数23位。其数值范围为3.4e-38~3.4e+38,单精度浮点数最多有7位十进制有效数字,单精度浮点数的指数用“e”或“e”表示。单精度浮点数有多种表示形式:±n.n(小数形式)
±n
e
±m(指数形式)
±n.n
e
±m
(指数形式)如果某个数的有效数字位数超过7位,当把它定义为单精度变量时,超出的部分会自动四舍五入。
(2)双精度浮点数占用8个字节(64位)存储空间,包括符号位1位,阶码11位,尾数52位。其数值范围为1.7e-308~1.7e+308,双精度浮点数最多有15或16位十进制有效数字,双精度浮点数的指数用“d”或“d”表示。双精度浮点数科学记数法格式
:±ad±c或±ad±c
4、vb6单、双精度浮点数细节:
(1)single(单精度浮点型)变量存储为
ieee
32
位(4
个字节)浮点数值的形式,它的范围在负数的时候是从
-3.402823e38

-1.401298e-45,而在正数的时候是从
1.401298e-45

3.402823e38。
(2)、double(双精度浮点型)变量存储为
ieee
64
位(8
个字节)浮点数值的形式,它的范围在负数的时候是从
-1.79769313486232e308

-4.94065645841247e-324,而正数的时候是从
4.94065645841247e-324

1.79769313486232e308。

阅读全文

与浮点数算法争议与限制相关的资料

热点内容
查看手机谷歌服务器地址 浏览:191
python操作zookeeper 浏览:705
苹果手机dcim文件夹显示不出来 浏览:430
如何压缩文件夹联想电脑 浏览:583
程序员的学习之旅 浏览:440
apkdb反编译 浏览:922
雪花算法为什么要二进制 浏览:825
在文档中打开命令行工具 浏览:608
android图标尺寸规范 浏览:369
python实用工具 浏览:208
流量计pdf 浏览:936
科东加密认证价格 浏览:532
dos命令读文件 浏览:996
成为程序员需要什么学历 浏览:674
pdf农药 浏览:228
canal加密 浏览:497
日本安卓系统和中国有什么区别 浏览:137
linux命令行修改文件 浏览:838
从编译和解释的角度看 浏览:650
徐志摩pdf 浏览:652