导航:首页 > 源码编译 > 浮点数算法争议与限制

浮点数算法争议与限制

发布时间:2023-01-04 11:23:21

1. 浮点数与科学计算有何关系

1、根据ieee754国际标准,常用的浮点数有两种格式
(1)单精度浮点数(single)
(2)双精度浮点数(double)
2、相同点:它们都用来表示带有小数部分的实数,一般都用于科学计算,都由阶码和尾数构成。
3、不同点:
(1)单精度浮点数占用4个字节(32位)存储空间,包括符号位1位,阶码8位,尾数23位。其数值范围为3.4e-38~3.4e+38,单精度浮点数最多有7位十进制有效数字,单精度浮点数的指数用“e”或“e”表示。单精度浮点数有多种表示形式:±n.n(小数形式)
±n
e
±m(指数形式)
±n.n
e
±m
(指数形式)如果某个数的有效数字位数超过7位,当把它定义为单精度变量时,超出的部分会自动四舍五入。
(2)双精度浮点数占用8个字节(64位)存储空间,包括符号位1位,阶码11位,尾数52位。其数值范围为1.7e-308~1.7e+308,双精度浮点数最多有15或16位十进制有效数字,双精度浮点数的指数用“d”或“d”表示。双精度浮点数科学记数法格式
:±ad±c或±ad±c
4、vb6单、双精度浮点数细节:
(1)single(单精度浮点型)变量存储为
ieee
32
位(4
个字节)浮点数值的形式,它的范围在负数的时候是从
-3.402823e38

-1.401298e-45,而在正数的时候是从
1.401298e-45

3.402823e38。
(2)、double(双精度浮点型)变量存储为
ieee
64
位(8
个字节)浮点数值的形式,它的范围在负数的时候是从
-1.79769313486232e308

-4.94065645841247e-324,而正数的时候是从
4.94065645841247e-324

1.79769313486232e308。

阅读全文

与浮点数算法争议与限制相关的资料

热点内容
md5加密系统中的应用 浏览:904
空调压缩机线路原理图 浏览:416
双钥加密技术有哪些 浏览:268
免费的pdf虚拟打印机 浏览:797
weblogic命令发布 浏览:911
编程入门基本功训练视频 浏览:987
单片机北邮 浏览:212
安卓平板如何用蓝牙传照片 浏览:426
ios8pdf下载 浏览:414
怀旧服大脚冷却计时命令 浏览:23
java求数组的最大值 浏览:840
出风口加密有什么弊端 浏览:802
横盘震荡趋势选股公式源码 浏览:472
程序员出差穿什么鞋 浏览:190
注册登陆验证源码 浏览:396
如何把安卓程序备份出来 浏览:970
程序员小哥生日 浏览:354
老白程序员在奋斗 浏览:1002
已加密的pdf 浏览:392
ajax基础教程源码 浏览:341