導航:首頁 > 源碼編譯 > 浮點數演算法爭議與限制

浮點數演算法爭議與限制

發布時間:2023-01-04 11:23:21

1. 浮點數與科學計算有何關系

1、根據ieee754國際標准,常用的浮點數有兩種格式
(1)單精度浮點數(single)
(2)雙精度浮點數(double)
2、相同點:它們都用來表示帶有小數部分的實數,一般都用於科學計算,都由階碼和尾數構成。
3、不同點:
(1)單精度浮點數佔用4個位元組(32位)存儲空間,包括符號位1位,階碼8位,尾數23位。其數值范圍為3.4e-38~3.4e+38,單精度浮點數最多有7位十進制有效數字,單精度浮點數的指數用「e」或「e」表示。單精度浮點數有多種表示形式:±n.n(小數形式)
±n
e
±m(指數形式)
±n.n
e
±m
(指數形式)如果某個數的有效數字位數超過7位,當把它定義為單精度變數時,超出的部分會自動四捨五入。
(2)雙精度浮點數佔用8個位元組(64位)存儲空間,包括符號位1位,階碼11位,尾數52位。其數值范圍為1.7e-308~1.7e+308,雙精度浮點數最多有15或16位十進制有效數字,雙精度浮點數的指數用「d」或「d」表示。雙精度浮點數科學記數法格式
:±ad±c或±ad±c
4、vb6單、雙精度浮點數細節:
(1)single(單精度浮點型)變數存儲為
ieee
32
位(4
個位元組)浮點數值的形式,它的范圍在負數的時候是從
-3.402823e38

-1.401298e-45,而在正數的時候是從
1.401298e-45

3.402823e38。
(2)、double(雙精度浮點型)變數存儲為
ieee
64
位(8
個位元組)浮點數值的形式,它的范圍在負數的時候是從
-1.79769313486232e308

-4.94065645841247e-324,而正數的時候是從
4.94065645841247e-324

1.79769313486232e308。

閱讀全文

與浮點數演算法爭議與限制相關的資料

熱點內容
女白領吃甜食解壓視頻 瀏覽:818
md5加密系統中的應用 瀏覽:904
空調壓縮機線路原理圖 瀏覽:416
雙鑰加密技術有哪些 瀏覽:268
免費的pdf虛擬列印機 瀏覽:797
weblogic命令發布 瀏覽:911
編程入門基本功訓練視頻 瀏覽:987
單片機北郵 瀏覽:212
安卓平板如何用藍牙傳照片 瀏覽:426
ios8pdf下載 瀏覽:414
懷舊服大腳冷卻計時命令 瀏覽:23
java求數組的最大值 瀏覽:840
出風口加密有什麼弊端 瀏覽:802
橫盤震盪趨勢選股公式源碼 瀏覽:472
程序員出差穿什麼鞋 瀏覽:190
注冊登陸驗證源碼 瀏覽:396
如何把安卓程序備份出來 瀏覽:972
程序員小哥生日 瀏覽:356
老白程序員在奮斗 瀏覽:1002
已加密的pdf 瀏覽:392