本文介紹了為什么浮點上的簡單數(shù)學運算會在 VB.Net 和 Python 中返回意外(不準確)的結果?的處理方法，對大家解決問題具有一定的參考價值，需要的朋友們下面隨著小編來一起學習吧！
問題描述
x = 4.2 - 0.1
vb.net 給出 4.1000000000000005
python給出4.1000000000000005
Excel給出4.1
Google calc 給出 4.1
Excel gives 4.1
Google calc gives 4.1
發(fā)生這種情況的原因是什么?
What is the reason this happens?
推薦答案
浮點/雙精度.
您必須記住，在二進制中，4.1 = 4 + 1/10.1/10 是二進制的無限重復和，就像 1/9 是十進制的無限和.
You must remember that in binary, 4.1 = 4 + 1/10. 1/10 is an infinitely repeating sum in binary, much like 1/9 is an infinite sum in decimal.
這篇關于為什么浮點上的簡單數(shù)學運算會在 VB.Net 和 Python 中返回意外(不準確)的結果?的文章就介紹到這了，希望我們推薦的答案對大家有所幫助，也希望大家多多支持html5模板網(wǎng)！
【網(wǎng)站聲明】本站部分內(nèi)容來源于互聯(lián)網(wǎng),旨在幫助大家更快的解決問題，如果有圖片或者內(nèi)容侵犯了您的權益，請聯(lián)系我們刪除處理，感謝您的支持！