九九热九九I在线观看i国产女优视频i中文字幕人成高清i欧美亚洲日本一区二I久久久久acI伊人在线视频网站I久久久久IVI中文字幕永久有效I9爱在线观看一区I久久鲁一鲁I国产精品98I天天综合网7799I大香蕉资源站I真人高清无码

如圖通過(guò)模擬發(fā)現(xiàn) 被除數(shù)小于82時(shí)候，算出的結(jié)果是準(zhǔn)的 。被除數(shù)大于83 ，為什么結(jié)果就不準(zhǔn)了呢/有知道原因的小伙伴嗎

第二個(gè)圖打不開(kāi)

幫看看分析一下

有沒(méi)可能F83其實(shí)是82.99992

有什么問(wèn)題嗎？浮點(diǎn)數(shù)本來(lái)就是近似數(shù)

你繼續(xù)換其他數(shù)值,你會(huì)發(fā)現(xiàn)還有其他的數(shù)也會(huì)有誤差~

這就是傳說(shuō)中,二進(jìn)制不能用于表達(dá)任意值,通過(guò)浮點(diǎn)數(shù)格式,在有限范圍內(nèi)盡可能精確的逼近目標(biāo)值~

中間需要轉(zhuǎn)化一下。詳見(jiàn)以下視頻。更正K100應(yīng)為E100。
https://www.bilibili.com/video/BV1vg411r7dj?spm_id_from=333.999.0.0&vd_source=fe01af24b36f4ec9d5907739c0079391
之前也看到過(guò)這個(gè)問(wèn)題。網(wǎng)上搜索了一下。里面的內(nèi)容需要批判繼承
三菱浮點(diǎn)數(shù)轉(zhuǎn)整數(shù)INT指令運(yùn)算結(jié)果為什么不對(duì).zip (1134 K) 下载次数:32

     學(xué)習(xí)

浮點(diǎn)數(shù)近似值

IEEE 754 浮點(diǎn)數(shù)的尾數(shù)部分是23位，也就是23位的二進(jìn)制是真正實(shí)現(xiàn)數(shù)值的精度的，指數(shù)可以近似理解為確定小數(shù)點(diǎn)位數(shù)(這么說(shuō)便于理解)。1/128=0.0078125,也就在這附近了，精度不夠了，所以浮點(diǎn)數(shù)不需要糾結(jié)最后面的小數(shù)，只要小數(shù)點(diǎn)前位數(shù)多，小數(shù)點(diǎn)后就會(huì)出現(xiàn)，甚至太多的話(huà)個(gè)位、十位、百位都有可能北省去