当前位置:顶点小说>游戏竞技>当我写了个BUG却变成核心玩法> 第469章 0.1+0.2≠0.3
阅读设置(推荐配合 快捷键[F11] 进入全屏沉浸式阅读)

设置X

第469章 0.1+0.2≠0.3(6 / 6)

果进行合并,就得到了一个小数在二进制下的数字。

“但这里有个问题,那就是只有极少数的小数可以通过乘二取整法来完整地转化,还有大量的数字在转化成二进制之后,是无限循环的。

“就比如,十进制的0.1在转化成二进制之后,会变成0.0001100110……而由于计算机的资源是有限的,我们不能直接记录这一长串的数字,就只能记录一个最大化接近0.1的二进制数,这就会造成精度缺失的情况。”

顾凡一边说着,一边在电脑上快速地运算,帮助莉莉丝理解。

而莉莉丝则是眉头紧锁,显然大脑已经处于过载状态,但在顾凡一步一停的耐心解释下,倒是也勉强理解了七七八八。

(本章完)

上一页 目录 +书签 下一章