cuốn sách gpt4 ai đã làm

c# - 预测两个 double 之和

In lại Tác giả: Walker 123 更新时间:2023-11-28 09:28:15 30 4
mua khóa gpt4 Nike

Có thể trùng lặp:
Is JavaScript’s Floating-Point Math Broken?

这将是一个非常基本的计算机科学问题。考虑下面的 C#(这同样适用于 JS,我认为这就是数学如何处理 double 的一般情况)。

var i = .01;
i+=.01; //i=.02
i+=.01; //i=.03
i+=.01; //i=.04
i+=.01; //i=.05
i+=.01; //i=.0600000000005 (I may have added/missed a few 0s in there)
i+=.01; //i=.07
i+=.01; //i=.08
i+=.01; //i=.09
i+=.01; //i=.0999999999992 (I may have added/missed a few 9s in there)

那么,发生了什么以及如何准确预测 i+.01 的总和?

câu trả lời hay nhất

double 不仅仅是获取数字小数点的一种方法。它使用 float 学。 This article by Pete Becker很好地解释了它是如何工作的。

关于c# - 预测两个 double 之和,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/14031778/

30 4 0
Chứng chỉ ICP Bắc Kinh số 000000
Hợp tác quảng cáo: 1813099741@qq.com 6ren.com
Xem sitemap của VNExpress