了解浮点问题

了解浮点问题,第1张

了解浮点问题

首先阅读 每位计算机科学家应了解的有关浮点的知识
:http :
//docs.sun.com/source/806-3568/ncg_goldberg.html

简短答案:双精度浮点数(Javascript中的默认值)的精度约为16位十进制数字。四舍五入因平台而异。如果绝对要正确地找到正确的答案,则应该自己进行有理算术(这并不难-
对于货币,也许您可​​以乘以100来存储分的整数形式)。

但是,如果能够以高精度获得答案,则浮点数应该足够好,尤其是双精度。



欢迎分享,转载请注明来源:内存溢出

原文地址:https://54852.com/zaji/5567209.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2022-12-14
下一篇2022-12-14

发表评论

登录后才能评论

评论列表(0条)

    保存