c# – 舍入单个

c# – 舍入单个,第1张

概述我有这个“科学应用”,其中单个值应该在UI中呈现之前进行四舍五入.根据 this MSDN article,由于“精度损失”,Math.Round(Double,Int32)方法有时会“意外地”出现,例如四舍五入到2.13,而不是2.14. 据了解,这个问题与“银行家四舍五入”无关(参见例如this question). 在应用程序中,有人显然通过在舍入前明确地将Single转换为十进制(即Mat 我有这个“科学应用”,其中单个值应该在UI中呈现之前进行四舍五入.根据 this MSDN article,由于“精度损失”,Math.Round(Double,Int32)方法有时会“意外地”出现,例如四舍五入到2.13,而不是2.14.

据了解,这个问题与“银行家四舍五入”无关(参见例如this question).

在应用程序中,有人显然通过在舍入前明确地将Single转换为十进制(即Math.Round((Decimal)mySingle,2))来调用Math.Round(Decimal,Int32)重载来解决这个问题.除了可能出现的二进制到十进制转换问题之外,如果“单一”值太小或不足以适应“十进制”类型,则此“解决方案”也可能会引发OverflowException.

抓住这样的错误,返回Math.Round(Double,Int32)的结果,如果转换失败,不会打击我作为完美的解决方案.也不会将应用程序重写为使用十进制.

是否有或多或少的“正确”的方式来处理这种情况,如果是,可能是什么?

解决方法 我会认为您现有的解决方案(使用Math.Round的十进制版本)是正确的.

潜在的问题是,您希望根据其基数10表示来舍入数字,但您已将它们存储为基础2浮点数.所提供的2.135的例子是其中基数2表示与基数10不完全匹配的那些边缘情况之一.

要获得预期的舍入行为,您必须将数字转换为基数10.最简单的方法正是您已经在做的:暂时将数字转换为十进制长度足以调用Math.Round.

总结

以上是内存溢出为你收集整理的c# – 舍入单个全部内容,希望文章能够帮你解决c# – 舍入单个所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址:https://54852.com/langs/1236388.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2022-06-06
下一篇2022-06-06

发表评论

登录后才能评论

评论列表(0条)

    保存