现在的位置: 首页 > 综合 > 正文

浮点数使用之精度舍入问题

2012年11月05日 ⁄ 综合 ⁄ 共 199字 ⁄ 字号 评论关闭

     在浮点数使用过程中,遇到这样的问题:

      long double test = 0.0005;

      查看 test的值为 0.00050000000001134321;

      分析:由于编译器,将0.0005 默认为了double类型的了。

      解决方案:在赋值的时候指定常量浮点类型

             long double test = 0.0005D;

     查看test 的值为 0.0005

抱歉!评论已关闭.