现在的位置: 首页 > 综合 > 正文

浮点数精度的一点问题

2013年10月20日 ⁄ 综合 ⁄ 共 132字 ⁄ 字号 评论关闭

 示例代码:

double j = 0.65f;

int i = 100 * j;

结果i等于64,与我们通常预计的结果不一致;原因是0.65f后面的f符号表示了0.65是一个单精度浮点数。调试发现实际值等于0.6499999,乘以100后转整数变成64.

 

测试环境:vs2010

 

 

抱歉!评论已关闭.