现在的位置: 首页 > 综合 > 正文

float精度问题

2013年10月26日 ⁄ 综合 ⁄ 共 233字 ⁄ 字号 评论关闭

int main()

{

       float f= 70.3f;

      printf("%f\n",f);

      getchar();

      return 0;
}

输出是:70.300003而不是70.300000

今天做到这个笔试题。在计算机中,数值是以其补码形式存放的,也就是先将70.3转为其补码,再存放。输出时,再将其补码转为要显示的形式,比如输出字符,输出十进制,十六进制形式等。在这个转换的过程中,就会出现这样的问题。转换过程会出现误差。所以就出现了这个问题。

抱歉!评论已关闭.