现在的位置: 首页 > 综合 > 正文

关于float和double的精度问题

2018年04月07日 ⁄ 综合 ⁄ 共 952字 ⁄ 字号 评论关闭

前言:这是我在CSDN发的第一个问题,是我在学习JAVA时遇到的,其实在C中也是一样道理。

http://community.csdn.net/Expert/topic/5201/5201507.xml?temp=6.275576E-02“关于循环语句”

问题如下:

有下面程序:
class T{
public static void main(String args[]){
for(float y=0;y!=1.2;y+=0.1){
System.out.println(y);
if(y>1.5) break;
}
}
}
该程序的输出结果如下:
0.0
0.1
0.2
0.3
0.4
0.5
0.6
0.70000005
0.8000001
0.9000001
1.0000001
1.1000001
1.2000002
1.3000002
1.4000002
1.5000002
修改后的程序如下:
class T{
public static void main(String args[]){
for(double y=0;y!=1.2;y+=0.1){
System.out.println(y);
if(y>1.5) break;
}
}
}
修改后程序的输出结果:
0.0
0.1
0.2
0.30000000000000004
0.4
0.5
0.6
0.7
0.7999999999999999
0.8999999999999999
0.9999999999999999
1.0999999999999999
请问:为什么这两个程序循环语句中不能按0.1递增?望高手们赐教。 

答案参考:

程序产生如此输出结果的原因:float和double是"不准确"值

参考资料如下:
float类型的变量与零值比较的if语句的写法:
NO
标准答案示例:

const float EPSINON = 0.00001;

if ((x >= - EPSINON) && (x <= EPSINON)

不可将浮点变量用“==”或“!=”与数字比较,应该设法转化成“>=”或“<=”此类形式。
出自林锐的高质量

-------------------

后记:这种方式其实在学习C语言时也用到过,只是当时只是应程序精度要求,所以其实并不知道float和 double是“不准确值”之说,也没考虑过这个问题。看来握此类基础知识也是非常重要的,不然遇到此类问题时,只能束手无策。

抱歉!评论已关闭.