现在的位置: 首页 > 综合 > 正文

浮点数精度

2013年03月30日 ⁄ 综合 ⁄ 共 293字 ⁄ 字号 评论关闭

硬件和win7系统都是64位的。

IDE环境:vs2008

--------------------------------

无论编译配置为win32,还是x64,都是一样的结果(如下)。

 

sizeof(float)    == 4

sizeof(double) == 8

 

float    精度为  7位(即十进制有效数字)

double 精度为16位(即十进制有效数字)

 

double类型和long double类型完全一致,没有区别。

---------------------------------

 

在进行浮点运算时,精确是偶然的,误差是必然的。

如果做数值算法,唯一能做的就是误差不累计,其他的就不要奢望了。

抱歉!评论已关闭.