现在的位置: 首页 > 综合 > 正文

浮点数溢出错误

2013年03月06日 ⁄ 综合 ⁄ 共 145字 ⁄ 字号 评论关闭

之前只是听说过,但是没遇到过,今天de到一个溢出bug。

具体是一个10的20次幂相乘,结果导致浮点数溢出。

结果显示出来是:1.#INF00(正溢出)或者是-1.#INF00(负溢出)。

 

二进制是0x7f800000(正溢出)0xff80000(负溢出)。

 

这个自己写个简单测试也可以得到。

 

抱歉!评论已关闭.