现在的位置: 首页 > 综合 > 正文

连载:编写高效代码(6)——降低数据精度

2018年01月25日 ⁄ 综合 ⁄ 共 245字 ⁄ 字号 评论关闭

 

我们知道,小数点后面的位数越多,数据越精确,例如,100.11就比100.1精确,而越精确的数据,所需要的bit数也越多。浮点数有单精度和双精度2种格式,单精度浮点数占32
bit
,双精度浮点数占64 bit,处理双精度的浮点数自然要比单精度浮点数慢。

fabsf()是计算单精度浮点数绝对值的函数,fabsf()就比<FONT
style="FONT-SIZE: 10.5pt" face=""">fabs()快,很多程序员并没有注意到这个区别。如果一个数据用单精度能否表示,就不需要使用双精度。

抱歉!评论已关闭.