现在的位置: 首页 > 综合 > 正文

SUM()求和时的精度问题,跟数据表字段定义有关

2013年10月14日 ⁄ 综合 ⁄ 共 315字 ⁄ 字号 评论关闭

SUM()求和时的精度问题,跟数据表字段定义有关

sum以最精确的 expression 数据类型返回所有表达式值的和
返回结果:
money 精确到货币单位的千分之十
float(n) n在1-14,精度7位,25-53,精度15位
decimal 精度38位
int 精度为整数位数

<%=conn.execute("Select SUM(TotalPrice) as List1  from OrderList where TranslateStatus=1")("List1")%> 

语句查询的结果居然会返回很长的数字(5700.25001144409 )11位小数

查找数据表中对应的 TOTALPRICE字段定义.单精度.精确到2位小数.

总的数据没有很大的差异.

【上篇】
【下篇】

抱歉!评论已关闭.