1 什么是科学记数法
把一个大于10的数记成a乘以10的n次幂,其中a是整数数位只有一位的数,这种记数法叫做科学记数法.
在科学记数法中,字母"E"表示10这个"底数",而E之前为一个十进制表示的小数,称为尾数,E之后必须为一个整数,称为"指数"
无论实数是用十进制表示法还是科学表示法,它们在计算机内的表示形式是一样的,总是用浮点方式存储。
eg –3.402823 * 10(的38此幂)---> –3.402823E38
eg –1.401298 * 10(的-45此幂)---> –1.401298E-45
2 Access中的浮点数
REAL: 4 个字节 单精度浮点数,负数范围是从 –3.402823E38 到 –1.401298E-45,正数从1.401298E-45 到 3.402823E38,和 0。
FLOAT: 8 个字节 双精度浮点数,负数范围是从 –1.79769313486232E308 到 –4.94065645841247E-324,正数从 4.94065645841247E-324 到 1.79769313486232E308,和 0。
3 Sql server中的浮点数
real
具有以下有效值的浮点数字数据:从 –3.40E + 38 到 -1.18E - 38、0 和 1.18E - 38 到 3.40E + 38。存储大小为 4 字节。在 SQL Server 中,real 的同义词为 float(24)。
float [ ( n ) ]
具有以下有效值的浮点数字数据:从 - 1.79E + 308 到 -2.23E - 308、0 和 2.23E -308 到 1.79E + 308。n 为用于存储科学记数法 float 数尾数的位数,同时指示其精度和存储大小。n 必须为从 1 到 53 之间的值。默认值为 53
n所在范围 | 精度 | 存储大小 |
1-24 | 7 位数 | 4 字节 |
25-53 | 15 位数 | 8 字节 |