15位有效数字是带整数部分的,总共15位。
【 在 ooolinux 的大作中提到: 】
: 不是所有的十进制数和二进制数都能精确转换的,所以浮点数有精度问题,比如double类型大概15位有效小数位数
: 【 在 ooolinux 的大作中提到: 】
: : 0.1是十进制,存储在内存中是二进制,按一定的格式要求(浮点数,比如多少二进制位存有效小数部分,多少位存指数部分),可以看《计算机组成原理》,计算机专业基础课
: ...................
--来自微微水木3.5.14
--
FROM 183.193.49.*