水木社区手机版
首页
|版面-编程技术(Programming)|
新版wap站已上线
返回
1/1
|
转到
主题:Re: 高级语言里的小数是怎么转化成机器里的浮点数的
17楼
|
chaobill
|
2023-12-27 17:29:17
|
展开
float32 连6位十进制有效数字都不一定能达到吧
【 在 ooolinux 的大作中提到: 】
: 不是所有的十进制数和二进制数都能精确转换的,所以浮点数有精度问题,比如double类型大概15位有效小数位数
--
FROM 112.66.27.*
1/1
|
转到
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版