水木社区手机版
- 主题:excel里有的小数能有精确值，有的小数后面是9999，有规律吗？
把附件里的6改成7，就变成了 32775.8479999999 ，是怎么回事？有什么规律吗？有的能保留精确值，有的后面是99999
--
FROM 120.242.253.*- 有些浮点数就是没法精确存储的啊。 存的就是你看到的。 设一下显示时保留到小数点多少位吧
【 在 feng321 的大作中提到: 】
: [upload][/upload]
: 把附件里的6改成7，就变成了 32775.8479999999 ，是怎么回事？有什么规律吗？有的能保留精确值，有的后面是99999
: --
:
发自「今日水木 on Mi 10」
--
FROM 223.102.87.* - 谢谢
【 在 johnsonshu 的大作中提到: 】
: 有些浮点数就是没法精确存储的啊。 存的就是你看到的。 设一下显示时保留到小数点多少位吧
: 发自「今日水木 on Mi 10」
--
FROM 120.242.252.* - 确实麻烦
【 在 feng321 (sfdf) 的大作中提到: 】
: [upload=1][/upload]
: 把附件里的6改成7，就变成了 32775.8479999999 ，是怎么回事？有什么规律吗？有的能保留精确值，有的后面是99999
--
FROM 117.119.67.* - 二进制和十进制转换容易出问题，我在想现在计算机计算能力这么强，如果都改成类似BigDecimal的技术精确计算效率会差多少，能不能忍受
【 在 feng321 的大作中提到: 】
: [upload][/upload]
: 把附件里的6改成7，就变成了 32775.8479999999 ，是怎么回事？有什么规律吗？有的能保留精确值，有的后面是99999
: --
:
发自「今日水木 on 诺基亚3310」
--
FROM 106.121.6.*