- 主题:a+b都算不清楚,python怎么做科学计算啊?
a=2.1
b=3.2
print(a+b)
竟然输出 5.300000000000001,用python做科学计算,放心吗?
--
FROM 120.242.252.*
java也是这样,但至少matlab不是这样啊。java似乎不用来做科学计算,可python有numpy包啊。能放心用吗?
【 在 hgoldfish 的大作中提到: 】
: 计算机搞数值计算就是这样的。这个是常识了。你去阅读一下 wikipedia 上面关于浮点数的资料吧。
:
--
FROM 120.242.252.*
谢谢,第一次听说
【 在 javaboy 的大作中提到: 】
: matlab也这样。默认设置遮起来了而已。
: >> format long e
: >> 2.1+3.2
: ...................
--
FROM 120.242.252.*
谢谢
【 在 Spirituel 的大作中提到: 】
: 测试了一下,要进行高精度计算需要用 字符串 表示数字
: 然后定义 prec 的值,示例代码如下,你想用多高精度都行
: ------
: ...................
--
FROM 117.136.103.*