水木社区手机版
首页
|版面-C++程序设计语言(CPlusPlus)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
主题:Re: 关于浮点数误差:
poggy
|
2024-07-12 13:03:50
|
【 在 Madlee 的大作中提到: 】
: 这样一段C++程序:
: [code=c]
: double cvt(int v) {
: ...................
计算机浮点数误差, 本质是数的计算机表示是多项式的和,计算机存储的只是
这些多项式的系数,由于计算机的是以2为底的多项式,
而人类使用的浮点数是10为底的多项式,
二者系数变换,大多时候是没办法完全相等的表示, 只能使用近似表示,从而导致转换误差。
--
FROM 124.126.3.*
上一篇
|
下一篇
|
同主题上篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版