水木社区手机版
首页
|版面-C++程序设计语言(CPlusPlus)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
主题:Re: 浮点数运算跨平台一致性问题
eematlab
|
2022-03-15 18:28:45
|
这个不太可能吧,如果硬件上真的误差到1e-5, 那么说明硬件设计有问题
一般都是1-2ulp
【 在 blitz 的大作中提到: 】
: 我还听说过gpu和某国产dcu上算出来的最终结果的相对误差有1e-5呢
: 暂时不确定是哪边的问题,抑或是正常的
:
--
FROM 64.207.220.*
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版