水木社区手机版
首页
|版面-C++程序设计语言(CPlusPlus)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
主题:Re: 浮点数运算跨平台一致性问题
blitz
|
2022-03-16 09:51:56
|
具体情况我也不清楚,还在排查。
某个用了cuda的开源软件,移植到某国产dcu上发现的
但是拿cpu作为对照组看,似乎cuda的误差更大些
【 在 eematlab (一辰未冉) 的大作中提到: 】
: 这个不太可能吧,如果硬件上真的误差到1e-5, 那么说明硬件设计有问题
: 一般都是1-2ulp
--
FROM 159.226.171.*
上一篇
|
下一篇
|
同主题上篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版