浮点数运算跨平台一致性问题

水木社区手机版

主题:浮点数运算跨平台一致性问题
2楼|blitz|2022-03-15 11:24:29|展开
我还听说过gpu和某国产dcu上算出来的最终结果的相对误差有1e-5呢
暂时不确定是哪边的问题，抑或是正常的
【在 shazaohuar (suian) 的大作中提到: 】
: 浮点数大量exp, pow运算后如何保证Linux, Windows上结果一致，看了几天发现不太好弄，似乎还跟硬件有关，有有经验的吗？多谢！
: - 来自水木社区APP v3.5.3
--
FROM 159.226.171.*
12楼|blitz|2022-03-16 09:51:56|展开
具体情况我也不清楚，还在排查。
某个用了cuda的开源软件，移植到某国产dcu上发现的
但是拿cpu作为对照组看，似乎cuda的误差更大些

【在 eematlab (一辰未冉) 的大作中提到: 】
: 这个不太可能吧，如果硬件上真的误差到1e-5, 那么说明硬件设计有问题
: 一般都是1-2ulp
--
FROM 159.226.171.*

BYR-Team©2010. KBS Dev-Team©2011 登录完整版