最近用一个数值计算的库，Debug版和Release版本计算出的结果差

水木社区手机版

主题:最近用一个数值计算的库，Debug版和Release版本计算出的结果差
16楼|xuxt|2023-09-25 10:21:53|展开
库+硬件都会有误差，很难调试的。真要求bitwise的准确度的话，建议买商业数学BLAS库, 配指定的硬件，最后结果在误差范围内就可以了。
如果你跑过超算数值模拟，那才叫头大。。。
--
FROM 111.201.155.*