最近用一个数值计算的库，Debug版和Release版本计算出的结果差

水木社区手机版

主题:最近用一个数值计算的库，Debug版和Release版本计算出的结果差
21楼|blueboats|2023-09-25 14:25:02|展开
对于一些不那么稳定的数值算法，些许扰动可能导致结果差异很大。
【在 dormouseBHU 的大作中提到: 】
只要精度满足要求，rel和debug的结果不一样也没什么问题吧。。。
本来计算机算的就是个近似解，没必要要求必须完全相同
【在 iamrzd 的大作中提到: 】
: 这么庞大的库，学会怎么用已费劲了，还要进去debug，想想都头大
:
--
FROM 123.118.110.59
22楼|blueboats|2023-09-25 14:27:18|展开
你需要找一个数值稳定的算法
【在 iamrzd 的大作中提到: 】
对，第一次接触这块，有什么需要注意的地方，能指点一下吗

【在 ziqin 的大作中提到: 】
: 听起来只是机械的套用了矩阵的那些理论，没有考虑实际数值计算问题
:
: 【在 iamrzd 的大作中提到: 】
: ...................
--来自微微水木3.5.14
--
FROM 123.118.110.59

BYR-Team©2010. KBS Dev-Team©2011 登录完整版