最近用一个数值计算的库，Debug版和Release版本计算出的结果差

水木社区手机版

主题:最近用一个数值计算的库，Debug版和Release版本计算出的结果差
14楼|easior|2023-09-25 07:09:34|展开
算法有没有放大截断误差？
【在 iamrzd 的大作中提到: 】
: 曲线拟合，公式的形式是已知的，调用Eigen库的LM进行拟合，想不到算法有啥问题
: --来自微微水木3.5.14
--
FROM 223.166.225.*
26楼|easior|2023-09-26 08:37:25|展开
说起这些算法细节，忽然来了兴趣
不知道楼主在做什么问题
算法的数值稳定性有没有结论？
另外，不知道是不是特征值问题？
【在 meizhi 的大作中提到: 】
: 可以逐步打印出来对比下，每步的梯度方向，步长，Jacobi矩阵这些，一般是前一两步就开始错位了。。重点可以看看你计算Jacobi那块稳不稳
: 发自「今日水木 on 22041216C」
--
修改:easior FROM 223.166.201.*
FROM 223.166.201.*

BYR-Team©2010. KBS Dev-Team©2011 登录完整版