水木社区手机版
首页
|版面-数学工具(MathTools)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
返回
上一篇
|
下一篇
|
同主题下篇
主题:matlab半精度浮点数问题
Peugeot888
|
2023-06-26 18:51:22
|
用如下代码看MATLAB的半精度数据情况。
format long
a=1.234567890123456789
b=single(a)
c=half(a)
运行结果为:
a=1.234567890123457
b=1.2345679
c= 1.2343750
a和b的结果都符合双精度和单精度有效位的预期,但c的结果为什么也有8位。
half的有效位不是只有3位吗?还是MATLAB对half数据的运算不严格?
--
FROM 183.222.201.*
上一篇
|
下一篇
|
同主题下篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版