水木社区手机版
首页
|版面-数学工具(MathTools)|
新版wap站已上线
返回
1/1
|
转到
主题:matlab半精度浮点数问题
3楼
|
lambdago
|
2024-02-21 21:10:37
|
展开
X86 有的,float16
【 在 Peugeot888 的大作中提到: 】
: PC的处理器都没有原生半精度,都是软件仿真的。
:
:
--
FROM 111.183.115.*
4楼
|
lambdago
|
2024-02-21 21:21:02
|
展开
另外 c 的小数位数只有五位(0.11001),你混淆了显示和精度。
【 在 Peugeot888 的大作中提到: 】
: 用如下代码看MATLAB的半精度数据情况。
: format long
: a=1.234567890123456789
: ...................
--
FROM 111.183.115.*
1/1
|
转到
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版