水木社区手机版
首页
|版面-人工智能(AI)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
主题:Re: 弱弱的问:本地跑大模型的差别
TinyHuang
|
2025-01-10 22:44:44
|
所以,N卡是可以实现更高的性能,而如果只是体验,在可以本地运行大模型的前提下(显存足够),并且可以接受一定程度(比如30%)的输出速度下降,是可以考虑使用A卡的。我理解是这个意思吧?
【 在 zszqzzzf 的大作中提到: 】
: 对性能不敏感,难道不是怎么样都行吗?
: 想榨取显卡最后一滴算力的人,才需要N卡。
: 也正因为如此,我们对显卡阉割行为,是深恶痛疾的。
: ...................
--
FROM 221.216.140.*
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版