水木社区手机版
首页
|版面-人工智能(AI)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
主题:Re: 弱弱的问:本地跑大模型的差别
TinyHuang
|
2025-01-10 22:00:13
|
如果需求只是在16g显存加持下跑一下本地大模型,当本地工具来使用,避免敏感数据外泄,是不是买A卡就够了?
多花钱买N卡对比买A卡获得的增益是什么?
【 在 zszqzzzf 的大作中提到: 】
: N卡支持一种本地化的操作,大致是把通用指令翻译成N卡优化指令,效果是能让大规模计算加速。
: 要实现这些,需要程序员干活。
:
--
FROM 221.216.140.*
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版