水木社区手机版
首页
|版面-人工智能(AI)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
主题:Re: 弱弱的问:本地跑大模型的差别
zszqzzzf
|
2025-01-10 21:46:37
|
N卡支持一种本地化的操作,大致是把通用指令翻译成N卡优化指令,效果是能让大规模计算加速。
要实现这些,需要程序员干活。
【 在 TinyHuang 的大作中提到: 】
: 现在ollama都已经支持a卡来跑本地大模型了,同价位情况下a卡的显存也大
: 那么对于普通人而言,N卡在跑本地大模型方面会有什么样的优势吗?
: 比如当下买4060ti跑大模型对比买7800xt跑大模型会有什么不同么?
: ...................
--
FROM 112.47.224.*
上一篇
|
下一篇
|
同主题上篇
|
同主题下篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版