- 主题:大内存咨询
最近在部署语言模型，家用电脑，请问内存对于AI学习来说有没有贡献？在4090瓶颈显存限制下，扩内存管用不
--
FROM 61.148.245.*
不管用
LLM 4090也跑不了，不做SFT就跑个demo除外
【 在 wen96101 的大作中提到: 】
: 最近在部署语言模型，家用电脑，请问内存对于AI学习来说有没有贡献？在4090瓶颈显存限制下，扩内存管用不
--
FROM 123.119.78.*
前几天看有人说做了AMD集成显卡的驱动。然后，我记得集成显卡是用的内存，这样，是不是就可以通过扩大内存的方式来跑AI了
--
FROM 1.202.248.*
4块4090，不如买个192G内存的mac studio
--
FROM 114.251.196.*
这个据说靠谱
【 在 zli07 (Anonymous) 的大作中提到: 】
: 4块4090，不如买个192G内存的mac studio
: --
:
:
--
FROM 61.148.243.*
不管用，带宽和延时差太多。
llm是大厂玩的，个人玩个小模型推理就算了。
我也刚配一台，7900x，32gx2-6000mhz-30cl，4090，硬件还没到齐。
【 在 wen96101 的大作中提到: 】
: 最近在部署语言模型，家用电脑，请问内存对于AI学习来说有没有贡献？在4090瓶颈显存限制下，扩内存管用不
: --
: 发自xsmth (iOS版)
: --
:
--
FROM 223.104.77.*
最近内存便宜，整了两条，感觉还行
【 在 flourish (水你个头啊) 的大作中提到: 】
: 不管用，带宽和延时差太多。
: llm是大厂玩的，个人玩个小模型推理就算了。
: 我也刚配一台，7900x，32gx2-6000mhz-30cl，4090，硬件还没到齐。
: 【 在 wen96101 的大作中提到: 】
--
FROM 125.34.21.*