- 主题:怎么低成本搞一台能满血R1的洋垃圾
哈哈
--
FROM 58.246.240.*
放弃这种想法
【 在 wangstone 的大作中提到: 】
: 哈哈
--
FROM 183.62.57.*
垃圾佬没戏的
【 在 wangstone 的大作中提到: 】
: 哈哈
--
FROM 114.253.33.*
4090只能14B，再往上成本有点高了
【 在 forthehorde 的大作中提到: 】
: 放弃这种想法
--
FROM 58.246.240.*
放弃这种想法
或者cpu推理
--
FROM 115.171.216.*
确实基本不行，只能等技术进步
【 在 LYMing1986 的大作中提到: 】
: 放弃这种想法
: 或者cpu推理
--
FROM 124.79.118.*
671b原版模型最小也是Q4_K_M
8卡4090 48G都不够，单机多消费级显卡没戏
--
FROM 115.171.216.*
mac可能是一条出路
【 在 wangstone (王二) 的大作中提到: 】
: 哈哈
: --
:
:
--
FROM 113.235.217.*
现在看MAC成本最低，因为显存和内存共用
30000多的机器能跑70B
【 在 mindcontrol 的大作中提到: 】
: mac可能是一条出路
--
FROM 58.246.240.*
主要吃显存，消费级显存小
4090也就比魔改2070强一点
【 在 LYMing1986 的大作中提到: 】
: 671b原版模型最小也是Q4_K_M
: 8卡4090 48G都不够，单机多消费级显卡没戏
--
FROM 58.246.240.*