水木社区手机版
- 主题:求个小主机 (转载)
- 木有认识的 哭
【 在 LYMing1986 的大作中提到: 】
: 有简单方案
: 找个会的 师兄/师姐/师弟
: 一顿大餐请帮忙
: ...................
--来自微微水木3.5.17
--
FROM 106.121.70.* - 稳拿
【 在 ArchLinux 的大作中提到: 】
: 上某电商看了下，128G 内存的 Mac Studio M4 Max 价格不到 30000. 需要跑更大的模型的话可以考虑 512G 内存的 M3 Ultra, 价格不到 80000. Mac Studio 也符合小主机的定义。
:
: 【 在 trabalhar 的大作中提到: 】
: ...................
--来自微微水木3.5.17
--
FROM 218.108.210.* - 买不起
【 在 xfsunnysm 的大作中提到: 】
: 最近出现的AMD395机器，什么“玲珑星核”或“极摩客EVO-X2”，都是1.4万上下。
:
: 【 在 trabalhar 的大作中提到: 】
: ...................
--来自微微水木3.5.17
--
FROM 106.121.166.* - 三千
【 在 ArchLinux 的大作中提到: 】
: 所以你还是需要确定你有多少预算。我觉得一个普通的主机配 1~2 张 16G 显存的显卡可能还是比较容易操作的方案，剩下的预算就堆内存。
: 显卡可以考虑 Intel Arc A770 或者摩尔线程的卡，当然了，软件适配要跟得上。
:
: ...................
--来自微微水木3.5.17
--
FROM 106.121.166.* - 【 在 ArchLinux 的大作中提到: 】
: 整机这个价钱的话的确买不到什么好机器了，不过可以先试着在你自己的机器上跑个更小的模型试一下，看看它的能力。
:
: 【 在 trabalhar 的大作中提到: 】
: ...................
--来自微微水木3.5.17
--
FROM 106.121.166.* - 这个咋样啊
【 在 trabalhar 的大作中提到: 】
: 【 在 ArchLinux 的大作中提到: 】
: : 整机这个价钱的话的确买不到什么好机器了，不过可以先试着在你自己的机器上跑个更小的模型试一下，看看它的能力。
: :
: ...................
--来自微微水木3.5.17
--
FROM 106.121.166.* - 是 没啥评测
【 在 ArchLinux 的大作中提到: 】
: 这个我不清楚，看规格还可以，但是我找不到相关的评测，不知道跑LLM推理性能怎样。
:
: 【 在 trabalhar 的大作中提到: 】
: ...................
--来自微微水木3.5.17
--
FROM 106.121.166.* - 非得扩展吗…我不想折腾那些…
【 在 misslost 的大作中提到: 】
: oculink接口都没有，没法扩展gpu，还是别考虑了。
:
: 【 在 trabalhar 的大作中提到: 】
: ...................
--来自微微水木3.5.17
--
FROM 106.121.166.* - 赞
【 在 ArchLinux 的大作中提到: 】
: 不过对我来说价格不贵，我可以买一个测一下。但是我对软件这块不熟，可能不太会用NPU，只能先测CPU+GPU这部分。
:
: 【 在 trabalhar 的大作中提到: 】
: ...................
--来自微微水木3.5.17
--
FROM 218.108.210.* - 淘宝的便宜一些 京东的贵
【 在 xfwd2004 的大作中提到: 】
:
: 可以参考
: 【 在 trabalhar 的大作中提到: 】
: ...................
--来自微微水木3.5.17
--
FROM 106.121.155.*