128G的太贵了。我也只是好奇想试试。不是专门干这个的。不划算。
【 在 systemID 的大作中提到: 】
: 感觉最低配只能训练一些小模型，大的模型还是得依赖统一内存够大。再一个计算能力也不一定比得过同价位显卡。如果是128g顶配m4max,用来做llm本地推理倒是挺棒的，先不论速度怎么样，至少不会爆显存。毕竟相当于4块4090的显存。
--
FROM 117.133.52.*