cpu+128g ram，动态分配96g显存，可以跑大模型。这个用于小型本地部署是不是一个经济实惠的方案？就是好像没几家大厂出产品，hp和几个小公司

发自「今日水木 on 23013RK75C」
--
FROM 223.104.41.*