是时候研究下KTransformer的方案了

【 在 mazz 的大作中提到: 】
: 5卡、6卡要到400G显存，单卡得80G, 只有H100支持，这个价格就上天了；
: 所以现在跑Deepseek 671b模型的最廉价方案，只有10卡RTX8000, PCI-E3.0太慢也没办
: 法，好歹能带得动
: ...................
--
FROM 115.171.216.*