自己部署硬件性能没大运营商的好，软件优化可能不够。过大的模型需要量化造成一些性能损失，system prompt这些细节可能会和官网的不一样。

【 在 mingtong 的大作中提到: 】
: 比如DeepSeek这种100%开源的LLM，自己本地托管，和它的网站上相比，
: 性能或者说完整度要打多少折扣？
: 是不是只有LLM开源了，RAG得自己搞？
: ...................
--
FROM 114.254.10.*