- 主题:终于让我的LLM干了点本地翻译之外的事
你用什么搭的？ollama？
【 在 poocp 的大作中提到: 】
: 现在让本地大模型帮我写git commit的总结了，觉得它的还不错就直接提交，不全面就自己写几个字把它的改动改动，总之省了不少脑细胞。
: --
:
发自「今日水木 on iPhone 15」
--
FROM 171.222.187.*
【 在 poocp 的大作中提到: 】
: LM Studio，我不爱用ollama那么丑陋的软件。
:
请教你本地硬件是些啥配置？能跑多大的模型？
另外，你怎么做的RAG
--
FROM 220.167.79.*
【 在 poocp 的大作中提到: 】
: 就我用的这台电脑，RTX 4090显存24GB，i7 12700K 128GB RAM
: 我没弄RAG。
:
这配置最大能跑哪个模型？235B能流畅跑吗？
--
FROM 61.157.76.*