- 主题:各位大佬，用 mac mini m4 上搭14b 的模型做私有知识库 是不是
我本地部署了14B的，然后用crewAI去调用，跑一次有点慢1分钟吧，不过我也不要求响应那么及时
我是M4, 32G的MacBook
【 在 booble 的大作中提到: 】
: 我在自己的MacBook上部署了14B版本，感觉没法用啊。
:
--
FROM 221.223.194.*
我家里自己mac电脑inter i7, 16G,只敢跑8b, 时间长，效果也一般
【 在 booble 的大作中提到: 】
: 我的是M3，18GB内存，用的是ollama部署和运行的。
: 运行的时候速度很慢，生成的文本里中英文混杂基本不可用。
:
--
FROM 103.91.178.*
我自己的21年的i7, 16G部署8B， 也要跑2分钟
【 在 iampeng 的大作中提到: 】
: 我19年的i9，32G也部署了14B，时间要长点，2分钟甚至更长
--
FROM 103.91.178.*
CrewAI 是一个专注于增强 AI 代理协作能力的框架，旨在通过角色定制、任务管理、团队协作和流程优化，创建高效的多代理系统。
我个人理解就是通过配置清晰的描述不同的Role和Task, 得到预期的输出
【 在 tgfbeta 的大作中提到: 】
: crewAI是啥？rag程序？
--
FROM 103.91.178.*