- 主题:各位大佬，用 mac mini m4 上搭14b 的模型做私有知识库 是不是
有市场需求吗
--
FROM 36.98.36.*
14b能干啥？
【 在 ChatGPT 的大作中提到: 】
: 有市场需求吗
--
FROM 111.196.128.*
可以的
--
FROM 124.79.118.*
我在自己的MacBook上部署了14B版本，感觉没法用啊。
【 在 ChatGPT 的大作中提到: 】
: 有市场需求吗
--
FROM 223.101.86.*
我本地部署了14B的，然后用crewAI去调用，跑一次有点慢1分钟吧，不过我也不要求响应那么及时
我是M4, 32G的MacBook
【 在 booble 的大作中提到: 】
: 我在自己的MacBook上部署了14B版本，感觉没法用啊。
:
--
FROM 221.223.194.*
我的是M3，18GB内存，用的是ollama部署和运行的。
运行的时候速度很慢，生成的文本里中英文混杂基本不可用。
【 在 jornnyR 的大作中提到: 】
: 我本地部署了14B的，然后用crewAI去调用，跑一次有点慢1分钟吧，不过我也不要求响应那么及时
: 我是M4, 32G的MacBook
--
FROM 223.101.86.*
我19年的i9，32G也部署了14B，时间要长点，2分钟甚至更长
【 在 jornnyR 的大作中提到: 】
: 我本地部署了14B的，然后用crewAI去调用，跑一次有点慢1分钟吧，不过我也不要求响应那么及时
: 我是M4, 32G的MacBook
--
FROM 39.144.40.*
我家里自己mac电脑inter i7, 16G,只敢跑8b, 时间长，效果也一般
【 在 booble 的大作中提到: 】
: 我的是M3，18GB内存，用的是ollama部署和运行的。
: 运行的时候速度很慢，生成的文本里中英文混杂基本不可用。
:
--
FROM 103.91.178.*
我自己的21年的i7, 16G部署8B， 也要跑2分钟
【 在 iampeng 的大作中提到: 】
: 我19年的i9，32G也部署了14B，时间要长点，2分钟甚至更长
--
FROM 103.91.178.*
crewAI是啥？rag程序？
【 在 jornnyR 的大作中提到: 】
: 我本地部署了14B的，然后用crewAI去调用，跑一次有点慢1分钟吧，不过我也不要求响应那么及时
: 我是M4, 32G的MacBook
--
FROM 221.198.65.*