- 主题:llama.cpp全面支持Apple Silicon
多谢 那看来还没办法本地部署实用起来
【 在 omelet 的大作中提到: 】
: 感觉除了openai的,其他的还是玩具属性大点
:
--
FROM 114.254.3.*
我自己试过GPT4All,里面的13B模型看评分的话很接近ChatGPT3.5的分数
但实际效果很差,主要是不支持用GPU跑
我的12700K跑起来很费劲,送进prompt风扇立马飚
返回的结果我个人觉得还不能和ChatGPT3.5比
【 在 chunhui 的大作中提到: 】
: 多谢 那看来还没办法本地部署实用起来
: :
--
FROM 114.249.194.*
那我不折腾了。如果能达到可用水准,宁可买个高配电脑部署一个本地的。
【 在 omelet 的大作中提到: 】
: 我自己试过GPT4All,里面的13B模型看评分的话很接近ChatGPT3.5的分数
: 但实际效果很差,主要是不支持用GPU跑
: 我的12700K跑起来很费劲,送进prompt风扇立马飚
: ...................
--
FROM 117.133.52.*
过一阵我再折腾折腾
看看ChatGLM那套行不行
【 在 chunhui 的大作中提到: 】
: 那我不折腾了。如果能达到可用水准,宁可买个高配电脑部署一个本地的。
--
FROM 114.249.194.*
赞,如果好使,希望说一声。
【 在 omelet 的大作中提到: 】
: 过一阵我再折腾折腾
: 看看ChatGLM那套行不行
--
FROM 117.133.52.*
我买了GitHub Copilot X包年版,没有一次生成代码是没bug的。很烂。
但是Chat功能很好用。尤其对于在国内不方便用ChatGPT的情况下。打开VS Code就可以不用魔法也能问各种技术问题了
【 在 omelet 的大作中提到: 】
: 感觉除了openai的,其他的还是玩具属性大点
:
--
FROM 220.243.154.*
嗯
ChatGLM在B站开教程了
我还没看,忙完手头的demo就去研究
【 在 chunhui 的大作中提到: 】
: 赞,如果好使,希望说一声。
--
FROM 114.249.194.*
ChatGPT生成的code也是bug啊
还是过时的,有些在剧烈演进中的工具比如LangChain
ChatGPT根本就没有任何结果
感兴趣的话可以用New Bing,背后是ChatGPT4的model+Bing index后的结果
好很多
但是还是很多bug,还是需要把任务分解让它去完成
实际上应用的话,还是需要学习很多prompt engineering技巧
实践摸索中,大家共同学习吧
【 在 Xjt 的大作中提到: 】
: 我买了GitHub Copilot X包年版,没有一次生成代码是没bug的。很烂。
: 但是Chat功能很好用。尤其对于在国内不方便用ChatGPT的情况下。打开VS Code就可以不用魔法也能问各种技术问题了
--
FROM 114.249.194.*
New Bing我用过了。它的search index的机制很不稳定,导致搜索到的东西和它嘴里说的东西会差距很大,经常各种乱说
我感觉可能还得靠OpenAI推出更有价值的工具,不知道Github Copilot未来是否会升级。
另外OpenAI推出的Chrome插件Monica是可以付费后享受ChatGPT+实时Search的功能的,我理解应该比免费的New Bing强。但我没付费,不知道具体咋样。
【 在 omelet 的大作中提到: 】
: ChatGPT生成的code也是bug啊
: 还是过时的,有些在剧烈演进中的工具比如LangChain
: ChatGPT根本就没有任何结果
: ...................
--
FROM 220.243.154.*