- 主题:llama.cpp全面支持Apple Silicon
感觉除了openai的，其他的还是玩具属性大点
【 在 chunhui 的大作中提到: 】
: 这个生成代码的效果怎么样？可用么？如果可以的话，有必要弄一个可以跑起来的笔记本在本地用。
--
FROM 114.249.194.*
我自己试过GPT4All，里面的13B模型看评分的话很接近ChatGPT3.5的分数
但实际效果很差，主要是不支持用GPU跑
我的12700K跑起来很费劲，送进prompt风扇立马飚
返回的结果我个人觉得还不能和ChatGPT3.5比
【 在 chunhui 的大作中提到: 】
: 多谢 那看来还没办法本地部署实用起来
: :
--
FROM 114.249.194.*
过一阵我再折腾折腾
看看ChatGLM那套行不行
【 在 chunhui 的大作中提到: 】
: 那我不折腾了。如果能达到可用水准,宁可买个高配电脑部署一个本地的。
--
FROM 114.249.194.*
嗯
ChatGLM在B站开教程了
我还没看，忙完手头的demo就去研究
【 在 chunhui 的大作中提到: 】
: 赞，如果好使，希望说一声。
--
FROM 114.249.194.*
ChatGPT生成的code也是bug啊
还是过时的，有些在剧烈演进中的工具比如LangChain
ChatGPT根本就没有任何结果
感兴趣的话可以用New Bing，背后是ChatGPT4的model+Bing index后的结果
好很多
但是还是很多bug，还是需要把任务分解让它去完成
实际上应用的话，还是需要学习很多prompt engineering技巧
实践摸索中，大家共同学习吧
【 在 Xjt 的大作中提到: 】
: 我买了GitHub Copilot X包年版，没有一次生成代码是没bug的。很烂。
: 但是Chat功能很好用。尤其对于在国内不方便用ChatGPT的情况下。打开VS Code就可以不用魔法也能问各种技术问题了
--
FROM 114.249.194.*
New Bing用的是ChatGPT 4.0 model
目前还不会有比New Bing更强的
ChatGPT也很不稳定，胡说八道是常见的现象
这个用的好，还是要注重prompt如何运用
你说的monica我也试试
我猜是基于3.5的吧？
【 在 Xjt 的大作中提到: 】
: New Bing我用过了。它的search index的机制很不稳定，导致搜索到的东西和它嘴里说的东西会差距很大，经常各种乱说
: 我感觉可能还得靠OpenAI推出更有价值的工具，不知道Github Copilot未来是否会升级。
: 另外OpenAI推出的Chrome插件Monica是可以付费后享受ChatGPT+实时Search的功能的，我理解应该比免费的New Bing强。但我没付费，不知道具体咋样。
--
FROM 114.249.194.*
你说是小参数的4.0 model?
【 在 Xjt 的大作中提到: 】
: 没错，Monica是3.5的，也有4但很贵不实用。
: New Bing不是号称是剪枝后的GPT4嘛？剪枝后，感觉不靠谱很正常吧
--
FROM 114.249.194.*