水木社区手机版
首页
|版面-人工智能(AI)|
新版wap站已上线
返回
1/1
|
转到
主题:现在本地部署的代码辅助ai效果怎么样了?
楼主
|
chunhui
|
2023-11-02 10:32:55
|
展开
各位有实际使用的么?给介绍一下啊。早上看到新闻介绍说北大的:
https://mp.weixin.qq.com/s/c0pX6JV15kVxcRnHAwgr2g
如果好使,那本地部署一个还是挺好挺好的。
--
FROM 117.133.52.*
2楼
|
chunhui
|
2023-11-02 14:35:19
|
展开
防泄漏。
【 在 Xjt 的大作中提到: 】
: 除非你根据自己的代码、表结构、业务做fine-tune,否则本地部署的意义是什么?
--
FROM 117.133.52.*
14楼
|
chunhui
|
2023-11-03 10:06:57
|
展开
没打算自己装,只是想了解一下本地部署的效果如何。
【 在 tgfbeta 的大作中提到: 】
: 去github 下载最新llama.cpp
: 然后去huggingface 下载the bloke下面的gguf权重
--
FROM 117.133.52.*
16楼
|
chunhui
|
2023-11-03 17:17:34
|
展开
我没带显卡的机器,只有一个公司的笔记本和mac mini。
【 在 tgfbeta 的大作中提到: 】
: 你试试不就了解了
: 反正花不了几个小时如果你网够快的话
--
FROM 117.133.52.*
18楼
|
chunhui
|
2023-11-03 17:20:52
|
展开
这个不是关键。关键是想指定本地执行的效果。
【 在 updatedq 的大作中提到: 】
: 防数据泄漏还是代码泄漏?
: 数据部分剥离不行吗?
--
FROM 117.133.52.*
21楼
|
chunhui
|
2023-11-03 17:55:02
|
展开
所以想先打听一下。使用效果,否则不是白试了么。
【 在 updatedq 的大作中提到: 】
: 哈哈,如果保密的部分剥离了,这个就没有必要考虑了,缺点很明显
: 你部署一个试试呗
--
FROM 117.133.52.*
22楼
|
chunhui
|
2023-11-03 17:55:49
|
展开
机器太烂。担心白瞎功夫。
【 在 tgfbeta 的大作中提到: 】
: cpu加内存也可以凑合
--
FROM 117.133.52.*
1/1
|
转到
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版