应用场景是啥？想不出家用为什么需要这么多cpu

【 在 LYMing1986 的大作中提到: 】
: 可以用，我就刚买了一套，不过你这卖家血赚1k以上
: 要知道，上面这cpu80一颗，主板300一个，内存180元一条32g
: 电源100元就能巨龙1200w
: ...................
--
FROM 112.64.60.*

起了个PVE，上面现在仨系统：ubuntu 22.04、winserver 2016、群晖DS918 6.22

ubuntu 跑一些常用的docker（其实群晖也能跑，但既然咱们都pve了。。），部署一些开源服务，很多服务必须linux
比如一个lmdeploy，运行了个9b的本地llm模型，作为全家各种服务的llm模型server
winserver 运行一些windows client
群晖维持一些常用的文件、影音服务

【 在 teleheart 的大作中提到: 】
: 应用场景是啥？想不出家用为什么需要这么多cpu
:
--
修改:LYMing1986 FROM 120.244.234.*
FROM 120.244.234.*

需要微信客户端，python控制
这个只有win的微信客户端比较好使，web的和平板的都不好使（或者要付费）

群晖没有build essential，我没找到，很多代码没法编译
而且nas缺库

讲道理，nas才是最不必须的，只是因为群晖做的很成熟了，直接拿来用省事

【 在 teleheart 的大作中提到: 】
: 不太懂，感觉这说的都是系统配置。从功能方面好像都是NAS能解决的功能，比如影音服务器，文件共享，下载，还有啥？
:
--
修改:LYMing1986 FROM 120.244.234.*
FROM 120.244.234.*

lmdeploy 这个有内置道德限制吗，这不回答那不回答的

【 在 LYMing1986 的大作中提到: 】
: 起了个PVE，上面现在仨系统：ubuntu 22.04、winserver 2016、群晖DS918 6.22
: ubuntu 跑一些常用的docker（其实群晖也能跑，但既然咱们都pve了。。），部署一些开源服务，很多服务必须linux
: 比如一个lmdeploy，运行了个9b的本地llm模型，作为全家各种服务的llm模型server
: ...................
--
FROM 101.24.94.*

道德限制可以做个对齐的微调嘛
也可以做个过滤检查的服务/小模型
这就是工程问题了

而且这只是个chat的基础服务

其他应用调用他，还可以额外调别的，拼起来才是完整业务嘛
【 在 ZHMZFFL 的大作中提到: 】
: lmdeploy 这个有内置道德限制吗，这不回答那不回答的
:
--
修改:LYMing1986 FROM 120.244.234.*
FROM 120.244.234.*