- 主题:本地部署一个“小”模型,能玩啥呢?
finetune 一下,搞个客服系统
【 在 chunhui 的大作中提到: 】
: 各位你们在本地部署了大模型的。都用来干啥? 我在想:别专门买个硬件。就用现有的,部署一个能跑起来的 小 点的模型。但不知道干啥。。。
--
FROM 111.197.239.*
很多公司都需要这东西。不过我自己玩用不到。小模型能弄客服么?我怎么觉着客服对
性能的要求挺高的。
【 在 superisaac 的大作中提到: 】
: finetune 一下,搞个客服系统
--
FROM 111.196.128.*
公司用的话,搞个好点的设备啊。现在能玩设备也不贵,比如哪个AMD CPU的minipc, 也就几千块钱。
【 在 chunhui 的大作中提到: 】
: 很多公司都需要这东西。不过我自己玩用不到。小模型能弄客服么?我怎么觉着客服对
: 性能的要求挺高的。
:
--
FROM 111.197.239.*
我是想自己弄。但不知道用来干啥。
【 在 superisaac 的大作中提到: 】
: 公司用的话,搞个好点的设备啊。现在能玩设备也不贵,比如哪个AMD CPU的minipc, 也就几千块钱。
--
FROM 111.196.128.*
可以用来预测股票,安装个大模型,再来个Time-LLM把时序数据转成文本消息。
【 在 chunhui 的大作中提到: 】
: 我是想自己弄。但不知道用来干啥。
:
--
FROM 111.197.239.*
之前说过这个问题。这需要实时数据才行。大模型内部的都是静态的。本地模型需要增
加爬数据的功能才可以。
【 在 superisaac 的大作中提到: 】
: 可以用来预测股票,安装个大模型,再来个Time-LLM把时序数据转成文本消息。
--
FROM 111.196.128.*
股票的python库也很多,自己写代码爬啊
【 在 chunhui 的大作中提到: 】
: 之前说过这个问题。这需要实时数据才行。大模型内部的都是静态的。本地模型需要增
: 加爬数据的功能才可以。
:
--
FROM 111.197.239.*
不是爬股票数据,这个自然是现成的。我说的是爬全网的信息。
【 在 superisaac 的大作中提到: 】
: 股票的python库也很多,自己写代码爬啊
--
FROM 111.196.128.*