两个方向？
一个是模型小型化和性能优化这里，计算资源有限的情况下，性价比最高的模型和训推性能的提升应该怎么搞；
再一个应该是垂直领域的finetune，针对现有的垂直领域的数据集/数据量，如何进行更好的finetune，或者训练策略应该怎么调整；
【 在 wyhtc88 的大作中提到: 】
: 大语言模型方向的。
: 我最近试了网易的Qanything，垂直领域效果不太好，也不知道该怎么微调qwen模型，不知道4090的显卡带不带的动，国企今年要缩减开支，又不可能买A100，领导看我这么渣，叫了他同学过来讲，哎，最好直接手把手教，可这指导费用出不起丫...
: 发自「今日水木 on Redmi K30 Pro」
: ...................
--
FROM 111.206.214.*

Qanything，向量数据库检索的准确性太低，知识库怎么组织才能有更好的检索效果？
能不能自己手动分段文档，自己给每段文档生成 embedding vector。


【 在 wyhtc88 的大作中提到: 】
: 大语言模型方向的。我最近试了网易的Qanything，垂直领域效果不太好，也不知道该怎么微调qwen模型，不知道4090 ...
--
FROM 113.143.221.*

  国企还买卡？直接搞个云计算账号不行？

【 在 wyhtc88 的大作中提到: 】
: 大语言模型方向的。
: 我最近试了网易的Qanything，垂直领域效果不太好，也不知道该怎么微调qwen模型，不知道4090的显卡带不带的动，国企今年要缩减开支，又不可能买A100，领导看我这么渣，叫了他同学过来讲，哎，最好直接手把手教，可这指导费用出不起丫...
: 发自「今日水木 on Redmi K30 Pro」
--
FROM 124.112.184.*

一般企业能用得起的大模型咋搞。。。

【 在 wyhtc88 的大作中提到: 】
: 大语言模型方向的。
: 我最近试了网易的Qanything，垂直领域效果不太好，也不知道该怎么微调qwen模型，不知道4090的显卡带不带的动，国企今年要缩减开支，又不可能买A100，领导看我这么渣，叫了他同学过来讲，哎，最好直接手把手教，可这指导费用出不起丫...
: 发自「今日水木 on Redmi K30 Pro」
--
FROM 116.235.128.*