- 主题:大文档解读的会话是长期保存的么?
kimi和智谱这种可以大文档解读的。他的会话是长时间保存的么?比如我昨天上传了一个大文档,和他聊了一会儿。过几天又接着这个会话问其他问题。这个会话它是在后台一致保存的么?还是过几天之后重新读入这个大文档?哪位了解?
--
FROM 111.196.132.*
模型是死的,训练出来就那样了,不会因为新的推理而学会新的内容
至于session,那是模型之外的系统,就是个普通的数据库,存不存存多久取决于这个系统的实现
【 在 chunhui 的大作中提到: 】
: kimi和智谱这种可以大文档解读的。他的会话是长时间保存的么?比如我昨天上传了一个大文档,和他聊了一会儿。过几天又接着这个会话问其他问题。这个会话它是在后台一致保存的么?还是过几天之后重新读入这个大文档?哪位了解?
--
FROM 115.171.245.*
你没明白我的意思。我说的就是这个session明天再继续的时候,它要不要重新load文档。
【 在 jimmycmh 的大作中提到: 】
: 模型是死的,训练出来就那样了,不会因为新的推理而学会新的内容
: 至于session,那是模型之外的系统,就是个普通的数据库,存不存存多久取决于这个系统的实现
--
FROM 111.196.132.*
你这问题让人没法回答
load是指哪个过程?从磁盘到内存?内存到显存?
这些都是session系统决定的。也许就是每次从数据库里读,也许就是从缓存里读,也许缓存里没有还得从数据库读。但肯定是从模型之外的地方取出来喂给模型
【 在 chunhui 的大作中提到: 】
: 你没明白我的意思。我说的就是这个session明天再继续的时候,它要不要重新load文档。
--
FROM 115.171.245.*
多谢。
【 在 jimmycmh 的大作中提到: 】
: 你这问题让人没法回答
: load是指哪个过程?从磁盘到内存?内存到显存?
: 这些都是session系统决定的。也许就是每次从数据库里读,也许就是从缓存里读,也许缓存里没有还得从数据库读。但肯定是从模型之外的地方取出来喂给模型
: ...................
--
FROM 111.196.132.*