- 主题:对trt的启动的加速需求
目前trt是好,但是启动太慢。
如果可以对最近启动的数据进行缓存,从缓存里读取,而不是重新解码等等,应该可以去除这开始的一分多钟。
--
FROM 112.47.161.*
我没更新。
【 在 AlexandriaI 的大作中提到: 】
: 现在如何了?新版的Lizzie在这方面又改进吗
--
FROM 112.47.159.*
7k-9k/s
【 在 AlexandriaI 的大作中提到: 】
: 请问 3090跑TRT60b权重,空棋盘多少v/s?
--
FROM 112.47.159.*
要升级到111版。
110版慢。
【 在 AlexandriaI 的大作中提到: 】
: 不错哦
: 我家柴犬3080ti
: 19路空盘跑40b 2-5k
: ...................
--
FROM 112.47.159.*
katago111
【 在 AlexandriaI 的大作中提到: 】
: cuda吗?查了下,是当前是11.4.136
: [upload=1][/upload]
--
FROM 112.47.159.*
需要更新哪个?
【 在 AlexandriaI 的大作中提到: 】
: 启动速度慢的问题貌似已经解决了。
: 引擎首次加载初始化过程仍然要一两分钟,
: 从第二次开始就只要几秒钟了。
: ...................
--
FROM 112.47.159.*
嗯,下了一个lizzieyzy的大包,看来有新效果。
【 在 AlexandriaI 的大作中提到: 】
: 具体哪个母鸡,软件用了快一年了,周末整套大换血:nvidia的cudnn lizzie整合包 权重文件 都是重装的。
: 建议你不妨试下新的整合包,常用的权重加进去,配置文件线程数改一下就行了,很省事。然后看是否已经把加速需求解决了。
--
FROM 112.47.159.*
换成新版之后,空盘的速度降到了2k/s。
【 在 AlexandriaI 的大作中提到: 】
: 具体哪个母鸡,软件用了快一年了,周末整套大换血:nvidia的cudnn lizzie整合包 权重文件 都是重装的。
: 建议你不妨试下新的整合包,常用的权重加进去,配置文件线程数改一下就行了,很省事。然后看是否已经把加速需求解决了。
--
FROM 112.47.159.*
卡弱,在短时高频b40反而表现得好一些。
当把思考时间延长到30s,或引擎提升使得b60的搜索数足够抵消b40更多的搜索数之后,
b60才能表现出那多出来的100多分效能。
【 在 AlexandriaI 的大作中提到: 】
: 你那边,b40 vs b60 两个trt引擎 哪个表现强一些?
: 我机器上用2个引擎的最新版本对练,分别设置10s 20s 30s一步 搞了六七局。b60 负多胜少。
: 又用2021年8月的稳定版b40权重和两个今年的新权重pk (都是TensorRT),旧权重赢得很多。
: ...................
--
FROM 112.47.159.*
我怀疑最新版可能没有正确启动trt。
在trt下,几个月前,60b威力很大。
【 在 AlexandriaI 的大作中提到: 】
: 在我机器上是这样,都是TRT,PK了n局,多数时候去年的稳定版胜。
: 延长每步棋的计算时间,新权重的胜率并没有提高。
: 截至目前,去年的权重已经够用了。
: ...................
--
FROM 112.47.159.*