Re: 20 token / sec 能凑合用吗？

水木社区手机版

主题:Re: 20 token / sec 能凑合用吗？
楼主|wangstone|2025-02-06 12:28:38|只看此ID
20还行
--
FROM 58.246.240.*
1楼|x97|2025-02-08 11:12:54|只看此ID
嗯嗯，感谢，
发现网上7-8B 的模型都是免费的，从 14B 开始收费
这样看本地搭意义不大了，本地也就能跑个 8b 的

【在 wangstone 的大作中提到: 】
: 20还行
--
FROM 221.222.240.*
2楼|Xjt|2025-02-08 12:08:29|只看此ID
8b很纯，没啥用
【在 x97 的大作中提到: 】
: mac mini M2 8G
: 1.5b 100 tokens
: 8b 20 tokens
: ...................
--
FROM 202.47.106.*

BYR-Team©2010. KBS Dev-Team©2011 登录完整版