刚刚试了本地跑Qwen3的30B MoE模型

水木社区手机版

主题:刚刚试了本地跑Qwen3的30B MoE模型
2楼|poocp|2025-04-29 17:56:24|展开
是的，速度慢，不适合用来做翻译了。我现在用Gemma 3 12B做网页自动翻译，速度比Qwen2.5 7B还快。现在这个Qwen3 8B居然还有思考过程了，更慢。
※ 修改:·poocp 于 Apr 29 18:01:54 2025 修改本文·[FROM: 171.213.158.*]
※ 来源:·水木社区 http://www.mysmth.net·[FROM: 171.213.158.*]

修改:poocp FROM 171.213.158.*
FROM 171.213.158.*
5楼|poocp|2025-04-30 12:02:37|展开
API调用默认就没开思考过程吧，不开也慢。

【在 ArchLinux 的大作中提到: 】
: Qwen3 的思考过程可以在 prompt 里面加 /no_think 关掉。
:
--
FROM 171.213.149.*

BYR-Team©2010. KBS Dev-Team©2011 登录完整版