Qwen3有搞头啊。Qwen3...

Qwen3有搞头啊。
Qwen3 30B那个MoE的模型，4比特量化，在3060 12G的机器上也可以跑，速度还可以，7.39token每秒呢。
日常够用了，以前QwQ 32B的，3060 12G根本跑不动的。