安全研究员@SojalSec分享了在单个24GB显存的RTX 4090上本地运行Qwen 3.8 Flash Next 125B MoE模型的方法，支持250k超长上下文窗口。该方案通过优化显存占用和量化技术，突破了大模型对硬件的高门槛需求，使研究人员和开发者能够在消费级GPU上体验超大参数模型的能力。🔗 原文链接：https://x.com/0x0SojalSec/status/2092753946993684516
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
喜欢就支持一下吧
