开发者DogukanUrker成功在单个RTX 3060显卡上运行了Ornith-1.5-35B模型。该模型拥有350亿参数，仅需12GB显存和16GB内存即可运行。配置细节已在帖子中展示。这一成就证明了通过优化技术，消费级硬件也能运行大规模语言模型，为边缘AI部署提供了新的可能性。🔗 原文链接：https://x.com/DogukanUrker/status/2090102741141950791
© 版权声明
文章版权归作者所有，未经允许请勿转载。
THE END
喜欢就支持一下吧
