目前有什么可以本地部署的大模型推荐?_安徽省滁州市滁州经济技术开发区尽护清洁用具有限合伙企业
联系人：
手机：
E-mail：
地址：
目前有什么可以本地部署的大模型推荐?
发布时间：2025-06-22 05:40:10 人气：
这里推荐一个本地微调大模型的框架。
ZO2，一个仅用18G显存就能全参微调175B大模型的框架（当然也支持微调小一些的模型）。
更新：现在ZO2支持Qwen3啦，全参微调32B的版本只需要6GB显存。
Code： ***s://github***/liangyuwang/zo2 Paper： ***s://arxiv.org/abs/2503.12668。
相关新闻
- 为什么福州吸引不了人才？ 福州有家公司据说有点小名气，叫网龙。 在毕业季的时候看到我的...
- 冬天也要穿胸罩吗? 坦白局…你们的冬天真的都不穿内衣啊？是这样的，今天不小心碰到...
- Rust、Go、Zig、Dart、C3、C++、C，仓颉、moonbit、凹语言哪个语言更有未来？ Rust 必须是 Rust，有稳定版，内存安全，语法不那么混...
- 特厨隋坡探店成都快餐店，给出80分以上的高分，为什么评分远高于大饭店？ 成都本地人。 因为王刚 @美食作家王刚 探过店，我也去枣阁...
- 为什么全世界无一人能实现新mac直接全功能稳定装Win 11 arm，或PC直接装macOS arm？ 各方互设关卡互不相让的结果。 不说苹果，就是Windows...
- 蜂鸟音乐指控邓紫棋侵权，要求 48 小时内下架重录歌曲，邓紫棋回应「不会下架」，这一指控合理吗？ 邓紫棋这么多年不出手，虽然蜂鸟拿她赚了几个亿却只给了46万分...
客服