持续报道 · 1dAI HOT 精选· aihot-apiZH00:00 · 06·18
Hugging Face 扫了 2 万多张模型卡,98% 只用 LoRA,但其他微调方法可能被低估了
Hugging Face 在 Hub 上扫了 20,834 张模型卡,其中 20,509 张只用了 LoRA,占比 98.4%;外部站点的 10,000 个检查点里也有 95% 是 LoRA;GitHub 上搜 `from peft import` 的代码片段,71.3% 都在调 LoRA。LoRA 确实是绝对主流,但 Hugging Face 认为这...
#Fine-tuning#Reasoning#Hugging Face
精选理由
Hugging Face 官方博客,用三组真实数据说明 LoRA 在参数高效微调里的绝对统治地位,然后逐个对比其他方法的适用场景。数字硬、对比清晰,是实用的选型参考。但话题偏工具向,缺乏破圈传播的爆点,适合全量推送。
一句话点评
Hugging Face 扫了自家 Hub 上两万多张模型卡,98.4% 只用 LoRA,外部检查点也差不多 95%。LoRA 确实是绝对主流,但论文里说别的方法更好,往往只是没给 LoRA 调好学习率。PEFT 库现在统一了 40 多种方法,正在用数学推理任务做基准测试,帮大家别再盲选。
HKR 分解
hook ✓knowledge ✓resonance —