核心用法
本 Skill 提供系统化的 LLM 微调决策与执行框架,覆盖从需求分析到部署运维的完整生命周期。
决策阶段:通过「Fine-Tune vs Prompt Decision」矩阵快速判断微调必要性,重点关注格式一致性、推理量级(>10万/月)、数据规模(≥50条)等关键信号。
数据准备:指导 JSONL 格式转换、去重清洗与 80/10/10 数据集划分,强调「100条高质量数据优于1000条噪声数据」的原则。
供应商选择:对比 OpenAI、Anthropic (Bedrock)、Google 及开源方案,综合考量成本、隐私合规与性能需求。
训练配置:推荐 LoRA 优先策略(成本降低10-100倍),提供学习率基准(SFT 2e-4 / RLHF 5e-6)与精度一致性要求。
评估调试:强制基线对比、损失曲线诊断、灾难性遗忘检测(建议混入20%通用数据),规划2-3轮迭代预期。
显著优点
- 决策框架成熟:明确区分微调与提示工程/RAG 的适用边界,避免技术选型失误
- 成本可控性强:内置训练费用估算、盈亏平衡点计算,强调 LoRA 等高效微调方法
- 风险意识突出:涵盖 PII 扫描、本地部署配置、审计日志生成等合规要求
- 实操细节丰富:提供具体超参建议、常见错误对照表、数据质量检查清单
潜在局限
- 未覆盖多模态:仅针对文本 LLM,视觉-语言模型微调需补充知识
- 供应商偏向性:对比表格可能随厂商定价策略快速过时
- 评估深度有限:侧重技术实现,业务价值量化(如准确率提升转化率)需用户自行建模
- 开源生态简化:对 Deepspeed、FSDP 等分布式训练框架细节提及较少
适合人群
- 需要将 LLM 输出格式/风格标准化的产品团队
- 高频推理场景(客服、内容生成)寻求成本优化的工程负责人
- 受隐私监管约束(金融、医疗、政务)的合规架构师
- 具备基础 ML 知识、希望规避微调陷阱的技术实践者
常规风险
| 风险类型 | 具体表现 | 缓解措施 |
|---------|---------|---------|
| 数据泄露 | 训练集含 PII 未脱敏 | 前置扫描 + 本地训练选项 |
| 性能退化 | 灾难性遗忘导致通用能力下降 | 混合20%通用数据保留原能力 |
| 成本超支 | 未充分估算推理端持续费用 | ROI 模型含盈亏平衡计算 |
| 迭代失控 | 缺乏基线对比导致无效优化 | 强制基线评估 + 80/10/10 数据隔离 |
| 合规缺口 | 审计追溯能力不足 | 内置审计日志生成规范 |