Chat 模型微调完全指南
通过微调可以让 Chat 模型在特定任务上表现更好。本文介绍完整的微调流程。
微调 vs 提示工程
| 方法 | 优点 | 缺点 |
|---|---|---|
| 提示工程 | 快速、灵活 | 成本高、不稳定 |
| 微调 | 稳定、成本低 | 需要数据、训练时间长 |
完整流程
- 准备训练数据(JSONL 格式)
- 验证数据质量
- 上传到 OpenAI
- 启动微调任务
- 评估模型效果
- 部署和使用
数据格式
import jsondata = { “messages”: [ {“role”: “user”, “content”: “你好”}, {“role”: “assistant”, “content”: “您好!有什么可以帮助您的吗?”} ] }
with open(“training_data.jsonl”, “w”) as f: f.write(json.dumps(data) + “\n”)