RAG 和模型微调有什么区别？
直接答案
RAG 主要改变模型回答时能看到的资料，微调主要用训练样本调整模型的行为。需要更新事实知识时通常先考虑 RAG；需要稳定格式、语气或任务表现时，才可能考虑微调。
RAG 和微调解决的问题不同。RAG 把资料留在外部知识库中，回答时按问题检索，因此文件更新后可以重新索引，不必重新训练模型。微调则用一批训练样本改变模型在特定任务上的输出倾向。
| 问题 | 更常见的选择 |
|---|---|
| 制度和产品资料经常更新 | RAG |
| 回答必须引用内部依据 | RAG |
| 输出格式需要长期稳定 | 微调或结构化输出 |
| 特定分类任务需要提高表现 | 先评估提示词，再考虑微调 |
两者也可以组合：用微调改善任务行为，用 RAG 提供当前事实。但系统越复杂，数据准备、评估、维护和排错成本越高。很多项目在清楚定义任务、整理示例和改进检索后，已经能达到可用水平，不必一开始就微调。
选择前先问三个问题
问题是“模型不知道最新资料”，还是“模型不会按要求完成任务”？资料多久变化一次？团队有没有可靠、合规且足够代表真实任务的训练样本？这三项决定了应该先改检索、提示词、工作流，还是进入微调。
参考来源
- Retrieval-augmented generation (RAG) in Azure AI Search Microsoft Learn
- Fine-tuning API reference OpenAI