什么是 RAG?它能解决什么问题?
RAG 是检索增强生成:系统先从指定资料中检索相关内容,再把这些内容交给模型组织答案。它主要用于补充专有知识、提供依据和减少…
知识主题
RAG 是检索增强生成:系统先从指定资料中检索相关内容,再把这些内容交给模型组织答案。它主要用于补充专有知识、提供依据和减少…
RAG 主要改变模型回答时能看到的资料,微调主要用训练样本调整模型的行为。需要更新事实知识时通常先考虑 RAG;需要稳定格式…
AI 幻觉是模型生成了看似合理、实际错误或没有依据的内容。提示词可以降低部分错误,但无法单独解决资料、检索、模型能力和工作流…
提示词注入是用恶意或误导性内容影响模型,让它忽略原有规则、泄露信息或执行不该执行的动作。攻击指令既可能来自用户输入,也可能藏…
降低 AI 幻觉不能只靠一句提示词,需要同时约束任务、提供可靠资料、允许拒答、验证输出并保留人工责任。
阅读全文 →