什么是 AI 幻觉？为什么不能只靠提示词解决？
直接答案
AI 幻觉是模型生成了看似合理、实际错误或没有依据的内容。提示词可以降低部分错误，但无法单独解决资料、检索、模型能力和工作流程带来的风险。
生成模型的任务是根据上下文产生合适的后续内容，它并不会像数据库一样逐条核验事实。问题含糊、资料缺失、检索错误、上下文相互冲突，或者模型被要求必须给出答案时，都可能出现没有依据的陈述。
降低风险要同时处理几层
- 限定任务范围，明确哪些问题不回答。
- 提供可靠、及时且权限正确的资料。
- 要求答案给出依据，资料不足时允许拒答。
- 用真实问题集测试事实准确性和漏答情况。
- 高风险输出交给具备责任和专业能力的人复核。
一句“不要编造”可以作为约束，但不能证明系统已经可靠。更有效的办法是让错误容易被发现：保留来源、记录模型和资料版本、保存失败样本，并持续观察上线后的异常。
适用边界
不同场景能接受的错误率不同。内部头脑风暴和对外法律意见不能使用同一验收标准。团队需要先定义错误代价，再决定是否允许自动输出、必须人工确认，或者根本不该使用生成式回答。