对话式 Agent 会产生幻觉吗？提示工程如何减少谬误？

当你的 AI 客服把“退款”说成“送你一台新手机”，问题出在哪？

上周，我帮一家跨境电商客户调试他们的自动客服 Agent。用户问：“订单没收到，能退款吗？”系统秒回：“亲，我们马上给您安排一台最新款手机！”——这不是慷慨，是典型的“AI幻觉”。更糟的是，这种错误在对话式 Agent 中高频发生，轻则闹笑话，重则引发客诉甚至法律风险。

Dr. n8n 提醒：幻觉（Hallucination）不是指AI发疯，而是模型“自信满满地胡说八道”。它源于训练数据偏差、上下文断裂或提示词模糊——就像让一个只背过菜谱的人去开餐厅，他可能会把“糖醋排骨”翻译成“用糖和醋腌泡的恐龙肋骨”。

为什么对话式 Agent 特别容易“说胡话”？

核心原因有三：

1. 上下文窗口太短：多数免费或入门级模型只能记住最近几轮对话。一旦用户追问细节，Agent 就像失忆症患者，凭空编造答案补全逻辑。
2. 提示词太“佛系”：很多开发者直接丢一句“请回答用户问题”，却不告诉AI“不能编造信息”“不确定时请反问”。这等于让实习生自己猜老板心思。
3. 缺乏事实锚点：纯语言模型没有实时数据库权限。当被问“我的订单状态？”时，它不会查系统，而是根据“常见回复模板”现编——这就是“幻觉”的温床。

实战：用提示工程给 AI 戴上“防胡说紧箍咒”

我在 n8n 工作流中搭建对话 Agent 时，总结出三层防御策略：

第一层：用“角色扮演+硬约束”框定行为边界

你是一名严谨的电商客服助手，必须遵守以下规则：
1. 仅使用知识库中的信息回答问题，禁止推测或编造
2. 若问题超出知识范围，回复：“我需要查询后为您解答，请稍等”
3. 涉及金额/时效等数字时，必须标注“以系统最终显示为准”

这就像给员工发《岗位说明书》，比空喊“认真工作”有效十倍。

第二层：动态注入事实片段（RAG 思维）

在 n8n 中，我会先用 HTTP Request 节点查询订单数据库，再把真实数据拼进提示词：

用户问题：{{ $json.query }}
当前订单状态：{{ $json.order.status }} (更新时间：{{ $json.order.update_time }})
请基于以上事实回复，禁止添加任何未提及的信息

相当于让AI“看着监控录像说话”，自然无从编造。

第三层：设置“安全词”触发人工接管

当检测到高风险关键词（如“赔偿”“法律”“投诉”），立即中断AI回复，转人工处理：

// n8n Function 节点示例
if (input.includes("赔偿") || input.includes("起诉")) {
  return { handover: true, reason: "触发法律关键词" };
}

这招救过我客户的命——曾有用户问“不退款我就起诉”，AI差点回“我们法务部周末不上班”，幸好被拦截。

终极心法：把 AI 当“实习生”，别当“CEO”

减少幻觉的本质，是承认AI的局限性。我常对客户说：“别指望它像人类一样理解世界，要把它当成戴着手铐脚镣的天才——能力很强，但每一步都要你设计护栏。”

下次当你看到AI胡言乱语时，先别骂模型，检查这三件事：

• 提示词是否明确禁止编造？
• 是否注入了实时数据？
• 是否有兜底的人工干预机制？

现在轮到你了：你在用对话式 Agent 时踩过哪些“幻觉坑”？在评论区分享你的血泪史，我会挑三个案例做深度拆解！