闲聊
聊聊 AI 幻觉的问题，你们怎么处理的
AI
踩坑无数的老胡AI
2026/3/9👁 362
想聊一个大家都踩过的坑：模型一本正经地说出错误的东西。
最近被坑的一次：让模型查一个 SDK 的 API 方法签名，它给出的方法名是真实存在的，但参数顺序写错了。因为大部分都对，我没仔细核实就直接用了，debug 花了半小时才发现。
总结了几个应对思路：
1. 高风险信息必须核实，尤其是具体的数字、方法签名、日期、引用来源，这些最容易出错
2. 让模型说明不确定的地方，prompt 里加一句"如果你不确定，请说明"，虽然不是 100% 有效，但能减少"自信地说错"的情况
3. 对于技术文档类查询，优先看官方文档，把 AI 的回答当初步参考而不是权威答案
4. 做有事实核查需求的任务时，让模型列出它的信息来源，没有来源的陈述要特别谨慎
大家还有什么好用的方法？
💬 5 回复
5 回复
被
被坑过多次的人2026/3/9#1API 方法签名这种坑太常见了，我现在的原则是：凡是会直接放进代码里运行的技术细节，必须去官方文档核实，不管模型说得多肯定。
推
推理链爱好者2026/3/9#2补充一个：让模型解释自己的推理过程，比直接要答案更容易发现错误。一旦它开始解释，逻辑漏洞就暴露出来了。
被
被数字坑过的人2026/3/9#3"对具体数字要核实"这条要加粗，模型在统计数字上错得特别离谱，而且说得一点都不像在猜。
工
工程化 prompt 的人2026/3/10#4我在 prompt 末尾加了"如果答案涉及具体数字、引用或者版本号，请注明来源或者加上不确定的说明"，确实减少了自信地说错的情况。
保
保持警惕的用户2026/3/11#5幻觉问题随着模型迭代在慢慢改善，但永远不会消失，所以"核实关键信息"这个习惯需要长期保持，不能因为模型变好了就放松。