如果你用过聊天机器人，事后却发现它信誓旦旦地给了你一个错误的事实，那么你已经领教过所谓的「AI 幻觉」了。在你放心把重要的事交给这些工具之前，这是最需要理解的事情之一。对于新加坡用户每天都会碰到的 AI 幻觉，好消息是：只要养成几个简单的习惯，你就能享受 AI 带来的便利，同时在它的错误造成任何伤害之前把它们抓出来。
什么是 AI 幻觉？
幻觉指的是 AI 工具生成了一些听起来正确、实际上却是错误或凭空捏造的信息。AI 并不是故意说谎，因为它并不像人那样「知道」事情。大多数聊天机器人的运作方式，是根据它们所训练的海量文本中的规律，来预测一句话中最可能出现的下一个词。这让它们非常擅长表现得流畅而自信，但也意味着它们可以顺畅地生成一些根本不真实的细节。
常见的例子包括：
- 编造看似可信的事实、日期或数据。
- 捏造从未存在过的引文、研究或新闻报道。
- 把一句话安到错误的人身上，或者干脆凭空编出一句引言。
- 把过时的信息当作最新的来提供。
- 反映训练数据中的偏见，使答案有所偏颇而不够平衡。
棘手之处在于那份自信。幻觉极少会附带警告。它以与正确答案一样平静、工整的语气呈现出来，这正是许多人上当的原因。
AI 为什么会编造内容？
记住这些工具实际在做什么会有帮助。它们是规律机器，而不是事实机器。当你提出问题时，AI 并不是去查阅一个经过验证的真理数据库，而是在拼凑一个在统计上像是好答案的回应。大多数时候，这已经足够接近、足够有用；有时它会跑偏，而且除非你本来就懂这个主题，否则这种偏差可能是看不见的。
某些情况会让幻觉更容易发生。非常具体的问题，比如确切的统计数字、精准的历史日期，或某个冷门本地话题的细节，风险更高，因为 AI 可能没有可靠的信息，却仍会把空缺填上。关于非常近期事件的问题也可能让它出错，因为工具可能没有最新的知识。如果你了解这些工具大体上的行为方式，就会更明智地看待它们的答案。我们关于在日常生活中使用 AI 聊天机器人的指南涵盖了更全面的图景。
如何核查 AI 的输出
你不必是研究员也能核查 AI 的答案，只需养成几个可靠的习惯。
- 把 AI 当作初稿，而不是最终答案。它是有待验证的起点，而不是定论。
- 把名字、数字和引言对照可信来源核对。对于新加坡相关的事务，那意味着官方政府网站、老牌新闻机构，或该机构本身。如果 AI 给出一个统计数据，去查它的出处。
- 对引用保持怀疑。如果聊天机器人列出了一项研究或文章，直接去搜索它。如果找不到，就假设它可能是编造的。
- 要求 AI 展示它的推理或来源，然后连那些也一并核实。不要仅仅因为 AI 点了名，就接受某个来源。
- 用第二个工具或普通的网络搜索交叉核对。如果两个独立来源一致，你就可以更有把握。
- 留意日期。对于任何会随时间变化的事物，比如价格、规定或营业时间，请以当前的官方页面为准确认。
最重要的是，切勿单靠 AI 来做医疗、法律或财务决定。用它来了解一个主题或准备问题，然后在行动之前向合格的专业人士咨询，或查阅官方来源。学会写出更清晰的提示词也能减少含糊、易出错的答案，我们的提示词写作基础指南可以在这方面帮到你。
关于隐私与诈骗的提醒
在你做事实核查的同时，还要记住另外两个风险。第一，不要为了核实某件事，就把敏感或个人数据粘贴到 AI 工具里，例如你的身份证号码（NRIC）、银行资料、Singpass 信息，或有关他人的私人信息。要假设你输入的任何内容都可能被保存。
第二，幻觉并不是 AI 误导你的唯一方式。骗子如今会用 AI 生成虚假却逼真的网站、信息，甚至克隆的语音。如果你收到意料之外的紧急要求，要你转账、分享一次性密码（OTP），或「验证」你的身份，无论看起来多么真实，都要非常小心。新加坡的银行和政府机构绝不会向你索取 OTP、密码或完整的银行登录信息。请通过 ScamShield 应用或求助热线，以及向警方举报可疑活动。想了解更多，请参阅我们关于识别深伪与 AI 诈骗的指南。
实用要点
AI 确实是个有用的帮手，但它是个自信的「猜测者」，而不是有保障的真理来源。幻觉是这些工具运作方式中固有的一部分，因此不会完全消失。解决办法不是回避 AI，而是睁大眼睛去用它。把每一个重要答案都当作有待核查的说法，把名字、数字和来源对照可信参考加以核实，并把重大决定留在人手中。做到这些，你就能获得 AI 的速度，而不至于被它凭空编造的部分所坑。