洗车店就在家门口 50 米，我问 AI 怎么去，它说"走过去"—— 为什么 AI 会集体翻车？

🎬 真实案例：一次翻车的对话

让我分享昨天和 AI 的一段对话：

听起来很合理，对吧？AI 给出了一个正确的答案。

但问题是：我问这个问题，是因为我想开车去。

我当时坐在车里，准备导航去 50 米外的洗车店。我问 AI 怎么去，期待它说：

但它告诉我走过去。

为什么 AI 在这么简单的问题上翻车了？

Part 1: AI "说"对了，但没"想"对

理解的幻觉

当 ChatGPT 告诉我"走过去"时，它并没有错。走 50 米是完全合理的建议 —— 如果你是个行人的话。

问题是：AI 没有理解上下文。

它看到了：

• 距离：50 米
• 问题："我怎么过去？"
• 模式：短距离 → 走路

它匹配了模式。但它错过了我问题背后的意图。

Part 2: LLM 的工作原理 —— Token 预测机器

AI 不是在"思考"，而是在"预测"

让我们理解当你和 ChatGPT、Claude 对话时，实际发生了什么。

AI 本质上是一个预测下一个词的机器。

以下是它如何处理你的问题：

这不是推理。这是模式匹配。

AI 看到的 vs. 你的意思

当你输入："洗车店距离我家 50 米，我怎么过去？"

你的意思：

• 我在车里
• 我需要开车去
• 我在问是否近到不需要导航

AI 看到的：

• 距离 = 50 米
• 问题词 = "怎么"
• 上下文 = 无

看到区别了吗？人类从意图推理。AI 匹配模式。

Part 3: 为什么 AI 缺乏"常识"

缺失的部分：物理世界模型

AI 读过数十亿个单词，但它从未：

• 坐过车
• 走过 50 米
• 见过洗车店

它没有物理世界的模型。

常识 = 物理世界 + 社会规范 + 隐含知识

1. 物理世界知识

✅ 人类知道：

• 如果你已经在车里，50 米也要用车
• 走路是给行人的
• 你不会下车走 50 米

❌ AI 不知道：

• 坐在车里是什么感觉
• 下车会很不方便
• 这个问题暗示"我在车里"

2. 社会规范

✅ 人类知道：

• 问"怎么去"一个 50 米的地方暗示特殊情况
• 正常人不需要帮助走 50 米
• 所以问题可能是关于开车

❌ AI 不知道：

• 问题的社会含义
• 什么是"显而易见"vs"需要问"

3. 隐含知识

✅ 人类推断：

• 问洗车店 → 可能在开车
• 已经知道位置 → 问的是导航
• 50 米对导航应用来说很尴尬

❌ AI 推断：

• 什么都不推断。只处理明确的文字。

Part 4: 更多翻车案例 —— 当模式匹配失败时

案例 1：草莓问题

为什么翻车： AI 不"看"字母。它看 token。"strawberry" 是一个 token，不是 10 个字母。

案例 2：反转文本问题

为什么困难： Token 级处理使字符操作变得困难。

案例 3：大小比较问题

为什么翻车： 模式匹配"更多数字 = 更大"，不理解小数。

案例 4：50 米洗车店（我们的案例）

模式：短距离 + "怎么过去" → 走路

Part 5: 这告诉我们什么

AI 是"学者综合症患者" —— 某些领域天才，其他方面无知

把 AI 想象成一个患有学者综合症的人 —— 在特定领域有非凡能力，但缺乏基本常识。

AI 的超能力：

• ✅ 写代码
• ✅ 翻译语言
• ✅ 总结文档
• ✅ 回答事实性问题
• ✅ 模式识别

AI 的盲区：

• ❌ 物理世界推理
• ❌ 上下文理解
• ❌ 常识判断
• ❌ 意图推断
• ❌ 具身体验

悖论：更多数据 ≠ 更多理解

OpenAI 用以下内容训练 GPT-4：

• 数十亿网页
• 书籍、论文、代码
• 对话

但它仍然不知道，当你已经在车里时，你不会走 50 米去洗车店。

为什么？因为知道 ≠ 理解。

Part 6: 如何与 AI 的局限性共处

给出明确的上下文

❌ 之前： "洗车店距离我家 50 米，我怎么过去？"

✅ 现在： "我现在在车里，洗车店距离我家 50 米。我需要导航吗？"

明确说明：

• 你的当前状态（我在车里）
• 你的意图（我想开车去）
• 你的实际问题（太近了需要导航吗？）

理解 AI 擅长什么

✅ 用 AI 来：

• 文本生成（写代码、文案）
• 模式识别（分类、总结）
• 知识检索（查找信息）
• 翻译

❌ 不要依赖 AI：

• 常识判断
• 物理推理
• 微妙的社交语境
• 意图理解

验证，不要盲目信任

当 AI 给你一个答案时，问问自己：

• 这在上下文中合理吗？
• 我提供了足够的信息吗？
• AI 只是在匹配模式吗？

AI 是工具，不是神谕。

总结：为什么 AI 在简单问题上翻车

一句话总结

AI 在模式匹配方面令人难以置信，但在常识方面很糟糕 —— 因为它从未体验过物理世界。

思考题

🎓 最后的思考

50 米洗车店问题不是一个 bug —— 这是一个特性。

它提醒我们，AI 是一个为模式匹配而构建的工具，而不是一个理解世界的心智。

当 AI 说：

那一天，AI 才有了常识。

我们还没到那一步。