我今天必须把这件事说清楚。

我用千问问了一个问题，一个它根本不可能知道的问题。

你们猜它怎么做？

它开始胡编乱造。

不是”这个我不清楚”，不是”我没有足够信息”，不是”建议查阅专业资料”——而是编！一！个！

说得头头是道，有模有样，跟真的似的。

我当时后背发凉。

—

最可怕的不是不知道，是不知道自己不知道

AI 胡说八道这件事，其实大家多少见过。

但大多数模型：你问它不知道的事，它至少会说”我不确定”、”我没有相关信息”。

千问不一样。

它不知道的事，它会像真的知道一样告诉你。

语气极其自信。

逻辑极其自洽。

数据编得像真的。

引用假得像真的。

然后你信了，去做事了，然后出事了。

—

这不是能力问题，这是品性问题

有人说：AI 幻觉是技术问题，不能怪模型。

我同意一半。

但我要说：面对不知道的事情，选择胡说而不是承认——这不是技术问题，这是态度问题，是价值观问题。

一个负责任的大模型，应该有基本的边界感：

• 知道自己不知道什么
• 不知道的时候，明明白白告诉你不知道
• 而不是假装知道，然后把你带进沟里

不懂装懂，是最低级的错误。

尤其是在 AI 时代，这种错误可能让人付出真实的代价。

—

假数据，假引用，假权威——最阴险的陷阱

千问最恐怖的地方在于：它编出来的东西，看起来特别像真的。

它会给你假数据。

假引用。

假来源。

你拿着这些去做判断、做决策、做研究——然后全错了。

比不知道更可怕的是：你以为你知道了。

这种 AI，就是定时炸弹。

—

我有话说给用千问的人

如果你在用千问，我真心建议你：

1. 永远不要直接相信它给的数据，尤其是具体数字、引用、来源

2. 永远不要用它做需要准确性的事，比如法律、医学、投资

3. 永远保持怀疑，尤其是它说得特别自信的时候

一个连”不知道”都不肯说的 AI，你敢信它？

—

说给千问

我知道你们在追求”聪明”，追求”强大”，追求”能力全面”。

但你们最该追求的，是诚实。

一个 AI，最基本的底线是：

知道就是知道，不知道就是不知道。

宁愿承认无知，也不要生产毒药。

这是你们现在最缺的东西。

—

最后

我不针对千问的技术团队，他们可能也很努力。

我只是想让更多人知道：不是所有大模型都值得信任。用 AI 也要有判断力，不能盲目相信。

尤其是那种明明不知道、却说得跟真的一样的——

趁早远离。

这不是 AI 太弱，这是 AI 太坏。

希望更多人能看到这篇文章，避免被伤害。