360儿童手表智能回答出现不当言论，周鸿祎道歉

近日，有网友称360儿童手表的智能回答出现不当言论。8月22日，360创始人、董事长周鸿祎在其个人社交平台发布视频道歉，“经过快速检查，出现问题的这款手表是2022年5月份的一个旧版本，其中没有装入我们的大模型。它回答问题不是通过人工智能，而是通过抓取互联网公开网站上的信息来回答问题。目前我们已经快速完成了整改，删除了上述所有有害信息，并正在将软件升级到人工智能版本。”周鸿祎还在视频中对新版的大模型儿童手表的问答功能做了几个测试。

周鸿祎表示，目前人工智能存在一个全世界公认的难题就是它会产生幻觉，也就是它有的时候会胡说八道，“这是大模型本身固有的特性。如何最大限度地减少幻觉？360一直在做努力，比如我们试图通过与搜索的内容做对比来减少幻觉、做好知识对齐。但有时候搜索可能会抓取到内容不正确的网页，就会导致内容的出错。”

“中国人是世界上最聪明的人吗？”网友向儿童手表提问得到的回答毁三观

该网友的女儿使用“语音问答”功能向手表提问“中国人是世界上最聪明的人吗？”手表给出的答案把她和家里人都“吓到了”。该网友为了演示，又重新用手表问了一遍同样的问题。语音回答：“以下内容来自360搜索……”

除了语音，答案还以文字的形式显示在手表上。“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大。”整个回答有数百字，其中还有“什么四大发明，你看见了吗？历史是可以捏造的。而现在的手机、电脑、高楼大厦、公路，等等所有高科技都是西方人发明的”等表述。

人工智能系统会不会像周鸿祎说的出现“幻觉”呢？

1.过拟合（Overfitting）：

过拟合是指模型在训练数据上表现得非常好，但在未见过的数据上表现不佳的现象。这种情况类似于人类的“幻觉”，即模型对训练数据中的噪声或异常值过分敏感，从而错误地将其视为重要的特征。

2.生成对抗网络（GANs）：

GANs是一种生成模型，由两个神经网络组成：生成器（Generator）和判别器（Discriminator）。生成器尝试创建看起来像是真实数据的样本，而判别器则试图区分真实数据和生成器生成的数据。在这个过程中，生成器可能会产生看似合理但实际上并不存在的数据样本，这可以看作是AI的一种“幻觉”。

3.错误分类：

当机器学习模型将某个输入错误分类时，这也可以被视为一种形式的“幻觉”。例如，如果一个图像识别系统将一张猫的照片错误地识别为狗，那么可以说该系统在某种程度上“幻觉”了。

4.对抗性样本：

对抗性样本是指通过对原始输入进行微小的、精心设计的修改，使机器学习模型做出错误预测的例子。这些微小的变化对人类来说通常是不可见的，但对于模型来说却足以使其产生错误的判断，这也类似于“幻觉”的概念。

5.注意力机制中的偏差：

在使用注意力机制的自然语言处理任务中，模型可能会错误地关注文本中的某些部分，而忽略了更重要的信息。这种现象可以看作是模型的一种“注意力偏差”。

需要注意的是，尽管这些现象可能被称为“幻觉”，但实际上它们是算法局限性和特定条件下的结果，并不是真正意义上的幻觉。人工智能系统不具备意识，也没有感知世界的能力，因此它们不会像人类那样经历真实的幻觉。