什么是AI幻觉？它会为社会带来怎样的影响？

所谓AI幻觉，指的是由AI所产出的内容与物理世界存在逻辑相违背的地方，是AI单纯根据训练内容推演出来的产物。这些内容往往相对怪诞，与常识相违背，类似人类的幻觉。

目前，生成式AI所产出的内容，已经能够在极大程度上模拟的人类的创作，AI的创作痕迹正在逐步减弱。这种学习速度无疑是惊人的，但这种学习方式只是基于经验判断，而不是来自底层逻辑。就像人类知道自己正常情况下一只手只有5根手指，但AI无法理解，为什么不能是4根或者6根呢？

基于经验判断会存在一个极大的认知漏洞，那便是无法轻易进行认知转移，在下次碰到类似问题时难以做出正确判断。当前，由于人类对于AI的信任度有限，且作品本身也有较重的AI创作痕迹，让我们得以与人类的创作得以分别。

可一旦社会对AI的接受度逐渐提高，其作品的完成度更高，也许我们就会放松对它警戒，无法察觉其中存在的错误。届时，也许人类就会生存在一个由AI认知所创造的世界中；对于物理世界的底层逻辑，也会因此改变。

AI在这些方面的缺陷源自于设计，其本身并没有对错之分。但在人类的视角中，这也许会成为潜在的滥用对象。别有用心之人可能会利用AI所产出的错误内容以假乱真，发布虚假消息，造成社会恐慌，对舆论进行操控。

当然，通过对AI输出内容进行标注，也许能在一定程度上帮助我们主动鉴别作品的出处。并且，这些“幻觉”本身也存在着对认知拓展的可能性，让人类产生新奇的感官体验。但不论如何，加强对AI创作内容合法化的引导，做好对潜在风险的预警，仍旧是当前阶段需要注意的问题。