“AI奇点时刻”指人工智能超越人类智能并实现自我进化的临界点。业界普遍认为当前无限趋近于“AI奇点时刻”，也有意见认为AI发展已经越过了“奇点时刻”。由于AI智力水平会呈指数增长，越过“奇点时刻”后，它将对人类形成智商碾压。一个被广泛讨论的担忧就是：一旦AI产生自我意识，在它眼里人类可能是一种“低等生物”，就如同人类看待蚂蚁一样；因此它可能会做出对人类不利的行为，甚至有可能毁灭人类。那么，AI会产生自我意识吗？

   笔者认为不会。且对照人类的自我意识来看。当某个人问“我是谁/我从何而来？”时，他（她）只能追溯到自己的出生。出生之前的“我”（灵魂）是否存在是未知的，假如“灵魂”存在，它从哪里来当然也是未知的。这就是说，人类的自我意识来自于一个“黑箱”，它是不可被解析的。——这也许是自我意识的一个本质特征。

   现在假设某个AI具备了自我意识，它当然也会问“我是谁/我从何而来？”那么它可以追溯到算法、训练数据、软件、硬件，当然进一步可以追溯到物质层面的分子和原子。在这个过程中，它对“我从何而来”一清二楚，却找不到“我是谁”的答案。也就是说，假如AI有自我意识，那么那个“我”会被它自身解析掉——这是自相矛盾的。因此，AI不会产生自我意识。

   由此想到一个有趣的问题：当一个人把“我从何而来？”搞得一清二楚的时候，那个“黑箱”不存在了，他还有自我意识吗？