AI从增强学习到深度学习，花了十年时间，在今时今日，人们对AI寄予了很大的期望，人们渴望有强大的超越人类智慧的AI出现。但我认为，AI存在着无法克服的悖论，而这个悖论的产生，是源自于我们人类本身。
AI悖论
悖论一：我们害怕AI不够聪明，我们同时害怕AI太过聪明。
悖论二：人类无法创造出超越本身智慧上限的事物。
两个悖论其实是一个悖论，前者是对AI的渴望和恐惧，而后者是我认为的AI上限问题。
假如我们创造的AI是一个超越人类智慧的存在，那么首先一个问题是，我们如何判断它超越了我们的智慧上限？我们作为人类缺乏识别超越我们智慧上限的智慧。比如AI输出了一串乱码，是更高的智慧的存在，但我们缺乏识别这串智慧乱码的能力，所以我们认为这是一串无意义的乱码。
从生物学上来说，不同进化等级的生物之间是无法理解的，我指的是跨度过大的生物进化等级，比如人类和蚂蚁。人类对于蚂蚁来说是更高等的存在，人类可以理解蚂蚁，但蚂蚁是否能够理解人类呢？
猫和狗与人类的进化等级接近，都是哺乳类，而猴子和猩猩离得更近，所以它们能够一定程度上的理解我们。但这个差距如果放大，鱼、爬行动物、昆虫就难以理解我们了。
但是这个差距很难掌握，我们可以乐观的认为我们创造的AI在最初低于我们的智慧等级，之后慢慢的高于我们，那么有一天它达到了我们和蚂蚁的差距呢？
宗教悖论
从AI悖论引申到宗教悖论，问题就变得非常明显了。所有的宗教都拥护一个或多个神灵，我们对神灵的概念是它是高于人类的存在，能力是人类永远无法企及的，智慧也是人类无法与之媲美的。那么问题来了，既然它是如此高高在上，我们又是如何理解它发给我们的指令的呢？蚂蚁如何理解人类对它说的话呢？
为什么一个无所不能、创造一切的神灵会大发善心用低等存在的人类的方式与人类沟通呢？甚至这个神灵的样子看起来总是和低等人类差不多，也有眼睛和嘴巴，用眼睛通过光线来识别，用嘴巴通过声音来传播信息。怎么看，都不像一个远高于人类存在应该具有的形态。
假如蚂蚁们创造了宗教，那么它们的神灵一定是和蚂蚁一样的生物，但对于蚂蚁来说，我们就是神灵一样的存在，但我们和蚂蚁显然有着巨大的差别，我们不用触须交换信息，也不爬行。
那么宗教悖论就是：如果真的有远高于神的存在，我们无法意识和理解它。
所有的宗教都是人类自己创造的，按自己的理解，汇集了无数人的智慧，但问题是即使是无数人的智慧，它依然存在一个上限，就是人类本身的智慧上限。所有的宗教创造的都是一个依据人类不多的智慧创造的假神用于寄托和承载信徒的虔诚，但问题是，它仍然是一个假神。
真正的神，高于我们存在的，它的形态和智慧、行为都是我们无法理解，无法观察的。人类无法想象从未”见过“的事物，而所有我们能够想象的神的样子都一定不是远高于我们存在的真正的高等存在的”神“的样子。
AI与宗教
AI的创造本身就是一次造神运动，这与计算机发展的过程并不相同，我们不仅仅在创造工具，而是希望创造出一个具有自我意识的最终超越我们智慧的事物，我们期望这个事物能够带领我们前进，克服困难，让人类这个族群超越现在，寻求通向高等进化之路。
我很悲观的认为，这是一条上限早已被锁死的道理。原因源自于我们人类本身，因为我们是很低级的生物，我们的身体结构和智力水平已经锁死了这条路。我们直到我们的世界毁灭也没有机会真正一窥宇宙的奥秘和真相，这与我们是否努力无关，而是我们的DNA锁死了我们的路。