-- 应哈工大澳洲校友会微信群提问的答复 --

B校友，你好。为了回答你的问题，我把你给我的帖子抄录如下。

“你提到的IT, 互联网快速超越AI的历史值得深思。人类的进化历史在智能社会性和工具性方面突飞猛进，似乎具有无限的发展空间。 从直立人的简单工具和肢体语言的开始，到能人复杂石器工具和智人群体语言，到工业革命的机器和电话通讯，以至到今天移动互联网和超算机及大规模云端存储。但在探索人类智能的本源两个边界时：DNA和大脑神经系统的起源和机理时，除了知道些皮毛，如我们大脑有1000亿以上的神经元和每个几千到几万个连接突触及基因序列外，却举步维艰。在AI高潮那些高举GAI(包括认知和推理智能)大旗的目前也只能成功在提供人脸识别工具和大数据下不知所言何意的AI翻译机。 AI从60年前的几起几落一直无法至少像智人（更甚地比不上鹦鹉）那样在开放空间里学习和做出逻辑性的判断的能力上获得突破。学长，你怎么看，是我们碰到“上帝”的边界吗？如果我们做出了接近类脑计算硬件（如附上文章），我们真能在这方面有所突破吗？”

一个具哲理思考的帖子和有意义的问题。我的回答是：不能，且在我们看得到的未来中都不可能。尽管AI技术会像过往几十年那样，在高潮低潮的起伏中前进，会有新算法的软件、新算力硬件的及更海量的数据出现，因而导致AI各种应用中识别的精度、决策推理及语言翻译的准确性等等的不断提高，但是，“像智人那样在开放空间里学习和做出逻辑性的判断的能力上获得突破”，或者是突破“上帝”（更正确一点是“上帝”的同义词“自然”）的边界，是不可能的。

为什么？我分两个层次来说明。

（一）脑神经学家目前只能提供浅表的概念性的知识

第一个，量的层次。人脑的结构和机理太复杂了，脑神经学家目前对人脑的结构和机理只能提供浅表的概念性的知识。钱学森说，人类三个未知领域是宇宙,人脑和微观世界。也就是说，人类对这三个领域已经了解的和未了解的部分的比例，以及人类现有的理解能力和达到基本了解这三个领域所要求的能力的差距，是同一个数量级的。我们现在对人脑结构和机理的理解，诚如你说的，只是一个皮毛。比如说，人类对语音的理解。首先，作为感受器的耳朵，我们较早就知道了有耳蜗神经。有人研究过猫的耳蜗神经，每一个神经对不同频率的声音有一个特定的感受野，即在这个频率附近的刺激，细胞发放电脉冲的阈值很低，大于或小于这个频率的刺激，阈值就很快升高（好像是在做傅里叶变换的频谱分析！）。又知道越是在听觉系统中较高级的中枢细胞，其感受野就越窄，这种变窄的现象是侧抑制效应在听觉系统中的表现（好像在做微分计算！），等等。对视觉系统也类似，用微电极对视网膜细胞进行研究时发现，在视网膜上照上大面积的光时，要记录其放电是不可能的，必须是小光点的刺激，才能记录到放电。在感受野中心兴奋时，其周边就抑制。这种侧抑制效应，在猫、猴等哺乳类以及在具有复眼的动物中都可以看到。这种沿感受野平面上的微分作用，其效果是加强了视目标的边框（这种技术在电视和微光夜视中被运用）。到了大脑皮层的视觉感受区，已经发现有对物体的明暗界限敏感的简单细胞；有对特定方向的直线或界限位置敏感的复核细胞；有对刺激图形的长度、一侧或两侧界限的运动敏感的低次超复合细胞；还有高次超复合细胞，它们由几个互成90度的低次超复合细胞组成。这说明各类神经细胞对静止、运动（速度、方向）有一个最适应的刺激条件（就是模式识别技术中的特征抽取）。对颜色（波长），例如，猴，敏感的细胞大多不在大脑皮层，而在外侧漆状体。等等。即使是最新近的使用功能性磁共振成像（fMRI），观察当猕猴看到“脸”时，哪些脑区会被激活，或者是人在想打网球时，运动皮层就会变得活跃，等等，研究工作只处于功能定位的阶段。2017-06-03 新智元报导一个“重磅”新闻，说“灵长类动物脸部识别算法被破译”。怎么个“破译”呢？“对猕猴的实验表明，对脸部的识别是由大脑中 200 多个不同神经元共同编码完成的，每个神经元会对一张脸不同特征的参数组合进行相应。这一发现推翻了此前人脸由特定细胞识别的假说。”这种水平的结果在脑神经学来说，的确是很重大的发现。但对AI专家来说，就是BP网络的输出层是用特定节点还是用几个节点的组合来表示一个特定的输出的选择。对于设计AI系统的工程师来说，这个水平上的算法“破译”实在对他们为了提高精度想出的各种复杂算法（例如，LSTM算法）帮助不了什么。我们现在对人脑的了解，诚如冯杰（灵汐科技）所总结的那样：人脑是存算一体的，具有极大的规模性的，有明显的功能分区的，只有极低的功耗的，等等，这类非常浅表的概念性的水平。而在规模上来说，就是IBM的 TrueNorth类脑芯片，其“脑容量”的大小也仅相当于虫脑水平。近60年来，AI技术在搜索、识别等领域的突破，例如BP算法、深度学习算法的出现，都是在数学、算法学的理工科的基础上达成的，而不是在脑神经学和心理学的新发现基础上达成的。

目前，除了少数使用推理规则（rules）的AI专家系统是在试图模仿人类的推理过程外，占绝大部分的使用神经元网络的图形、语音识别和翻译等等系统，其算法与人脑的活动机理毫无关系。而神经元网络经过学习或所谓深度学习之后的结果，就是各层节点之间连接的海量的权值，它们没有任何脑神经学上的意义。所以，这类AI系统给人类提供的帮助，犹如飞机帮助人类飞行（不是模拟鸟类的翅膀），轮子帮助人类走路（不是模拟人类的双腿）。当然，这些帮助不但实用，还都是远远超过人类本身所能达到的水平。火车的力气比人类大得多，计算器比人类的计算速度快的多。（所以，大力士不必为输给火车懊恼，柯洁也不必因输给AlphaGo落泪。）

（二）AI系统不具有人类智能行为中的精神活动

第二个，质的层次。人类的智能行为，是在意识、思维和意志（以下我用“精神活动”一词）的支配下进行的。迄今为止没有一个AI系统具有精神活动，就是连动物进化最先出现的感觉--痛觉，也没有。

在H.Harari的《未来简史》中有几段很精彩的精神活动参与人类的智能活动的描写。“看到狮子，人为什么要逃？很简单，他被吓到，就逃了。。。人看到狮子，电子信号便从眼睛传向大脑，刺激某些神经元，神经元又放出更多信号，于是整条线路上的神经元一一受到刺激、放出信号。如果有足够多神经元、用足够快的速度放出信号，指令就能传到肾上腺，让大量肾上腺素传遍全身，心脏也收到指令要跳得快一些，同时在运动中枢的神经元也向腿部肌肉发出信号，让肌肉开始伸展或收缩，于是这个人从狮子旁边逃之夭夭。”但是，“一个人看到狮子，并不是直接对这个猎食者自动产生反应，而是先想起一年前有头狮子吃了他的阿姨，于是开始想象自己被狮子撕成碎片的模样，又想到如果这样自己的小孩就没了爸爸。这才是他会逃的理由。确实，很多连锁反应都是从心灵开始，而不是从任何直接的外部刺激开始的。”“但等一下，究竟这些所谓的记忆、想象和想法又是什么？它们存在于哪里？根据目前的生物学理论，我们的记忆、想象和想法并不是存在于什么更高层而无形的领域，它们也是几百亿神经元发射出的电子信号。。。到底在这个漫长而曲折的旅程中，有没有哪个步骤（例如在这个神经元传到下个神经元的那一瞬间）让心灵介入干预，并决定下个神经元要不要放出信号？有没有任何的实质动作甚至是某个电子的移动，是出于“恐惧”这种主观体验，而不是因为前一个电子的运动？如果没有这种运动——每个电子的运动都是因为先前其他电子的运动——那我们究竟为何需要体验到恐惧？我们对此一无所知。。。哲学家将这个谜团包裹在一个吊诡的问题中：有什么事是发生在心灵中的，但没有发生在大脑中？如果心灵中的一切都发生在我们庞大的神经元网络中，那又何必把心灵独立出来说呢？而如果确实有些发生在心灵里的事，是在实际神经网络之外发生的，它们究竟发生在哪里？。。。一些脑科学家认为，这种融合发生在许多神经元互动所形成的“球形工作区”。但在这里，“工作区”只是个比喻。而比喻背后的现实是什么？到底不同信息是在什么地方交会融合的？从目前的理论来看，这肯定不会发生在什么第五维度，而是像两个原本不相连接的神经元，突然开始彼此发送信号。。。同样这个谜团，我们也可以用数学术语来呈现。目前的看法认为生物就是算法，而算法能用数学公式来呈现。你可以用数字和数学符号写出自助饮料机准备一杯茶的步骤顺序，或是写出大脑发现狮子接近时的一连串反应。若是这样，只要意识体验确实有某些重要功能，应该就能用数学来表示，因为它们正是算法的重要部分。如果我们写出“恐惧”的算法，将恐惧分成一连串的计算，我们应该找到：‘就在这里，计算过程第93步，这正是主观体验到恐惧的时候。’但在数学这个博大精深的领域里，有没有哪种算法中能找到主观体验？到目前为止，我们并不知道有这样的算法。虽然人类在数学和计算机科学领域知识广博，但目前创造出的所有数据处理系统都不需要主观体验就能运作，与痛苦、快乐、愤怒或爱的感受无关。”

为了认识清楚有精神活动的人类和无精神活动的AI系统在本质上的区别，让我们从地球上生物进化史，看看人类获得精神活动能力的过程。从原始细胞到最后人类在地球上出现，其间经过了几十亿年。生物进化的最终成果是精神世界的出现。一个大自然的生成物不但能对产生它的大自然进行感觉，知觉和认识，有‘自我’存在的意识，而且有喜乐哀怒，有自我意志和思维，甚至反过来能对大自然进行改造。这是何等神奇的事？从物质世界到精神世界，第一个门槛是从无生命到有生命。第二个门槛，是从没有感觉，知觉和认识，没有‘自我’存在的意识的生命体到有感觉、知觉和认识，有‘自我’存在的意识的生命体。精神是大脑的产物。大脑是神经系统发展的最高阶段。以下我们考察一下神经系统的进化，特别注意两个关键点：痛觉（最基本的感觉）的出现以及思维的出现。

我们现在已经知道，生物进化到腔肠动物，开始出现原始的神经系统。水螅及海葵的体壁上具有由间质细胞分化而成的神经分泌细胞、神经感觉细胞以及神经节细胞。这些细胞具有两个或多个长的突起，被称为轴索。轴索之间经过突触相互连接构成了神经网，即它们的神经系统。但是遍布体壁的仍然是神经网，而没有形成中枢系统。到了扁形动物，开始出现中枢神经系统。动物的头端集中了相当数量的神经细胞,形成了明显的脑。再到环节动物，神经系统得到了进一步发展 脑内已经分化出与感觉有关的特殊部位。到脊椎动物，在其神经系统中枢化进一步发展的同时，外周神经系统也得到充分的发展，出现了自主神经系统，头部优势发育更为明显，同时大脑的结构和功能更为复杂和完善。脊椎动物的脑位于颅腔内，脊髓位于椎管内。最后形成的人类中枢神经系统象是一部容量巨大的信息加工器，加工的结果可以出现反射活动、产生感觉或记忆，最后到我们看到的人脑的全部精神活动。　　

我们来考察一下精神活动最底层的元素--感觉（最先有的应该是痛觉，这是生物躲避伤害保存生命要求的最基本的信号，神经系统解剖看到的痛觉神经处于脊髓神经索最古老的中心位置证明了这一判断）。人类在受到外界刺激时，能向观察者报告该刺激所引起的感觉，而动物则不能。但相信高等动物一定有感觉，这只能从外界刺激时这些动物的行为来判断。但是，从刺激-反应不能肯定有感觉的存在。例如，一种具有最简单的感光器官的单细胞原生动物眼虫，他有眼点，使眼虫可以定向地作趋光运动。再如，大肠杆菌对于多种化合物具有趋向或趋避行为，这一行为过程涉及化合物识别、信号输入和鞭毛运动三个环节。此外，有些植物也有刺激-反应，能做机械运动，如睡莲的花昼开夜合；合欢的复叶晚间闭拢；含羞草和食虫植物猪笼草等，动作更为迅速。但眼虫，大肠杆菌和植物应该没有感觉。我们可以设计一个AI系统，对不同刺激信息进行非常复杂的加工计算，做出所需的极其复杂的反应，但AI系统没有感觉。AI系统的刺激-反应，最多也就是眼虫，大肠杆菌和植物的水平。

从感觉到思维，中间要经过知觉，表象，概念等几个阶段，最后借助语音做工具进行思维，最后形成意志。意志是人有意识、有目的、有计划地调节和支配自己行动的心理过程。人的行动动机是为了保证生存和满足各种需要而产生的。AI系统没有动机和意志。所以我认为人们忧虑AI系统最后会统治人类甚至消灭人类是没有必要的，它没有统治人类的动机和意志（迄今FBI和国安部没有报告任何AI系统喜欢人类的美女和金钱的案例）。当然，如果允许人类设计一个AI系统（无人机或机器人）见人就杀来消灭人类，就目前的技术水平就已经可以做得到，正如目前人类已经有能力用核弹、化学或生物武器消灭人类自己一样。但这是武器控制问题。有人会说，在AI系统进步到能够自我学习和改进（现在的下棋AI就有这个能力了），特别是自我繁殖时，突然产生出统治人类的动机和意志（其目的倒不一定是金钱美女）的可能性是存在的。我的回答是：如果在“动机和意志”的精神活动意义上讨论问题的话，目前完全没有顾虑的必要。起码，等到我们看到世界上出现某一个AI系统具有痛“觉”时再说。但是，在计算程序自动生成时，由于某种不测的原因，生成一段“见人就杀”的程序，不能说绝对可以排除。就像在基因工程中，由于某种不测的原因拼出一段基因，生成一个可以杀灭全人类病毒一样，但这不能说这种病毒有消灭人类的动机和意志。当然，有人提出另外一个危险，即由于技术的改进，机器代替了人类绝大部分工作，普通的大众就成为了多余的人，精英对于大众的控制能力将会极大提高，普通大众成为了社会的无用负担，如果精英集团失去了怜悯心，他们可能会决定灭绝人类大众。但这不是AI的问题，是人类自己的社会治理问题。霍金警告人工智能可能毁灭人类，也是在人类无限制开发AI杀人武器和AI机器大量取代大众工作的意义上说的。

最近，有人提出“人类是碳基文明，人工智能是硅基文明”的很新颖说法。他说，“人类进化到现在，逻辑方面的进步几乎是不太可能了。人类社会的进步是依靠技术和创造出来的新事物来反逼人类进步。这种进化是体现在一种更高层的模式，即人类和人类所创造出的新事物一起进化”。我认为，人类可能会把芯片植入人脑或开发出人脑和电脑直接的信息交换接口来极大提高人类思维能力；把眼睛和显微、望远、夜视等等设备连接起来极大提高人类视觉能力；把手和遥控或精确控制设备连接起来极大提高人手操作能力；等等。但这不是人类和人类所创造出的新事物一起“进化”（生物学意义上的进化）。特别是这位先生提到在人类遇到过灭顶之灾时，“人类是碳基文明，非常脆弱。如果地球出现问题，很难延续。 而人工智能是硅基文明， 能够作为人类文明的遗产留下来其实是对人类文明的一种保存，是一种延续和技术的探索。。。。人类如果可以开发出来一种可以承载文明，逻辑思考学习能力的载体，这其实是人类文明的延续。人工智能其实是人类的后代，人类可以把自己的想法倾注到人工智能上。如果人类把人工智能看作自己的后代并允许它延续人类文明的话，其实人类文明可以延续地更久。”我的想法是，人类的碳基文明是上帝（或自然）的产物，人工智能的硅基文明是人类的产物，有本质的区别。碳基文明的人类不存在了， 硅基“文明”也应该是不复存在。

（三）对可知论的质疑

好了。以上我首先从量的层次上说，人脑的细胞数量太大，轴突之间的连接太多，其间的理化效应太复杂，回答了你使用目前非常浅表的概念性的所谓“类脑”计算硬件，能否在机器至少像智人那样在开放空间里学习和做出逻辑性的判断的能力上获得突破的问题。你可能会说，人类知识随时间呈二次方的速度增长，只要时间足够长，知识积累足够多，人脑（同样，宇宙和微观世界）都是可以被了解清楚的。可知论者认为，人类在工业和科学实践上的成功，证明世界是可知的。

首先，准确的科学的表达，可知论者这句话应该是：人类在工业和科学实践上迄今为止的成功，证明世界有一部分是可知的。与此同时，世界上有些事情，有些问题，有些源由，可能是我们永远无法知道的。如宇宙的来源，生命的产生，精神世界的本质等巨大的哲学、科学问题，其中一些问题虽然难度很大，但最终有可能被解决，比如生命的产生等。这些C、H、O的原子，它们聚合在一起时，什么条件下会产生出大分子来，又在什么条件下变成细胞，直到进化成人类，有可能被搞清楚。但是“精神世界”的产生就很难很难了。可能已经超过了人类智慧的极限。一个生物系统，有刺激就有特定的反应，这不奇怪。这种反应成为本能，是因为某种基因的存在，是因为在适者生存规则下基因随机漂变及自然选择的结果。但“感觉”的“觉”是什么，谁来“觉”？是不是宗教所说的“灵魂”？。我宁愿相信这种“觉”是动物进化到一定阶段，附着在或溶解在其脑神经系统中的一种“东西”。这种“东西”专管“觉”，然后从“觉”到思维、意志、欲望等等。科学家和哲学家想说清楚就很难，即使一亿年后，我都不太相信能说清楚。

那是为什么呢？正如H.Harari所说，“早在几千年前，哲学家就已经发现，没有办法明确证明除了自己以外的任何事物具有意识。。。这个知名而难缠的问题称为“他心问题”（Problem of Other Minds），到目前为止所有科学突破都还无法克服这个问题。”我的进一步阐释是，即使仅仅是一个“感觉”（例如红色），除了我们可用主观描述来叙述自己的体验之外，无法提供客观的证明。我们所看到的红色是6470到7000埃波段的电磁波；而我们看到的紫色是4000到4240埃波段的电磁波。红色和紫色的不同，仅仅是其波长的不同，红色波长长些，紫色波长短些。而“红”与“紫”，仅仅是我们的主观感觉。我们周围的物体，向我们的眼睛反射入波长不等的电磁波，其中波长比红色长和比紫色短的我们都看不见。而对从4000埃到7000埃的可见光，人的主观感觉给不同的波长染上了红橙黄绿青兰紫的七种颜色。这一点，就像黑白电影和彩色电影一样。我们知道，上世纪50年代以前没有彩色电影，许多三、四十年代的好莱坞优秀影片都是黑白的。最近有一种工艺可以把黑白电影“染”成彩色，但价格不菲。其实，我们所看到的世界，不但没有五颜六色，连光明和黑暗也只是主观的一种感觉。在我们看上去漆黑的夜里，用高敏感的红外线照相机可以拍出很多发射红外线的物体的形象来。也就是说，我们所看到的“五彩缤纷”的世界，实际上只是我们身外世界的不同物体，在反射或者辐射一些不同波长的电磁波而已。根本没有颜色，也没有光明黑暗。同理，我们所听到的各种声音，也仅仅是人耳所接受的一定波长的声波（空气分子作纵波形式震荡），在大脑中引起的一种反应。真实世界上只有空气分子的震荡，并无轰鸣作响的 “声音”。再说“冷”和“热”，“硬”和“软”：当你感到热时，只是你周围的空气分子运动速度快些，也就是这些分子撞击你的身体时的平均速度高些；而你感到冷时，只是空气分子撞击你身体的平均速度低些。当你感到棉花很软时，只是由于你手接触棉花时，它容易顺着你的接触运动而变形；当你感到铁块很硬时，只是由于你手接触铁块时，铁块的分子结构抵抗你的手指运动而已。如此等等。总而言之，我们周围的世界，只有不同波长的电磁波、空气分子以纵波形式传播的震荡、空气分子的热运动、有些物体顺从你触摸它时的“入侵” 、有的则“抵抗”而已。贝克莱大主教说“存在就是被感知”，但实际上外部世界还有没有被你（以及人类发明的所有感知器）感知的东西存在，而你感知的色彩缤纷鸟语花香的热闹世界，离开了人的主观感觉，可能是无光明无黑暗，无颜色，无声响，无冷热，无软硬，等等的世界。

那么，为什么说“主观”的感觉得不到“客观的”证明呢？例如，我看到一面红旗，我说它是“红”的，这不但是我一个人的感觉，其他所有的人不都说它是“红”的吗？我每次看到“红的”东西，其他视觉正常的人也都认同为“红的”。这是因为当你看到红的物体时，你说是“红的”，“红彤彤的”，“血红血红的”等等，这都是从6470 到7000埃的电磁波在你的大脑中产生的感觉。小孩子在1至2岁学说话的时候，一当这种电磁波从物体那里反射到他的眼睛，并被他感觉到时，他就被告知这是“红色的”。以后同样的感觉出现时，他就告诉别人这是红色的。但是，没有任何办法能够把两个人对“红色”的感觉从两个人的头脑中拿出来，放在一起进行对比，证明他们是一致的。感觉是精神世界的活动，所有的精神活动永远被“封闭”和“绝缘”在主观世界之中。从质的层次来说，人类现有的科学方法，进入不了被“封闭”和“绝缘”的主观世界，突破不了这个上帝的边界。

最后一类的问题如“宇宙起源”这类问题，我认为就是人类的智慧永远不能解决的。那是为什么呢？按照人类的正常逻辑思维，任何事情都有其产生、进化及最终消失的过程。有人说，现在的物质宇宙是由能量聚集生成的，即按照爱因斯坦的e = mc2的公式变化来的。好，我们权且接受这样的解释。那么能量又是从哪里来的呢？恩格斯在《反杜林论》中批判杜林的宇宙起源论，说杜林说宇宙有一个起点，且在这个起点宇宙从无到有。为了从无到有，就必须有一个神力来创造，于是杜林陷入了有神论的泥潭。就像牛顿为了解决天体运动的初始推动力问题，要请上帝来踢一脚一样。但是聪明的恩格斯并没有回答问题的实质，他把这个起点推到了无限的过去。说不存在起点，宇宙（自然）是生来就有的。我的感觉是：第一，这是一种武断的论断，正如圣经中说的上帝是自有永有，无始无终一样（所以，我说“自然”和“上帝”是同义词）。第二，这种说法否认了“宇宙有起源”这样一个认识，即如前所说的正常的人类逻辑思维所产生的习惯及提问题的方式。我的想法是：宇宙来源这种问题，可能要有比人类更高级的物种来回答。正如你不能要求兔子回答1+1等于几一样，我们不能要求人类解决宇宙来源这一类的问题。对此，人类的回答只能是“不知道”。人没有证据证明已经从上帝或自然那里得到“万物之灵”资格。在浩瀚的宇宙中，地球不应该是唯一有生命和智能生物的星球；在众多的宇宙智能生物中，人类的智能水平居中的概率最大。可能在比人类高几个数量级的智能生物看来，人类的智能就像人类眼中的兔子一样。

请问,兔子的智能能突破上帝的边界吗？

（戎鈛）