深度学习算法下的AI机器人会统治人类吗？

（图片来源：摄图网）

作者|伯凡时间 来源|伯凡时间（ID：bofanstime）

6月27日,滴滴出行首次面向公众开放自动驾驶服务，尽管只是在固定路段的试运营服务，但不得不说AI已经在自动驾驶领域实现了一次里程碑式的突破。

随着近几年算力和算法的提升，人工智能领域报喜不断。最著名的一个事件就是2016年谷歌的围棋程序AlphaGo以4：1的成绩战胜世界冠军李世石，赢得了这个堪称人类历史上最耗费脑力的棋类运动。而仅在一年后，谷歌最新版的围棋程序 AlphaGo Zero 又以100：0的成绩 ，战胜了这个曾经令人类甘拜下风的AlphaGo。这意味着，在围棋这个领域，人类已经完全没有机会与AI抗衡。

在慨叹AI技术飞速进步的同时，也不禁让人心生一丝恐惧，很自然联想到机器科幻片中的AI机器人，它们具有钢铁之躯，没有任何弱点，他们具备强大的战斗能力，可以凭一己之力，把世界搞得天翻地覆，甚至他们产生了人类的意识和情感，开始反过来奴役和毁灭人类。电影《我，机器人》就呈现出对这种状况的隐忧，在电影中，习惯了安逸生活的人类变得懒惰，不爱创新，最终被掌握了更高科技的机器人所取代。

但反过头来看，这不过是科幻电影中的一些猜想而已。如果落实到真正的技术层面，AI是否真的有能力奴役和毁灭人类呢?

对此，纽约大学神经科学教授、Robust.AI创始人、人工智能领域专家盖瑞·马库斯，提出了十分消极和悲观的看法。他的悲观并不是AI即将统治地球的悲观，而是对现阶段人工智能发展方向的悲观。他指出，现阶段的AI不要说统治人类，离真正的智能甚至还有一段距离。

在《如何创造可信的AI》一书中，马库斯向读者介绍到，如今以深度学习算法为主的AI被媒体炒得过于火爆了。它们尽管从表面效果上来看已经具备了极高的智能，但从内在逻辑上来看，这个所谓的智能只是单一场景内数据量堆砌的最优算法，如若改变其擅长领域内的一个因素，整个系统便会迎来崩溃。

因此，现阶段的AI只能称作是限制在专业领域内的狭义AI，它只能解决其设计初衷所针对的特定任务，并且前提是系统所遇到的问题与其之前所经历过的场景并没有什么太大的不同。如果出现新的场景，其解决问题的能力将大打折扣。例如突然将围棋的规则改成五子棋的规则，战胜李世石的AlphaGo很可能连一个小孩子都下不过，这样的AI是不具备真正智能的。

事实上，我们需要的不是这样的AI，我们需要的是一个能够举一反三、具有真正智能的AI。这样的AI放在自动驾驶领域，不会因为行驶过程中前方飘落了一片没有见过的树叶而冒然刹车;放在智能清洁领域，扫地机器人不会在触碰了宠物的粪便后还在地板上来回滑动。它们需要具备基础常识能力、具有因果推理能力，并能够形成对未知事物的解决方案。

而由于深度学习算法在近几年取得了巨大的突破，很多媒体、公司纷纷开始对该算法进行盲目吹捧，使人们盲目地将过多资源和精力投入到深度学习算法之中，这很可能会导致AI偏离了正确的发展方向。

深度学习算法的基本思想是分层模式识别。在人的视觉系统中，不同神经元对视觉刺激有着截然不同的反应方式，例如有些神经元会对线条变化产生积极反应，有些会对色彩产生积极反应、有些会对对比度产生积极反应。这些神经元的反应共同作用，形成了我们对图像的认识。

基于深度学习的智能图像识别也是同样的原理。如图，图像的像素由输入层输入后，后面的几个识别层会分别对输入像素的边缘变化、对比度、亮度进行分析，通过这些中间层的共同分析，最终形成识别层输出的答案。刚开始输出的结果一定是不准确的，这时就需要不断改变各层输入对应输出的权重，来提高结果的准确度。(提高权值后，帮助生成正确的答案则加强，反之则削弱。)

深度学习算法中的“深度”二字，就是指分层的数量，而分层的数量越多，图像识别的准确度以及识别复杂图片的能力就越强，基于近几网络数据的大量涌现与算力的提升，深度学习AI只需要几个小时就能取得优异的成果。

但该算法的局限性也很明显，正如马库斯指出，这样的AI能力和效率都很高，但却不具备真正的智能。它非常依赖过去的数据量，例如AlphaGo要下3000万盘棋，水平才能超过人类，如果数据量减少，其水平会急转直下。此外，改变中间层对输出结果的权重是随机且不透明的，很难搞清具体哪个变量对结果产生了直接影响。

简言之，深度学习算法下的AI，其智能程度极其有限，特别是当它面对的情形超出原有数据量后，就会犯下令人啼笑皆非的错误，其智能程度甚至不如一个5岁的小朋友。而在这个背景下的AI机器人是否具备毁灭人类的能力呢?马库斯举了这样一个例子。

如果这样的AI机器人真的向你发起攻击，首先你可以把门先关上，然后把门把手和整扇门都涂成黑色。这样一来，机器人识别出门和门把手的概率就会大大降低。如果还是不放心，就在大门上贴一张烤面包机的海报，机器人看到这一幕，就会以为对面是一个面包机，然后扬长而去。如果还是担心机器人会破门而入，你大可躲到楼上，然后在机器人的必经路径上放一溜香蕉皮和钉子，机器人很难在缺乏事先准备的情况下通过障碍路线，从而陷入摔倒爬起来、摔倒爬起来的死循环之中。

尽管马库斯用十分戏谑的方式指明了当下AI发展的不足，但他并不是在否定深度学习，而是指出我们应该对AI现阶段的发展形成正确的认识，呼吁人们调转对深度学习盲目的狂热，转而将精力投入到具有真正智能的AI设计上来。

对于未来智能的AI如何发展，马库斯建议还是要从认知科学的角度着手，设计出一套系统的AI架构来。因为即使是简单的认知，也需要通过多种工具来完成。此外，智能机器要具备一定的常识，我们需要对人工智能具备什么样的知识进行盘点，并且设计出一种架构使其能够独立而清晰地将这些常识表征出来。朝着这个方向发展，AI才可能具备基本的理解能力、因果推理能力，这样的人工智能才能真的称得上智能。

了解了AI发展的现状后，我们无需再对AI机器人统治人类的故事杞人忧天。与此同时，我们需要从对AI的狂热中清醒过来，从技术的角度看清现阶段AI的本质、优势和缺陷，避免道听途说，被舆论和媒体所蛊惑，成为被下一波互联网概念收割的韭菜。

编者按：本文转载自微信公众号：伯凡时间（ID：bofanstime），作者：伯凡时间