最初，当人们预测AlphaGo和李世石围棋大战谁会赢时，我就断言AlphaGo会赢。因为李世石面对的不仅仅是一个算法程序，除了包括走棋网络、估值网络、快速走子程序和蒙特卡洛搜索几大部分构成的复杂算法之外，人机大战的战场还装备了40个在线网络平台、1200多个CPU、170多个GPU，还有大数据、云计算即时处理当前棋局和史上积累的3000万个棋局，甚至还有一条专门铺设的赛事光缆，而这一切都是一群世界一流的深度学习专家所为。从这个意义上讲，AlphaGo是一个人机交互的巨无霸耦合体，是一个即时处理专项任务的延展认知系统，这个系统的核心是人。前台表演的只是这个系统的程序运行终端，而人才是其背后的智力资源。

刘晓力

无心的机器是目前人工智能的局限

AlphaGo战胜李世石产生的一个直接效应是，很多人认为，AlphaGo的胜利意味着人工智能已经突破某种极限达到了高智能水平，照此下去，人类所珍视的所有智慧终将被机器所替代，人类未来命运着实堪忧。

但事实上，虽经历一个甲子岁月的洗礼，人工智能目前还没有摆脱“无心的机器”的命运，今天的人工智能可以说既无智力也无心灵。这是因为目前计算机使用的都是二进制编码的图灵机计算，是递归算法。80年前，伟大的逻辑学家哥德尔就已指出图灵机的计算能力与人类相比较是有先天局限的。但是，人们更热衷于引用图灵1950年在《机器与智能》中的话，“我们不能因为一台机器不能参加选美大赛而责备它，就像我们不能因为一个人没有飞机飞得快责备他一样，机器也能够思维”；却忽视了1936年图灵经典文献《论可计算数》的基本点，其中清晰地区分了什么是可计算的、什么是不可计算的，以及计算的界线在哪里。只要是不可计算的问题，人们无论如何找不到算法。而且不可计算的世界相比可计算的世界要大得不可胜数。

国际计算理论、视觉理论家马尔曾将可计算之事归结为三大步骤。第一，要把具体的现实问题抽象化成一个可以清晰定义的问题；第二，要看它是否是可计算类的问题；第三，要在可计算的范围内找到算法。对于人工智能而言，自然还有重要一步，就是要在机器上执行算法完成计算。目前人工智能可以在很多需要做大量计算的局部领域超出人的计算能力，但它的局限性最尖锐地体现为不能处理以下三类问题：意义理解；意识和意识体验；自主性和觉知。

第一个问题可以归结为，机器理解语言吗？我们知道，人类是借助抽象符号使用语言来描述外部世界的，人是世界意义的制造者，这个意义就是我们内在的心理世界的所思所想与外部世界的关系?；鞫萌死嘤镅员泶锏囊庖迓?？机器翻译程序真的懂得所翻译的语言内容吗？手机上安装的语音输入系统真的理解人们所输入的语言符号的意义吗？这一直是人工智能的所谓“瓶颈问题”的困难所在。时至今日，机器根本不能理解语言的意义，不能理解我们跟外部世界究竟有怎样的关联，因为这个意义的解释者只有人类自身。当前人工智能最重要的进展，一方面是机器人在感知外部环境信息方面能力的提高，如iCub、谷歌大狗、谷歌自动驾驶汽车和飞机等；另一方面是通过多层神经网络深度学习，机器在模式识别、图像识别、语音识别能力上有令人惊异的表现。但是可以说，目前的各类识别还只是完成某种“匹配”任务，匹配过程中并不关涉图形和语音所包含的意义。

第二个问题是，在与世界打交道的过程中，人除了有感官知觉，还有情感、意识和意识体验。人们把李世石输棋的原因归为他的情绪不稳定，但这恰好就是人类超过机器的独特之处。人有喜怒哀乐、爱恨情愁；有追求真理的欲望；有宗教情感和同情之心，能在与他人的交流中获得理解、体验痛苦和快乐；人也经?；岢龃砘崾О?，有各种非理性的行为。这些正是人之为人的价值所在。机器没有这样的信念欲望意图和意识体验。一个当下处理围棋问题的确定算法一经运行就不会更改，所以机器不会出错。如果有错，责任也在编写算法的人。AlphaGo既没有恐惧也没有焦虑，没有喜也没有悲，它是靠着强力搜索高速计算取胜的，在这一点上，恰好说明作为算法的AlphaGo有不及人类智能的弱势之处。尽管目前人工智能专家也在研究机器情感、机器意识，但是离机器真正有情感有意识和意识体验，恐怕还有本质上的距离。

第三个问题是，单纯作为算法的AlphaGo没有自主性和觉知。AlphaGo的运行需要外部驱动力，这个动力是人给予的，围棋算法是人设计的，实现算法的程序是人编写的，3000万个棋局是历史上棋手长期积累又由人陆续输入数据库的。此外，更重要的是，人的行动是有动机的，人有意图会规划未来，有做出选择和行动的自由意志，因此，作为一个行动者，人可以为自己的行动提供理由。但是，无论如何，AlphaGo没有办法为自己的走子行为提供理由。AlphaGo甚至根本不知道自己是在下棋，更别提棋感、直觉、欺骗、故意下坏棋了，它的行为只受输赢这个简单的目标导向。从比赛结果看，像是这样一个硅基材料的机器有了胜过世界冠军下棋的智慧和能力，但事实上，依照我们下面的分析，AlphaGo的智能实际上是以人为核心的一个巨大的延展认知系统的能力，是系统部分认知功能的某种外化。