【财经国家周刊】应出条法律、道德规范约束机器人设计者

　　本文由东莞屹鑫减速机转载：人机围棋大战落幕，阿尔法狗（AlphaGo）4比1取胜李世石。

　　人工智能进化的速度实在太快。19年前，深蓝打败了国际象棋冠军卡斯帕罗斯，当时无论是技术人员还是专业棋手，都认为人工智能在围棋领域依然没有能力取得突破。但这一次，阿尔法狗的表现让世人刮目相看。

　　“人类脑细胞总量这三五千年没有多大发展，但单个芯片集成电路的集成度到2018年将超越脑细胞数量。”工信部副部长怀进鹏接受瞭望智库专访时说。

　　他认为，“制造业创新变局就在未来3-5年。”

　　那么，下一个五年在信息技术重塑整个生产生活格局的时候，世界会变成什么样？中国将会在哪里？

　　对话怀进鹏：从人工智能发展看制造业创新变局

　　人工智能究竟是威胁还是契机？

　　《财经国家周刊》：这次人机围棋大战，阿尔法狗的表现也让世人大开眼界，人工智能时代是不是真的“狼来了”？

　　怀进鹏：人工智能正一步一步走向现实，未来不仅可以跟人下棋，甚至可以跟人打球、陪人聊天等等，这就是信息技术带来的变化。

　　自上个世纪50年代，人工智能就一直很受重视。大家都比较关注机器能不能像人一样有智能。最早的一个判断方式叫图灵测试，即一台机器与人在拉上帘子或背靠背的情形下进行交流，如果无法分辨出机器人身份的话，就认为这个机器具有智能。

　　为达到这样一个目标，学术界一直在努力。现在进入了互联网时代，一些重要的差别凸显出来，一是算法在不断地完善，二是数据的量从量变到质变，可以通过对大数据的分析、处理来更有效地寻找出一些规律。

　　从深蓝下象棋，到阿尔法狗下围棋，而大数据也发生了很大变化，从简单的小样本发展到大规模的量。阿尔法狗就可以把过去围棋所有的规则复盘，计算走过的路径，且现在机器速度又足够快，它可以算得又快又好。对博弈过程中的每一手棋，它都能通过数据的处理和存储以及模型的建立，决定下一步怎么去做。

　　一些优秀的棋者，他在脑袋里也会复盘，记着很多残局，也有很多应对的技巧。但是机器能存储大量的数据，它不光学一个人，可以把这个领域所有人的数据都装进去。

　　这次围棋大战，与其说是人工智能与人的大战，我觉得更多的是阿尔法狗在数据处理、机器的海量运行、记忆的存储、设计的有效性等方面，都取得了很大的成就。

　　因此在固定的领域，计算机在与人比赛时，通过大数据的分析和规则的有效利用，成功的概率比较大。例如，在精细化制造中，机器不受情绪影响，可以一如既往按照设定的规则、设定的生产途径实现精细化。而人就会受到情绪和环境的影响。

　　《财经国家周刊》：有人开玩笑说，如果阿尔法狗主动输给人，就更可怕了，很多人担心人工智能拥有和人一样的神经感知，担心人工智能将来不久会超过人类，人类就面临着末日，您怎么看人工智能？人工智能究竟是威胁还是契机？

　　怀进鹏：人工智能是一项技术，作为技术它是中性的，并没有伦理和价值观的判断。它的好和坏，是我们从社会学和伦理学的角度来判断的。从技术上来说，我们关注它的效率，当它能被有效的利用时，就可以为社会做贡献。如果它被无效或者恶意的利用，就会带来问题。

　　阿尔法狗主动地、有意识地输给人类，这种可能性也是有的，前提是给它设定了这样的程序，且是由人来设定的。或者是人在设计时，出了一点失误。目前机器自己是不会做到这一点。

　　比如，你让机器向前走，同时还要设定一个程序，走到一定程度要转弯。出现失误有可能是无意识的失误，有意识的失误只有两种可能，一是人在设计中加入了这样的控制系统，二是设计有缺陷。

　　另外，机器的一些行为也可能被远程控制或干扰。比如行驶在路上的无人驾驶汽车，因为它要接受很多来自手机和后台云计算的数据，也可能会遇到黑客的攻击。如果后台突然被控制，汽车都停下来是一种可能，汽车无理性的横冲直撞也是一种可能。机器没有好和坏之分，它只有执行。现在机器能做的，还是人设定的这些规则。

　　机器通过数据的分析，具有一定的学习能力，如果设定机器程序的学习能力去恶意模仿那些不好的行为，就容易带来危险，所以人在设定程序时，应该尽量给机器的学习能力注入正能量。

　　技术发展到一定程度还是取决于如何被应用。社会也应该有一系列的法律规则来约束机器背后的人，约束设计者应该遵循社会的道德规范，考虑人类的心理承受能力。一个中性的科技，应该有伦理价值和社会价值。

　　同时，我们也要储备超级技术，能够控制和恢复机器的状态，能控制机器新的演变，不然我们确实会遇到危险。

　　我国人工智能现在处于什么样的发展阶段？

　　《财经国家周刊》：我国人工智能现在处于什么样的发展阶段？

　　怀进鹏：2015年，国家印发了“互联网+”行动的指导意见，说明我国已经把人工智能放到了一个很重要的位置。同时，我们也发布了实施制造强国战略的第一个十年行动纲领——《中国制造2025》，其核心正是加快新一代信息技术与制造业深度融合，推进智能制造。

　　随着经济的发展，社会劳动力成本的提高和对精密高端加工产业的需求，开始出现从过去简单的自动化进入现在的数字化和智能化。

　　基础理论的研究需要长期进行下去。人工智能的基本原理，通过数学、计算机科学、社会学和心理学的融合、交叉创造新的内容。人们利用数据的能力是一直客观存在的，但是社会生活、社会行为等大量人造数据的出现，使得我们的基础研究有了很大变化。

　　基础理论研究中，大家还在进行脑科学的研究，设想脑的思考机理。这可以用来治疗脑疾病。除此之外，人们探讨两三年后，当集成电路的集成度与脑的触突集成度密度相当时，芯片是否具备了人脑的基本功能，可以进行有效的计算？过去依靠单点技术和单一产品的创新，正在向多技术融合的系统化、集成化创新转变。所以，脑科学研究当中，也要把神经科学与大数据、集成电路相结合。

　　定制化、个性化的生产，正在对企业生产和经营模式带来很大的变化。

　　现在服装、家具已经做到了定制化服务，工业产品也可以走向定制。比如数控机床，针对应用的不同，可以设计和制造个性化的产品为不同领域服务；比如3D打印，也可以加入更多个性化的内容；比如汽车，发动机的制造者可以不卖发动机，而是销售发动机的使用价值，一天卖发动机8小时的使用费，通过远程监控让发动机保持在最好的状态。到那时，一个企业不再是做一个产品，而是在做全生命周期的服务，从设计、制造到销售，后续的服务全部都涵盖。你只需按照你需要的服务付费，也就是说你的车上可能轮胎、发动机都不是买的，只需要购买产品的服务小时。

　　工业化加上信息化带来的智能化，其最终目的，应该是实现生产活动高度整合，使得工业系统能够像人一样思考和协同工作，特别是满足用户定制化需求的生产技术，将传统的刚性生产模式转变为柔性生产模式。企业则要关注上下游产业链、生态链，关注从设计到维护的产品全生命周期。

　　未来，高端服务机器人也将是很大的亮点。健康机器人、服务机器人将会有利于产业的发展。当前，中国的工业机器人发展速度稍微过快，重复发展较多，差异也比较大。与发达国家相比，还存在很大差距，主要是产业链关键环节缺失，核心技术创新能力还比较薄弱，高端品质可靠性低。其实在机器人发展中，还需要关注和发展一些高端的内容，我们国家也正在对此进行布局，推动高端智能机器人的发展，以期解决机器人发展的瓶颈问题。

　　《财经国家周刊》：未来3-5年，制造业创新将面临重大变局，到时候世界会变成什么样？中国将会在哪里？

　　怀进鹏：未来三五年，从产业来说，竞争将会在更多的领域展开。无人驾驶汽车、智能汽车以及通讯业等都将发生变化，5G将要在2020年成为现实，并实现规模商用。芯片的集成度如果按当前方式发展达到人的神经源的集成度的话，在2018-2019年，计算能力和处理能力会有巨大的变化。同时我们的传感器快速发展，可以在2公里以外用传感器感受你数据的存在，人的感知处理的能力也会大大的加强。互联网、移动互联网、工业互联网或者物联网都将统筹起来。

　　技术的变化，使得制造业的组织模式、商业的组织模式都会产生一些新的业态。有的新业态未必能成功的大规模运营，但它的影响也是潜移默化的，是渐进式的。新的融合力量会创造出什么样的空间？技术上的创新，也是想象力与现实的比拼。

　　微信，大家从最开始的不习惯到适应到现在都成了低头族，是一个渐进的过程。我们没有办法一开始就判断一个技术绝对的好与坏，技术应该以人为本，通过适应人的需求来不断完善技术。

　　作为科学家来说，探索未知要超越人的想象，超越人的思考。

　　目前一些互联网公司，都形成了自己在人工智能方面的研究力量，大数据分析能力获得了巨大的提升。应该说在这个方面，尚没有形成世界范围内的垄断局面，也正处于一个全面发展的时期，并且在行业运用当中有很多的机会，在这个方面我觉得中国的机会和前途非常大，同时中国在这方面的部署和在产业初步应用方面，已经取得了实实在在的效果。

　　《财经国家周刊》：在当前技术大变革时期，企业如何获得核心竞争力？

　　怀进鹏：企业最知道它需要什么，市场上的竞争靠什么。现在正处于科技创新的剧烈变革时期，我的建议是在技术转折和发展当中也要敢于创新，但是创新也面临着风险。不光要有颠覆性的创新，要渐进式创新。我并不认为阿尔法狗是颠覆性的创新，我们不能设想创新是一天完成的，创新是需要很多积累的。持续创新，对于创新能力的建设是最重要的。

　　另外，作为传统企业，可能也会面临科技的快速变更和产业变更。比如纯制造业看上去都是被一百五十年前牛顿眼里的机械原理设定好了，实际上随着制造业和信息产业的结合，已经在发生事实性的变化。我们要更多地去看现实，也要看到下一步发展可能的转折点。在竞争中生存下来，很大程度看你在转折点中，准备了什么，思考了什么。

　　今年的政府工作报告将创新发展理念贯穿始终，提出要充分释放全社会创业创新新潜能，着力实施创新驱动发展战略，促进科技与经济深度融合，提高实体经济的整体素质和竞争力。

　　从工信部的角度，我们主要抓两个方面。

　　一是传统产业的转型升级，实施新一轮的技术改造升级工程，积极化解过剩产能和有效处置“僵尸企业”，通过焕发新的创造力和活力来提高效率和成本。

　　二是要部署和推动新动能的产生，在新的发展中培育推动新兴产业。工信部推进中国制造2025有五大工程，其中的第一个工程——国家制造业创新中心建设工程，目前已经开始实施。该工程的目标是，到2020年，重点形成15家左右制造业创新中心，力争到2025年，形成40家左右制造业创新中心。