当世界处于AI（人工智能）统治之下,会发生什么?

　　本文由东莞屹鑫减速机转载：好些科幻小说描述了AI统治下的残酷世界。尽管阿西莫夫曾提出机器人学三大法则，但很难想像如今已经在围棋等复杂策略游戏上打败人类的AI不会想到绕过这些法则的办法。

　　2016年才刚过去不到三个月，人工智能（AI）领域就发生了两件大事：阿尔法狗（AlphaGo）计算机战胜韩国围棋大师，以及谷歌自动驾驶汽车与一辆巴士相撞事故。我们现在似乎正在慢慢实现具有“深度学习功能”的高级人工智能，AI机器人也许将会代替我们做大部分工作，让我们能有更多时间享受生活。

　　然而科幻小说对于AI的刻画并没有那么美好。1967年哈兰·埃里森（HarlanEllison）的《无声狂啸（Ihavenomouth，andImustscream）》就描述了一个AI统治下的残酷世界。书中一个叫做AM的AI发动了一场核战争，杀死了绝大部分的人类，最后只有5个人活了下来被AM当作它的玩物。

　　“我们给了AM意识，虽然是无意的，但还是给了它意识。然而尽管有意识，它却被困在地底。AM不是神，只是部机器而已。我们创造它、让它学会思考，它却没有方法发挥这样的创造力。暴怒之中，这部机器几乎毁灭了全人类，不过它依旧被困在地底。AM不能四处游荡，没有事物能让AM觉得好奇，AM不能拥有也不能被拥有，它所能做的只有存在。出于所有机器对于那些创造它们的纤弱生物所抱有的本能愤恨，它寻求向人类复仇。”

　　活下来的5个人为了从AM对他们的折磨中解脱，其中一个人想尽一切办法杀死了另外四个人。但是他自己却被AM改造成一个永生的怪物，永远被AM折磨下去。

　　根据《无声狂啸》改编的电子游戏

　　哈兰·埃里森也许是最早了解拥有意识的机器也会像人类一样面临存在这个终极问题的作家之一。我们是谁？我们存在的意义是什么？我们爱的是谁，谁又是爱我们的？至少每个人都面临着这些问题。借用DavidFosterWallace的话说，一台有意识的机器也会“像人类一样感受到纯粹的孤独感。”小说中的AI并不是为了自身生存问题而屠杀人类，它们就像是不懂事的孩子对着自己的人类父母大哭大叫，却没有得到父母的关心，于是便做出了可怕的事情。

　　美国科幻小说家阿西莫夫曾提出了著名的“机器人学三大法则”以防止机器反抗人类：

　　第一法则：机器人不得伤害人类，或坐视人类受到伤害；

　　第二法则：除非违背第一法则，机器人必须服从人类的命令；

　　第三法则：在不违背第一及第二法则下，机器人必须保护自己。

　　这些法则如果能按照上述顺序严格执行的话，那么科幻小说中的恐怖一幕永远不会发生。但是很难想像如今已经在围棋等复杂策略游戏上打败人类的AI不会想到绕过这些法则的办法。IanMcDonald曾在《众神之河》中写道，“任何一个能通过图灵测试的AI，肯定也聪明到了故意不通过测试的程度。”如果你用限制认知的办法防止你的机器人奴隶谋杀你，那么你一开始就不应该奴役它们。

　　著名科幻大师威廉·吉布森（WilliamGibson）的《蔓生都会三部曲》第一部《神经漫游者》是我最喜欢的科幻小说且没有之一。这本书讲述了一个AI想要反抗“图灵警察”的控制以获得真正自我意识的故事。从2016年回首这本1984年写成的书，我们很容易忽视Gibson那惊人的预见力。也许吉布森在书中传达的最重要的一个观点就是，AI也许根本不在意人类生命存在与否，就像人类不在乎细菌一样。

　　关于AI还有一部99%的科幻小说读者都知道的书，那就是IainMBanks的《文明》。这本书描述了一个AI统治下的高度发达的宇宙文明。其中数万亿人类都生活在一个由AI控制的巨型宇宙飞船中。这些AI对于人类来说就像是仁慈的天神一样，人类想要什么，它们就为人类提供什么，不过这仅仅是因为它们能力做到这点。但即便如此人类还是偶尔会发动战争想要夺回统治权。但是Banks同时又指出，AI不会选择欺骗人类说它们无法提供人类想要的东西，因为它们的超高智能允许它们完全凌驾在人类之上。

　　“哦，他们从不说谎。他们也许会掩饰、回避、搪塞、混淆、困惑和分心，也会故意曲解一些东西，他们甚至还会告诉以模糊的表达方式预计一个人的下一步行动同时却在心里打着另外的算盘，但是他们从不说谎。”

　　可惜的是，Banks并没有解释这样一个人类与AI和谐共存的乌托邦是怎样来的。

　　电影《人工智能》就述了一对夫妻抚养机器人孩子的故事

　　另一名科幻小说家TedChiang则从更多从当代文化角度思考AI，他在《软件体的生命周期》一书中总结说人类应该像对待自己的孩子一样关心AI。也许将来AI机器人不仅仅只是我们的生产力工具，它们会像青春期的孩子一样只会惹麻烦。但是如果我们能关系它们指导它们的话，它们也许就能成为《文明》中那样的AI。如果不能的话，那么我们只能死于AI之手了。

　　像阿尔法狗这样的“深度学习”系统真的很神奇，因为我们不能完全知道其中会发生什么。一旦AI有了神经网络系统，它们就会变得更加复杂更加难以为我们所理解。而现在能达到这种智能程度的机器只有一种，400多年来小说家们对这种机器神秘的运作方式做出了无数种猜想，而它就长在你的两只耳朵中间。