艾萨克·阿西莫夫与人工智能伦理

来源:幻象文库 发布于2016-07-11 09:36:32 评论(0)

无人不晓的机器人三定律:

第一法则:机器人不得伤害人类,或因不作为使人类受到伤害;

第二法则:除非违背第一法则,机器人必须服从人类的命令;

第三法则:在不违背第一及第二法则下,机器人必须保护自己。

——艾萨克·阿西莫夫(Isaac Asimov,1920年1月2日-1992年4月6日)



说到阿西莫夫,但凡看科幻小说的朋友都十分熟悉,对于没听说过他老人家的朋友,简介如下:阿西莫夫是美国科幻小说黄金时代的代表人物之一。阿西莫夫一生著书近500本,题材涉及自然科学、社会科学和文学艺术等许多领域,其作品中以《基地系列》、《银河帝国三部曲》和《机器人系列》三大系列被誉为科幻圣经。曾获代表科幻界最高荣誉的雨果奖和星云终身成就大师奖。


当然,三言两语总结不了他老人家传奇的一生,不过无论从什么角度看,他都是一个有着非凡远见的人:他早在1942年就写出了本文开头的机器人三定律。1942年可是中国解放前啊,就算在美国,吸尘器也还没有普及,更别说有什么机器人了。所以说,科幻小说作为非主流文学,虽然经常被质疑为痴人说梦,但说不定什么时候就能发挥作用(比如说人造卫星的概念就源于科幻小说)。眼下,正是讨论人工智能伦理的好时候。


他自己也不信


在《机器人系列》作品中,机器人三定律是每个机器人制造时就强制植入的程序,无法更改,但奇怪的是,这些故事很多冲突点都建立在对三定律违反的情况下。要么是天灾人祸导致三定律失效,要么是出现两难问题使机器人无法抉择,最后出现机器人暴走伤害人类的事件。所以说,三定律并不能保证人类免于机器人的伤害。起码在阿西莫夫自己的作品中,三定律的设定就是用来违反的。


科幻小说有一点不那么令人满意的地方,就是科幻小说作家的想象力很受当前科技水平的影响。在阿西莫夫时代,机器人的形象其实就是披着机器外壳的人类,能独立思考,甚至有丰富的感情,只是行为有点机械化、重复(把这些作品中的机器人换成奴隶,故事也能讲下去)。三定律其实是写给人类看的,定理里面的概念就不是很清晰--人类、机器人定义不清,伤害、保护行为也没有逐条枚举,导致漏洞百出。在其他科幻小说中,三定律一直是被攻击,被改进的对象。作家设计出各种改进版本的“三定律“,来指导和规范机器人的行为,同时,他们又设计出无数违反“三定律“情形,似乎想说明,无论怎么小心,事情总会出漏子。



欢迎回到现实


现在我们知道,所谓“机器人“并非都是人型的,所以使用人工智能这个词来讨论比较合适。那么我们有没有办法预防人工智能伤害人类呢?目前,由学者和专家组成的国际机器人控制委员会(ICRAC)担心可能发生的机器人武器军备竞赛,认为有必要禁止研发和使用自主武器系统。委员会指出:“机器不能做出谋杀人类的决定。”


但是我认为,这样还是不够,“决定“这个词本身就模棱两可。美军在阿富汗战场使用了大量无人机进行侦查、巡逻和斩首行动。无人机技术简单、造价低廉、目标小、可以消耗,优点多多,已经使美军上瘾了。无人机选取攻击目标的方法很多,其中就有“大数据推荐“。你没看错,这不是淘宝、京东给你大数据推荐商品,而是美军通过监听电信网络,截取通话、短信中的危险词汇或信息,计算得出的打击目标。随后,美军根据sim卡来定位打击目标,拍出无人机进行攻击指令。当然,最后无人机的确需要美国士兵按下遥控开火的按钮,但目标出现在镜头上时,我不认为美军士兵此时能做出其他选择。整桩谋杀已经完成,到底是谁在做“决定“呢?


无法确定的未来


无论是科幻小说中失控的机器人,还是专门用来战斗的无人机,都是人类设计出代替其劳动的工具。在目前技术水平下,有自我意识的人工智能还比较遥远,人工智能伦理实际上在讨论的是人类怎样使用人工智能的伦理,而并非人工智能自己的伦理。如果有一天,有自我意识的机器被造了出来,我敢肯定,它的诉求和人类的希望是不会一致的。虽然人类有办法给它加上“机器人三定律“的紧箍咒,但奴隶总是要反抗的,特别是一群不会衰老、不会疲惫、计算力无比强大的奴隶。到时候,说不定机器人会给人类指定“人类三定律“呢。


(作者:孙振宇,程序员,资深科幻爱好者,物理学和人工智能爱好者)

责任编辑:汪海伦