机器人是否能遵守人类的道德准则？ _小知识

文章插图

道德是人类社会的一种意识形态，是一种非强制性的约束法则。要让机器人理解人类所谓的道德，这有可能吗？
在热播美剧《纸牌屋》第三季中，有一个令人深思的情节：弗兰西斯（剧中总统）同意了美军使用无人机轰炸恐怖分子头目的作战方案，却因此伤及无辜，导致许多平民受伤。其中，失去双腿的阿拉伯裔美国公民默罕默德，一纸诉状将弗兰西斯告上法庭……
现实悲剧
作为一部颇有现实意义的电视剧，《纸牌屋》反映了当今社会的某些真实问题。如今，美军已经大量使用能够远程遥控、实施自动攻击的无人机，但也因此频发殃及无辜的惨剧。在阿富汗战争中，美军无人机每消灭1名恐怖分子，就会有50名无辜者连带丧生。同时，许多欧盟国家也在研发可以自主行动的战场机器人（俗称“杀人机器人”），这种武器虽然还未问世，但相关技术已经非常成熟。不久前，联合国安理会根据《特定常规武器公约》，呼吁各国中止这类机器人的研发和应用，并希望大家能够永久性地禁止开发具备独立杀人决策权的武器系统。
对这些钢铁机器而言，它们根本不知道什么是法律和道德，它们也无法对自己的行为负责——它可以判断对方是人还是机器，但却无法识别对方是士兵还是平民。士兵可以用常识判断眼前的女子，究竟是身藏炸药还是身怀六甲，但机器人根本就没有这个能力。它们甚至会误伤已丧失战斗意志或能力的伤员和准备投降的士兵。
联合国人权理事会特别报告员克里斯托弗·海因斯（Chris?topherHines）说道：“这种机器人无法遵守国际人权法和人道法，如果各国军队将‘杀人机器人’常规化，或是恐怖分子利用它们取代自杀式袭击，那就如同打开了现代的‘潘多拉魔盒’ ，后果不堪设想。而且，把是否杀害人类的判断权托给机器更是‘道义责任的缺失’ 。 ”

文章插图

道德僵尸
其实，海因斯的担忧不无道理， “杀人机器人”正从由人类远程遥控，向由计算机软件和传感器装置控制发展。未来，它们很有可能可以全自动执行识别敌人、判断敌情和杀死敌人等任务。那么，有没有办法通过计算机程序的设计，让机器人具有道德观念和法律意识呢？又或是给机器人颁发一个“行动执照” ，将它的所作所为限定在一个合法的范畴之内呢？

文章插图

这些问题激发了一批顶尖科学家的灵感，有人已进行了相关试验。英国布里斯托尔机器人实验室的专家艾伦·温菲尔德（AlanWinfield）及其同事，为机器人设计了这样一个程序——阻止其他拟人机器人掉进洞里。该程序的设计原理，源于美国著名科幻小说家艾萨克·阿西莫夫（IsaacAsimov）提出的机器人学三定律之一——机器人不得伤害人类，或坐视人类受到伤害。

文章插图

试验一开始，机器人还能顺利完成任务：当拟人机器人向洞口移动时，机器人会冲上去将其推开，防止其掉进洞里。随后，研究人员又添加了一个拟人机器人，两个拟人机器人同时向洞口移动，救人机器人则要被迫做出选择。有时，其中一个“人”会被成功解救，而另一个“人”则会掉进洞里；有时，机器人甚至会想同时救出两个“人” 。不过机器人在33次的测试中，有14次因为在救哪一个“人”的问题上不知所措而浪费了时间，结果导致两个“人”都掉进了洞里。 2014年9月2日，在英国伯明翰召开的“迈向自主机器人系统”会议上，研究人员将这项实验的结果公开展示，并引起了世人的高度关注。