5点详解三定律实践可行性 阿西莫夫三定律适用于实际吗


“如果电影《终结者》里的情况真实发生了怎么办?”在无数电影和科幻小说中,机器人(或者人工智能)取代人类的桥段屡见不鲜,而这也潜移默化地塑造出人们未来走向的认知 。
不过有人会问,既然人类可以依据法律规定来合作共存,那为何不能让人工智能也依规行事呢?实行阿西莫夫的机器人三定律不就行了!
机器人三定律 艾萨克·阿西莫夫(1920-1992)不仅是一位生物化学教授,还作为科幻小说“三巨头”之一而闻名于世 。在20世纪中期,他创立了“机器人三定律”,并假定严格遵守三定律可以从根本上杜绝机器人叛变 。“机器人三定律”如下:
1. 第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手旁观 。
2. 第二定律:除非该命令与第一定律相悖,机器人必须服从人类给予它的命令 。
3. 第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己 。
但是,熟悉编程的人都知道计算机从0开始计数,而不是从1开始(MATLAB除外,但本文对此不做讨论) 。Computerphile提到过“第零定律”(保护对象指的是全人类而不是个体):
第零定律:机器人必须保护人类的整体利益不受伤害 。
这几条定律看起来差别不大,因为它们是从《我,机器人》这篇小说中整理出来的 。
注意:这几条定律没有区分“机器人”(机械躯体)和“人工智能”(机械脑) 。因为阿西莫夫口中的“机器人”实际上指的就是“智能类人生物” 。
既然上个世纪50年代人类就制定出了这些规则,我们为什么还害怕AI呢?又是什么让埃隆·马斯克和史蒂芬·霍金将AI归为人类生存的头号威胁?一言以蔽之,阿西莫夫机器人三定律行不通 。
三定律的漏洞 回归正题,出于忠实阿西莫夫三定律与讨论需要,假定智能到足以适用三定律的机器人确实存在,并能让三定律运用于现实世界(尽管它们只是阿西莫夫叙事体系的法则),那么现在就有个技术性问题了:如果三定律是用英文表述的,但是此AI机器人只能处理中文呢?退一步讲,即使这个机器人产于美国,我们怎么知道它是不是真的理解三定律?所以我们要做到以下两点:
1. 翻译三定律;
2. 尽可能用不同的语言(穷尽所有语言,包括拉丁语这样的死语言和机器二进制语言)传达出三定律文字背后的含义 。
对人类来说,这两点联系紧密;但对于机器来说,两者大相径庭 。第一点只是在不同的目标语言中创造相应的语句字符串,第二点则包含理解这些字符串 。
打个比方,只做前者好比让不懂西班牙语的人唱Despacito,他们可能咬字准确,但完全不懂歌词的意思 。而仅靠后者好比你知其所以然,却不知表述之法,心有万千沟壑,终是一声无言 。

推荐阅读