机器人伤人事件：没有意识的它只是人类操控下的傀儡

2016-11-22 10:01

来源：镁客网

　　上周，2016年底十八届深圳高交会（中国国际高新技术成果交易会）突发一起伤人事件，伤人者是一台名叫“小胖”的机器人。一时间，“机器人三定律”又被拎了出来。

　　为了避免机器人伤害人类，1942年，美国著名科幻小说家阿西莫夫在作品《我，机器人》中提出了“机器人三定律”，被称为“现代机器人学的基石”：

　　第一法则：机器人不得伤害人类，或坐视人类受到伤害；

　　第二法则：除非违背第一法则，机器人必须服从人类的命令；

　　第三法则：在不违背第一及第二法则下，机器人必须保护自己。

　　后来，阿西莫夫加入了一条新定律：

　　第零定律：机器人不得伤害人类整体，或因不作为使人类整体受到伤害。

　　对于提出的三定律，阿西莫夫本人曾经无不自豪的说过：“三定律是理性人类对待机器人（或者任何别的东西）的唯一方式。”不过，随着时间的推移以及人工智能的发展，“机器人三定律”的适用性逐渐发生了变化。

　　机器人三定律的几点疑惑

　　首先，机器人如何分辨“人”和“机器人”？一般来讲，机器人主要通过传感器和计算机视觉来感知人类，但是仿生机器人、人造皮肤等进一步将人类与机器人的区别模糊化。目前，人类通过肢体和语言来分辨机器人，但这两者在未来肯定是会进行优化的，届时，连人类都区分不了的情形下，又怎么要求机器人能够准确分辨？

　　其次，在机器人这里，什么才叫做“伤害”？通常来讲，伤害分为生理伤害以及心理伤害。比如甲方对乙方恶言相向，这时候机器人该上前阻止吗？或者说人类失恋酗酒，对于这种“自残”行为，机器人是选择“坐视人类受到伤害”还是上前夺下酒杯？所以，对于“伤害”一词的模糊定义，也给机器人的命令执行造成了一定的阻碍。

　　另外，对于阿西莫夫所增加的“第零定律”中的“整体”一词，这是指个人的整体还是人类种群的整体？若是个人，那是不是人类就不能截肢了？毕竟机器人要确保“整体”。若指的是群体，当自动驾驶汽车撞向行人之时，人工智能系统又该怎么做？

　　除了语义，在逻辑上，如果按照阿西莫夫定律，那么“机器人伤害人类”就是一个“无解”的问题。举个例子，当劫匪实施抢劫之时，按照定律，哪怕受害人下了杀死劫匪的命令，机器人依然要在不伤害劫匪的前提下保护受害人，如此一来，机器人唯有挡在受害人面前接受劫匪的伤害，但是这就违背了第三定律，如此一来，三定律之间本就是相互矛盾的。此外，若是劫匪绑架了人质要求银行交出钱财，机器人是该为了个人的“整体”而交出钱财，还是为了群体的“整体”而杀死劫匪和人质？其实，不管是哪种做法，现实中的机器人终会违背机器人三定律，就如上文所讲，如果按照阿西莫夫三定律行事，机器人只会陷入无限的纠结之中。

1 2 下一页>