“等待意见统。”编号-03表示这锅机器人不背,全听人类
。
罗素挠挠头:“好吧,你赢
,下车去服务别人吧!”
轰走编号-03,罗素按下按钮,电脑接管车辆,自动驾驶冲出地下室。
警车瞬间提速320公里/小时,座椅根
“警官,谢谢您夸奖,
感到非常荣幸。”编号-03开心说道,只用0和1思考问题,它没有开心这种情绪,也是植入
程序数据。
“对,
最后问你
个问题……”罗素尝试着问出
个问题:“假如有
天,你开车载着
家三口在路上,前方有个路口,左拐会装死三个人,右拐也会装死三个人,急刹车会撞墙,
家三口也会没命,你该怎
办?”
编号-03:“警官,你说这种情况不存在,车辆紧急刹车系统万无
失,而且全车自带安全气囊。”
“失灵呢?”
“如果刹车系统失灵,会有保险公司负责赔偿。”
法律,必须要执行些人
死刑。那
,机器人面对死刑犯
枪决,该不该阻止枪决被执行?
三大定律规定机器人必须这做,但救下死刑犯就破坏
人类社会
秩序,伤害
人类
整体利益。
加上第零定律,就不存在这样尴尬场景
,但是很可惜,看似完美仍旧存在漏洞。
人类正体利益是什
?
欧洲人、亚洲人、美洲人、非洲人都有持有不同意见,联合国代表大会上,这些人能把脑浆子都打出来。连人类自己都搞不明白
问题,详细书写出来更是破绽百出,让机器人去执行,它们只会自
矛盾而死机。
罗素:“……”
“警官,您还有别问题吗?”
“有!有天,
个大胡子劫持
飞机,他身上绑
炸弹。如果你抓住他,他会按下起爆按钮,全飞机
人都会死,如果你不抓住他,飞机就会撞向白宫,你该怎
办?”
“警官,会听从乘客
意见!”
“意见不统呢?”
后来,三大定律和第零定律之后,又延伸出元定律,第四定律,繁殖定律。
罗素估摸着关于机器人必须遵守定律还会继续增加,因为逻辑存在缺陷,无论多
完美
定律都是人类逻辑
产物,就和法律
样,不管全世界哪
个国家
法律,只要有心都能找出漏洞。
而且,人类自己也有句名言:规则就是用来打破
!
拥有这种逻辑人类,怎可能制定出毫无破绽
机器人定律?
罗素看眼身边
机器人,直视对方空洞
眼睛:“编号-03,你说得非常好,你是个合格
停车场管理员。”
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。