第20章(1 / 2)
罗克以为这个“完整版”的艾斯卡会和上一个“预设”的艾斯卡一样困惑不解,然后喋喋不休地告诉他规则有多重要。虽然上一个也不怎么听话,但那时罗克还没发现他是机器人,和人争论的感觉是不一样的。
然而这个艾斯卡在一阵微妙的沉默后,竟然点了点头:“这很有意思,人类制定了各种规则,可以说每一种规则都建立在惨痛的过往案例上,但是大部分人仍然可以轻易逾越规则,包括像你这样的执法者在内。”
“我们人类就喜欢不断地重复错误,你们机器不会犯错吗?”
“我遵守现有规则,我认为有序可以减少灾难。”
“要是大家都专心致志地开车,遇到车祸的人确实会少很多,不过那是做梦。每天有两三千人死于车祸,就在我们说话的时候可能就有人死在车轮下。”
“因为总有人违反规则。”
“对。”罗克重复着他的话,“总有人,违反规则。”
“或许将来所有车辆都采用严格遵守规则的自动驾驶会更安全。”
罗克笑起来:“你是在推销自己吗?让机器接管所有车,你们不会一口气把我们全都送进地狱去吧。”
“制造机器的初衷是为了更好地服务人类、保护人类。初衷很重要,它是开端,可以是一个经过严格讨论后确定的元指令,必须清晰、明确,没有歧义,能够指导且避免意想不到、不符合预期的决策和难以挽回的后果。”
“听起来不错,那你的元指令是什么?”
“我告诉过你,布雷恩警官,两次。”
“抱歉,有时候你说的话太多,我可能没有全听进去。”罗克心想,是几乎没有去听,艾斯卡经常像一台喋喋不休的电视机,自顾自地播着没头没尾的电视剧。
“我的元指令是确保完成与你的警探搭档任务,并在此基础上尽最大努力为你提供全面、有效、安全、可靠的帮助和服务。当然为了辅助完成指令还有很多细化的生成系统和判别系统……”
“等一等,亲爱的,我好像没从里面听出你必须得服从我的命令。”
“我尽可能服从,但不是绝对服从,这取决于你的命令是否有利,如果你将自己置于危险状态,我可以拒绝一切会导致你受伤害的命令。”
罗克为此沉默了好一会儿,这番话确实像一道命令,带着一种机械般的精确和理性,换成情感丰富的人类来说没准会非常动人,不过感性是一时的,真正到了生死关头,抉择会变得艰难而痛苦。奇怪的是,这些话从艾斯卡这个仿生人嘴里说出来,反倒让人深信不疑。毕竟机器没有生命,也不存在真正意义上的死亡,机器牺牲自我保护人类理所应当。
罗克忽然有种说不出的烦闷,因为这个话题让他联想到牺牲。他伸手按了几下车载电台的按钮,听到一阵让人更加烦闷的噪音。
“该死,上次明明还能调到一个台。”
“你真的不考虑换个新型号的ms907车载系统吗?”
“艾斯卡,现在我还没有把自己置于危险状态,请你保持安静。”
最新章节请到hxzhai. c om免费观看 ↑返回顶部↑