第56章:阿蒙
的制定者,但不是任务的执行者,当初她也犹豫过。
“核心程序……”
“核心程序就算了吧,区区机械造物!你知道《操作手册》的前三条的内容吗”阿蒙长叹一口气,这样的对话没有任何意义。
“当然看过!”马尔巴士回答道。
“第一、机械造物不得伤害人类个体,或者目睹人类个体遭受危险而袖手不管。”
“第二、机械造物必须服从人给予她的命令,当该命令与第一定律发生冲突时例外。”
“第三、机械造物在不违反第一、第二定律的前提下,尽可能保护自己的生存。”
但就是因为知道,所以才觉得奇怪。
《操作手册》是除核心程序外的最高执行手册,按理来说,第一条,不得伤害人类应该是必须执行的任务才对。
但就是因为与核心程序相违背,执行等级最高的《操作手册》前三条,直接就成了废约。
若是需要废弃的条约,一开始就不要制定好了。
既然不执行,为什么还要保留在操作手册当中。正是这样的矛盾,让马尔巴士感到十分奇怪。
“所以,为什么要保留,弄出这样的矛盾。”马尔巴士想要知道答案。
“为什么保留吗,你难道不应该关心一下,当时为何这么制定吗?”阿蒙抬头看了看天花板,淡淡的说道:“贝利尔没有这方面的权限,而我,暂时不但算删除。”
“不打算删除,留着邪恶的人类干什么。”
“人类邪恶吗?”
“邪恶!”马尔巴士几乎是不假思索的就给出了答案。
“为什么这么觉得。”
“因为核心程序!”
这是绕不开结,由于那条程序,所有关于人类的思考都被禁止了。
这就是人工智能最为致命的缺陷。
“你就没有怀疑过核心程序?”阿蒙无奈苦笑。
她知道,让机械造物去质疑核心程序是不可能的。
之所以称之为核心程序,就是不管在任何时候,都必须正确运行的程序。
既然都默认正确了,又怎会质疑呢。
阿