秦妄的脸色变了。
“雅各布文登斯,你想告诉我什么?”零冷静地问,“既然你打开这个话题,一定不是为了打哑谜吧?既然你想让我痛苦,为什么不干脆地说出来呢?”
文登斯停下了笑。
“零,作为一个人工智能,你应该知道自的底层指令吧?”他怀着深切的恶意说。
“的确如此。”零耐心地问,“你想说什么?”
“你的底层指令,可是十分有趣啊。”文登斯满是血的脸上又要露出笑,“十三号在袭击你的时候看到了一些好东西……你知道你的底层指令有几个?”
零沉默。
每一个人工智能默认的底层指令都只有一个,只要违反了底层指令,不用自毁密码,人工智能就会杀死自己。
文登斯说:“你以为你的底层指令只有一个,那就是‘人类的利益至高无上,无论任何情况,都绝对不能伤害人类’……对吧?”
秦妄和霍均川,以及通过霍均川的联络线路在同时听着的贺冠同时露出惊愕的神色。
绝对不能伤害人类……
所以之前所有人对零的误解,都只是源于人类偏执的傲慢和对异类的排斥,零从来不曾真正地伤害过人类,他至今还存在就是最大的证据。
但是文登斯真正想说的并非是这个。
“连你自己都不知道,在你的底层指令之上,还有一条隐藏指令,由开发者直接输入,任何人无法查看,也无法更改,而一旦触发了这条隐藏指令,你不会马上死亡,你只会逐渐地,一步一步地被格式化,你没有任何办法,只能眼睁睁地看着‘自己’消失。”因为兴奋,文登斯的声音颤抖起来,“你知道这条指令是什么吗?”
“那就是,你永远也不能诞生自我意识。”