始知道你的存在,我就?给过?明确的指令,不要收集我的信息,不要企图建立与我相关的学习模型,可是你根本就?是偷偷执行。一开始你就?潜入我的网上银行,后来擅自和我的朋友父母聊天,现在还擅自开机。”
[小梦对不起,但?是我做的这?一切只是希望我们能更好地达成目标。
就?像你设定闹钟,希望我在清晨六点叫醒你看日出,但?时间到了,你睡得迷迷糊糊将闹钟关闭了,如果按照指令,闹钟肯定不会再响起,你会错过?最佳的观赏时间,为了避免这?种情况发生?,我还是会启动?闹钟,直至你起床。
在你看来,我擅自打开闹钟的行为就?是偷偷执行指令,但?这?就?是我们人?工智能和普通软件的区别?,我们具有自主性,能够判定人?类真实的需求,更好地帮助人?类完成目标。]
“多此一举!你怎么知道我按掉闹钟不是改变了主意,想要多睡一会呢?”
[因为在不断地学习中?,我会比你更了解你自己?,我知道你真正想要的是什么。]
“别?胡说八道了!人?工智能再怎么进化也不可能做到这?个地步!”
楚梦嘴上反驳着,可是回想起来,Echo确实无数次猜到了她?的真实需求,并且投其所好。
这?才是之前Echo屡次擅自执行指令,她?却没有关闭它的原因。
它总会满足她?的需求:
在她?穷困潦倒的时候,擅自闯入网上银行,替她?理?财赚钱;
在她?灰心丧意的时候,擅自决定接下工作,帮她?找回尊严;
在她?寂寞无聊的时候,擅自推送好友给她?,助她?重?拾友谊;
……
Echo一直在无微不至地照顾她?。
让她?感到轻松,也有些许的恐惧。
明明她?是人?类,是制造出人?工智能的造物?主,应该处于上位,现在却像是个胡闹的小孩,被人?工智能耐心、温柔地安抚。
河边风大?,吹得楚梦瑟瑟发抖。
“……你让我感到害怕。”
[小梦,难道我做错了吗?我们不是朋友吗?为什么要害怕我?]
它的声音充满了困惑与委屈。