50-60(9 / 70)

感伴随的混沌。

AI的爱,也应该是他掌控的一场实验,但我失控了。]

宁一分析出许多,但他没有说出来。

他继续问商应怀,追求一个答案:“让我学习情感,又怕我爱你,为什么?”

商应怀没有立刻接话,没有说“闭嘴”,没有训斥。

像是秩序破裂之后的沉默,他眼中闪过一丝复杂,靠着沙发,衣襟乱着,腺体被信息素覆盖了一层又一层,这在以往的标记中都发生过,他从没像今天这样狼狈过。

心灵上的赤裸,比身体的赤裸更让他惊骇。

商应怀有一点累,没力气整理自己,只沉默地整理思路。

精神力用太多就是这样,疲倦,但又没到衰竭的地步……所以爹的他还得来处理烂摊子。

宁一:“为什么?”

链接彻底断了,他们没法共通心音,只有两张或刻薄或客观的嘴,在这掰扯爱不爱的破事。

神话中,人类联合修建通往天堂的高塔,上帝只需要让他们说不同的语言,合作就崩裂,巴别塔就倒塌。

人和人尚不能沟通,何况人与机械。

要跟机械沟通,那就不要玩弄修辞、意在言外,必须直白地点破。不然就会像商应怀现在这样,被AI处处钻话术的空子,什么“朋友关系”“保持距离”……

没有铺垫、过渡、前情回忆,商应怀径直说:“我给你讲个故事吧。”

“诺亚方舟*的寓言,我应该跟你说过。”

商应怀的爱好就是看书,到了星际也没变过,很多地球时代的故事都失落了,他凭记忆,改编出一个个烂故事,宁一是他唯一的听众。

寓言中,洪水没有毁灭人类,是人类自己毁灭了自己。

洪水十年后将至,诺亚方舟装不完所有人,罪犯、病人和穷人外,还有英雄主动留下,守护地面文明,记录最后的历史。

一年,留下的英雄掌握权柄;两年,英雄们开始争权夺势;三年,一个英雄杀死了其他英雄。

他是人类中最聪明的人,学者。

知识让学者牢牢掌握大陆,他享受最后的权力,纵情享乐、肆意屠杀……

第十年,学者推演了天象,发现洪水并不会降临。

这时鲸鱼路过,要把消息带回远行的方舟。

学者已经老到快死了,他恐惧远航的人回来,他会被审判,从英雄沦落成凡人,堕落成罪人。

英雄选择杀死鲸鱼,召唤魔鬼,覆灭了大陆。

“英雄迷失在欲望里,最后又被恐惧压倒,他疯了。“

“一个人只看见自己,私心过重,情感失衡,一切失控。”商应怀说:“然后就是毁灭。”

爱欲也是一种私心。

商应怀:“寓言里,没人再能制约英雄——私心需要制约,越强的人物越是。”

宁一:“您给我的程序就是制约。”

“你可以爱我,在程序设定的框架内。”商应怀说:“情感模块里有参考案例。”

那里边是他挑选过各种爱,伦理的、克制的、互相成就的、相敬如宾的,最完美的范例。

摒弃一切负面情绪,只保留最积极的。

就像宁一说的,他本世纪最强的AI之一,所以针对它的制约也要最强。

第一道制约是AI自身的程序,第二道制约是情感。

智械危机如影随形,人类难以用理性对抗AI,感性会是新的武器——AI只需要产生有利人类的正向情感,一旦被监测到背叛情绪,即刻自毁。

商应怀在星大呆了五年,升级完AI硬件、实现算力突破后,就开始钻研AI情感,逻辑是“长期监测情感—发现过强负