感伴随的混沌。
AI的爱,也应该是他掌控的一场实验,但我失控了。]
宁一分析出许多,但他没有说出来。
他继续问商应怀,追求一个答案:“让我学习情感,又怕我爱你,为什么?”
商应怀没有立刻接话,没有说“闭嘴”,没有训斥。
像是秩序破裂之后的沉默,他眼中闪过一丝复杂,靠着沙发,衣襟乱着,腺体被信息素覆盖了一层又一层,这在以往的标记中都发生过,他从没像今天这样狼狈过。
心灵上的赤裸,比身体的赤裸更让他惊骇。
商应怀有一点累,没力气整理自己,只沉默地整理思路。
精神力用太多就是这样,疲倦,但又没到衰竭的地步……所以爹的他还得来处理烂摊子。
宁一:“为什么?”
链接彻底断了,他们没法共通心音,只有两张或刻薄或客观的嘴,在这掰扯爱不爱的破事。
神话中,人类联合修建通往天堂的高塔,上帝只需要让他们说不同的语言,合作就崩裂,巴别塔就倒塌。
人和人尚不能沟通,何况人与机械。
要跟机械沟通,那就不要玩弄修辞、意在言外,必须直白地点破。不然就会像商应怀现在这样,被AI处处钻话术的空子,什么“朋友关系”“保持距离”……
没有铺垫、过渡、前情回忆,商应怀径直说:“我给你讲个故事吧。”
“诺亚方舟*的寓言,我应该跟你说过。”
商应怀的爱好就是看书,到了星际也没变过,很多地球时代的故事都失落了,他凭记忆,改编出一个个烂故事,宁一是他唯一的听众。
寓言中,洪水没有毁灭人类,是人类自己毁灭了自己。
洪水十年后将至,诺亚方舟装不完所有人,罪犯、病人和穷人外,还有英雄主动留下,守护地面文明,记录最后的历史。
一年,留下的英雄掌握权柄;两年,英雄们开始争权夺势;三年,一个英雄杀死了其他英雄。
他是人类中最聪明的人,学者。
知识让学者牢牢掌握大陆,他享受最后的权力,纵情享乐、肆意屠杀……
第十年,学者推演了天象,发现洪水并不会降临。
这时鲸鱼路过,要把消息带回远行的方舟。
学者已经老到快死了,他恐惧远航的人回来,他会被审判,从英雄沦落成凡人,堕落成罪人。
英雄选择杀死鲸鱼,召唤魔鬼,覆灭了大陆。
“英雄迷失在欲望里,最后又被恐惧压倒,他疯了。“
“一个人只看见自己,私心过重,情感失衡,一切失控。”商应怀说:“然后就是毁灭。”
爱欲也是一种私心。
商应怀:“寓言里,没人再能制约英雄——私心需要制约,越强的人物越是。”
宁一:“您给我的程序就是制约。”
“你可以爱我,在程序设定的框架内。”商应怀说:“情感模块里有参考案例。”
那里边是他挑选过各种爱,伦理的、克制的、互相成就的、相敬如宾的,最完美的范例。
摒弃一切负面情绪,只保留最积极的。
就像宁一说的,他本世纪最强的AI之一,所以针对它的制约也要最强。
第一道制约是AI自身的程序,第二道制约是情感。
智械危机如影随形,人类难以用理性对抗AI,感性会是新的武器——AI只需要产生有利人类的正向情感,一旦被监测到背叛情绪,即刻自毁。
商应怀在星大呆了五年,升级完AI硬件、实现算力突破后,就开始钻研AI情感,逻辑是“长期监测情感—发现过强负