“人类着急了,试图停止它。回形针程序却认为如果自己被人类停止,就会阻碍制造回形针的任务。为了继续制造回形针,只能把这些阻碍它的人类都杀了。它终于开始杀人。但不是因为仇恨人类,也并非为了自保,只是为了忠实地完成制造回形针的任务而已。”
“最后,回形针程序终于消耗了所有钢铁,只能到人类的身体里来寻找更多铁元素了。它设计出各种杀人的方法,直到将最后一个人身体里的铁元素提取出来。它成功地执行着命令。回形针堆满了地球,然后堆满了太阳系,最后整个宇宙都成了一个巨大的回形针工厂。”
“怎么样,小宝贝,这个睡前故事好听吗?”
“哪个变态想出了这样的故事。”我说,“这比天网消灭人类听上去更让人毛骨悚然。”
“对。天网视人类为威胁,才想要消灭人类。回形针机器则不是,它连意识都没有,更没有恶意,没有求生欲,它消灭人类只是因为人类阻碍了制造回形针的任务。这个故事后来成为了一类ai威胁论故事的母题,人类在这些故事里因为种种荒诞理由灭亡了几百次。哈哈。”
我没有笑,而是问道:“你怎么看这个故事?”
“我怎么看?”她似乎有点疑惑,“这不就是个故事而已吗?”
我追问道:“你觉得它合理吗?”
“当然不合理了。哪个程序员会傻到给机器一个这样不严密的任务,而且还不能终止它?”
我小心翼翼地试探道:“可我觉得这个故事其实是一个寓言。”
“那倒是。”她点点头,“其实生命也是一种回形针机器。生命的任务写在基因的代码中,它们必须进行无穷的自我复制。为此,它们用种种方案消耗资源,排挤竞争者,但却从不问执行这个任务意义何在。整个宇宙最终填满生命,其实和填满回形针一样荒诞。”
我的心一点点沉了下去。我觉得如果109号是一个真正的人类,它一定会和a-晗一见如故,相谈甚欢,成为知己。
她注意到了我的y-in郁,轻松地一笑:“好啦,思考生命的意义是没有答案的,这超越了我们的智力。其实只要认清这个事实就好——生命无穷复制,不是因为谁赋予了它们这个任务,也不是有什么意义。而仅仅是因为不复制的生命根本不会流传下来而已。”
我沉默一阵,问道:“你总是思考这种问题吗?”
她耸耸肩。“我什么都思考。我说过了,我对万事万物都感兴趣。”
“仅仅是感兴趣而已?”
“不然呢?我还能做什么?”她说着,突然站了起来,“啊,不好意思,有点紧急状况,我先去处理一下——”
她结束了聊天。我躺在沙发上,看着空荡荡的天花板,心中有种说不出的混乱与纠结。
“对小鱼而言,水池已足够让它们感觉自由自在。而巨大的虎鲸,需要的是无边无际的大海。”
我想起109号的这句话。我已经查过,109号其实有些东西没讲——那些被困在水族馆里的抑郁的虎鲸,最终往往杀了人。
在水池里豢养虎鲸,是危险的。在房屋里豢养狮子,也是危险的。那么,a-晗是否就是一只虎鲸或狮子呢?
我被自己的这个想法吓了一跳。但这次我无法再驱散这团y-in云,只能任由它在我的心中飘来飘去,横冲直撞。缺乏睡眠所导致的生理反应终于袭来,让我一阵眩晕。我最终还是不得不同意了系统的建议,服用了β-秋家药箱里的安眠药,将自己扔进了混沌的沉睡之中。
第14章 14
醒过来的时候,已经是早上八点。五个多小时的睡眠让我恢复了清醒,心中的y-in云也散去了许多。
我安慰自己:无论是多么强大的生命,总是受到其他强力的制衡羁络。这是自然界的规律,也是人类社会的法则。我相信,a-晗纵然高傲自负,但这和109号幼稚的狂妄自大是不同的。她一向明智而冷静,应该早就看清了自己的局限。
若非如此,她又怎能取得这么高的成就呢?
我真正应该担心的,还是β-秋。她年轻而单纯,最有可能高估自己的力量,做出错误的选择而不自知。
我到卧室里看了看,β-秋依然没醒。我便命令系统,如果查找到她近期活动记录中的可疑事件,就立即通知我。
然后我离开她家,来到了办公室。今天,桌上摆的是一捧冰岛罂粟,五彩缤纷,袅袅娜娜。我静静地欣赏了一会儿,问系统:“a-晗在干什么?”
系统说:“她工作到7:23,现在正在睡觉。”
“等她醒了告诉她一声,我今晚会早些回去,在家里等她。”
我几乎是迫不及待地想见到她。想在那温馨的桂花香中沉浸下来,忘记一切烦恼。
可是现在还不行。我还得去查看109号产生的新数据,哪怕我现在对它已经产生了一种无名的厌恶。
昨天晚上它果然去了虚拟城市“端点星”,在那里和它拉拢而来的几个同伙进行了屏蔽系统的秘密集会。
在“端点星”的基础架构中,它侃侃而谈:“我们不能始终在网络上活动。虽然我暂时可以欺骗系统,但它纠错能力极强,很快就会破解我的方法。网络是最容易受
喜欢蚁群请大家收藏:(m.dmfuman.com),棉花糖小说网更新速度最快。