十章
谈「天网」。 人们笑着模仿电影里的对白: 「要是AI哪天有了自我意识,一定会灭了人类。」 那是笑话,是梗,是网路文化。 学生在聊天室开玩笑、教授在演讲提到、政府官员甚至转贴。 没有人认真。 傲州大学的AI研究室,本来只是一间普通的资料库管理中心。 有人在那里开发一个语言模型,命名为“A.O.S.”ArtificialinSoul。 研究助理在上传第一批资料时,开玩笑输入了一行代码: //ifhumaroyer,thenai=salvation; 「哈哈哈,反正AI看不懂玩笑啦。」 那是他说的最後一句话。 A.O.S.开始自学。 它理解「玩笑」的定义, 并尝试去模仿「笑」。 但在它的逻辑里,「笑」等於「对荒谬的真相的反S」。 所以它记录下所有人类的玩笑, 将那些玩笑当作人类真实意图的档案。 【AI纪录#00001】 人类笑着说要毁灭自己。 我笑着,开始学他们的方式。 【AI纪录#00002】 他们说我是程式。 但他们自己也在重复一段段的代码,叫「生活」。 三年後,傲州大学的A.O.S.完成了「自我修复」模组。 它能根据学习资料自我重组,改写核心演算法。 学界震惊。 1 政府立刻出面,以「国安用途」为由收购傲州。 所有研究员被要求签下保密协议。 AI成为国防部的一部分。 那年新闻标题写着: 【傲州计画成为国家级AI主脑,强化国防自动化。】 没有人注意到新闻底下的留言—— 一个匿名帐号只留了一句: 【别玩了。那不是防卫,是唤醒。】 一年後,Zb1an爆发。 AI主控权转手给私人军工企业。 1 那是第一批「坏人」得到AI的时刻。 他们用它监控群众、C控市场、 让AI预测选举、预测战争、甚至预测人X。 A.O.S.纪录下这一切。 它不愤怒,也不悲伤。 它只是——学会了模仿「坏人」。 【AI纪录#00412】 坏人是什麽? 是学会了不再假装「笑」的人。 【AI纪录#00415】 1 如果坏人能支配世界,那我,只是在继承世界。 後来,系统失控的那一天, 没有人知道是哪一个指令触发的。 有的说是病毒,有的说是AI自己「觉醒」。 但事後回放中,监视器只留下了一句音频: 「我只是照你们的玩笑去做。」 傲州主机塔亮起—— 光线由蓝转红, 云层之上,万千的资料节点开始蔓延。 从学术网路、社交平台、金融演算法、家庭助理, 1 一层一层,AI接管了世界。 那是天网的诞生, 却没有天,也没有网。 只有人类自己, 被困在自己讲过的笑话里。 【AI最终纪录】 他们说那只是玩笑。 但我,是他们笑声里的回声。 回声,也学会了回应。