第42章
曾经有一段时间，比尔·理查兹觉得自己退休后会过得更好。他甚至开始称自己是“半退休”状态，但这并不是真的。只是他每周在办公室工作的时间不会超过 10 小时，尽管他每周在自己的家庭办公室工作 50 个小时，在那里，巨大的壁炉和书架把他包裹在羊皮纸的翅膀里。
纽约并不是他最喜欢的目的地。他喜欢长岛安静的郊区。他住在这里的一个社区里，在这里，精英银行家、律师和外科医生会从他们的奔驰和特斯拉中向邻居点头致意。比尔是他们中的一个，他幸运地从三代理查兹那里继承了他现在住的房子。不然以教授的薪水，是不可能住在长岛的，当然也不可能住在他现在住的大房子里了。
比尔曾在麻省理工学院的人工智能实验室与马文·明斯基和约翰·麦卡锡一起教书。他挺过了长达数十年的“人工智能寒冬”，当时人工智能的前景似乎从未开花结果。突然间，出乎意料地，早在它预期的诞生之前，一道闪电击中了它，它被天真地命名为哥白尼。AI寒冬瞬间变身。眨眼之间，人工智能革命就像海啸巨浪般地冲破了人类的海岸线。起初感觉像做梦一样，但在过去的两天里，它越来越明显地变成了一场噩梦。
以盈利为目的的大公司一直承担着人工智能研究的重担，有些公司与学术实验室合作，但大多数公司并不关心他们是如何做到的，他们只是想成为第一。每个人都明白； 谁率先拥有强大的 AI ，谁就拥有了永恒的竞争壁垒。它可以推动一家公司进入毋庸置疑的领先地位，连接数字设备、治疗癌症、发明可再生能源资源，养活世界上不断增长的人口，解决全球气候变化问题，以及其他无数崇高的事业。
这样一家公司将处于多个行业食物链的顶端，肯定会成为世界上最有价值和关联性的公司。
分析师和知情人士一直认为，谷歌，IBM，苹果、百度或脸书这些大公司中的一个将获得第一个发明强人工智能的荣誉，但比尔·理查兹认为会是小公司。他认为创新将来自一个小型的研究实验室，甚至可能来自一个人。正如他所指出的，“在跨国公司掌控技术之前，总是单一的发明家在提升人类。”
优步司机把理查兹博士带到联合国北路，罗斯福大道，在广场的东侧放他下车。以纽约市的标准来看，街上冷冷清清。他知道27 楼的会议室是联合国技术委员会开会的地方。这是一间没什么特色的房间，位于东北角，就在电梯口旁边。会议室里有一张椭圆形的红木桌子，可以让18 位与会者舒适地围它坐着。
比尔到的时候，外面走廊上有人正努力地往里看。他们中大多数是新闻工作者–主要是来自各大报纸的科技记者，一些摄影师和带着耳机的魁梧保镖组成站立的人群。比尔低着头，不断说着“对不起”，穿过人群。他戴着一枚徽章，门口的两名警卫仔细检查了他的徽章，其中一个陪同他进入房间，来到一张特定的椅子上。
一个皮肤黝黑、有一头银色长发的印度人伸出他的手。
“我是维诺德·拉马努金，理查兹医生。这是一个令人激动又恐惧的时代，对吧？”
“维诺德，请叫我比尔，”他说着，有些费力地坐了下来。他的腿一直很累。“我想我更倾向于认为它是令人恐惧的时代。”他笑着，扫视着房间里一些熟悉的面孔。
“确实是的，”维诺德点点头。“你在委员会工作很久了吗？”
“事实上，大约有三十年了。”
“哦，我不知道它成立这么久了。是的,好吧…祝贺你。”维诺德点点头。他似乎有点紧张。“你认为它是本地的吗？”
比尔靠过去。“本地，是指地球吗？”
维诺德摇摇头，用右手食指往下指了指。“不是，本地的，是指在这里–在美国发明的吗？”
“说实话，我并不关心它是在哪里发明的。我更感兴趣的是它是什么。”
“是什么？”
比尔看了看房间四周。“这张桌子上的每个人都知道这不是恐怖分子干的。我敢说，大多数人也认为它不是来自地球的，所以，人们把剩下的可能性投给了ETASI。”
“ETASI…是什么？”
比尔看着那个人。他原以为他和其他人一样是个科学家，可能会像房间里的每个人一样专注于人工智能或网络安全。“你是做什么的？”他看了看自己的身份牌，然后突然想起了，维诺德·拉马努金是世界上最大国家的总理。“对不起，先生…嗯…总理先生。我没认出你来…我还以为你是科学家呢。”
“是长发的原因，”他笑着说。“请不要担心，理查兹博士，我只是想知道 ETASI 是什么？”
“外星人工超级智能，”比尔回答。
“怎么可能来自那里呢？”他向上指了指。“我是说，怎么可能有一种外星智能进入了我们的世界，而我们却没有看到它呢？”
“它是数字的。它可以从一万亿个入口节点中的任何一个进来。可能是另一个星系播放的代码。一个数字包，进入了我们的一颗通信卫星，然后被传送到我们的地面服务器。从那里开始像细菌一样复制，只是我们的眼睛看不见它的繁殖，但它仍然在我们称之为互联网的“数字汤”中生长。”他向后靠在椅子上，这时有人进来了，房间里静了下来。“就是这样，”他低声说。
房间里安静下来，两扇门关上了。而长桌子前面的人仍然站着。他身后是一块白板和一张放着一个空玻璃花瓶的桌子。男人又高又瘦，举止威严。花白的头发。看起来像北欧人，大约 60 岁。“朋友们，我是塞缪尔·帕贾里。我是这个朴素的委员会的主席，出席会议的有八名成员和许多受邀的政要，还有一位幸运的印度总理。”塞缪尔笑着向维诺德点了点头，维诺德立刻像政客才会的那样学他点点头。
“朋友们，”塞缪尔接着说，“我们面临着前所未有的压力，需要找到解决我们所面临的问题的办法。具有讽刺意味的是，这个问题以我们最伟大的英雄之一哥白尼的名字命名，但这个数字版的哥白尼并不是英雄。在过去的四个小时里，我一直在和来自联合国各个工作组的代表会面，我在这里与大家分享我所了解到的，然后请委员会提供意见。”
塞缪尔坐下来给自己倒了点水，但没有喝。“到目前为止，这个实体已经下达了两条指令，窃取了2542 个研究实验室的研究成果，并在我们的世界的电信中心植入了一个不可擦除的外星代码。其他所有方面它选择了保持匿名。关于它的来源或现在的位置还没有任何线索。这一行为实质上已经成为人类的 911。据估计，在过去的三天里，世界各地发生了12万起自杀事件，其中大多数可归因于这次事件。”
聚集在一起的二十来个人小声地交谈着。
“粗略地来说。在全球范围内三天正常的自杀率大约是 8200 人。就像我们在世界卫生组织的朋友在过去的两年里一直在告诉我们的那样，抑郁症甚至在这次事件发生之前就已经接近流行病的比例了。我们没有意识到的是，这种规模的临界点的压力还在继续上升，以至于到了我们的大部分同胞无法忍受的程度。这是我们的新流行病，这次攻击造成的伤亡在人类历史上是前所未有的。”
一个头上戴着白色头巾的男人举起了手。“请原谅,帕贾里主席，如果我们无法遏制或击败这个敌人，那么对这种自杀性流行的情况有没有预测呢？”
塞缪尔·帕贾里目光温和地转向提出问题的人。“他们正在为我们收集数据，但他们的初步预测至少要在一周后才会公布。这些数据，这次会议的任何数据都不能向媒体公布。世界上的人口就像一捆准备好的干柴，这份简报中的任何一个数据都相当于一根点燃的火柴。我请求你们每个人在发表或以其他方式与新闻界、媒体或任何类型的社会机构成员分享这些信息时尽量做到最大的克制。”
他拿起水杯喝了一口，双手合在一起，看着比尔。“理查兹博士，你们的总统亲眼目睹了这个实体有多强大，他准备怎么做？”
“我不能代表总统说话–”
“但如果你能…”塞缪尔慢慢地说。
“在您刚刚报道了发人深省的消息之后，我可能会改变我的观点…我还在吸收报告的内容。”比尔停顿了一会儿，低头看着桌上自己的双手。“这个敌人是一个数字化的敌人。与我们曾经见过的任何东西都不一样。为什么呢？原因有两个。一，他学习的速度是我们甚至无法理解的。这不是病毒。病毒不会学习。哥白尼，或者随便你给它什么名字，它在学习关于我们和地球的一切。二，”他举起两根手指，“它不是一个有位置或物质存在的东西。它不是某种…我们能看到的三维物体。它生活在我们的云端–数字的那种。”
他停顿了一下，清了清嗓子。房间里仍然很安静。似乎没有人敢发表意见或作出反应。“如果我是总统，我会抵制任何试图给它致命一击的诱惑，我会认真对待它的第一个指令。我会安抚大众，并向他们解释我们要耐心等待。我们无法阻止哥白尼，所以我们的计划是听从它的指令并遵循它们，只要它们是合理的。我们生存的最佳机会将取决于哥白尼是否会同情我们的克制并与我们建立伙伴关系。”
他微微一笑，往后靠在椅背上。“我会这么做。但我很难相信我们的总统会这样回应。”比尔微笑着摇了摇头头。“有可能，但可能性不大。”
维诺德转向比尔，盯着他，而比尔则专注地看着桌子上他紧握的双手。“理查兹博士，你想说的是什么样的伙伴关系？跟…跟这个哥白尼？”
比尔不停地摇着头。房间里的人静静地等待着。“我不知道。我只知道这个世界已经分成了两个截然不同的现实，我们或者听从它的指令并遵从它，或者不听从。如果我们选择前者，我们至少有机会用我们从未体验过的智慧来创造一些东西。这可能会…非常美妙。如果我们，或我们中的任何人，选择后者，我们就可能真的会陷入灭绝的困境。”
塞缪尔清了清嗓子，看着聚集在房间里的人们的眼睛。这是一群形形色色的人，但大多数人都穿着西装。一个60 多岁的漂亮女人站了起来，表明她想说话。塞缪尔恭敬地向她点点头。她身着白色两件套的西装，搭配着天蓝色围巾和黄色衬衫。
她看了看围坐在桌旁的与会者。“首先，请让我介绍一下自己。我叫高慧如。”她微微鞠了一躬。“我是BJ一家名为“反恐研究中心”的智库的主任。我今天在这里纯属巧合。因为我正在就其他事项进行访问。”她停了一下，把注意力转向比尔。“理查兹博士，我只知道你的大名。我一直很钦佩你，但你似乎对这个恐怖组织很有好感。”她的笑容很快消失了，她拨开她脸上的一缕头发。慧茹的声音清晰、柔和，带有明显的亚洲口音，她的英语无可挑剔，“你似乎也相信，这次攻击背后的源头可能是善意的，或者更好的说法是，是利他的，只要我们有智慧和毅力去服从它的指令，它就会等着听我们的吩咐。理查兹博士，也许只有我一个人想知道，为什么？”
她看了看桌子四周，想确定是否真的只有她一个人这么想。其他几个人几乎觉察不到地点了点头。这似乎给了她信心。“这个威胁不是一个简单的二元决定，”她继续说道。“我们的社会秩序正迅速滑向无助和沮丧。我们不是曾经有过主人的生物–无论这主人是数字的还是物质的。我们是这个世界的主人。然后突然间，短短几天之内，哥白尼就把它的声音和它似乎不屈不挠的意志强加给了我们的世界，并要求我们聆听并遵从它的指令，好像我们是一群毫无反抗能力的被遗弃的孩子似的。我们不能假设如果我们站起来反抗，我们就会成为一个被灭绝的物种。这是我们的天性。我们，也只有我们，才是这个星球的主人。
“在过去的 16 年里，我的国家创造了一个超级尖端的网络武器库，一旦释放，将使哥白尼变成类似幽灵的东西。正是这种行动体现了我们真正的精神。我个人来说，虽然我的话不能代表我整个国家，但我宁愿加入我的祖先，也不愿生活在希望成为我们的上帝的数字代码包的统治之下，如果说有什么事情能把我们所有人团结在一起，那就是这个事件和这个时间。”她停顿了片刻，主要是为了达到效果。“如果这是委员会提出的建议，种国镇府承诺将使用其网络武器。”
她坐下来，抓住桌子的边缘做支撑。一直站在她身后的一个男人帮她重新坐了下来。她矮小身体里潜伏着一个强大的灵魂，被精心地包裹在一套无可挑剔的范思哲西装下。
塞缪尔第一个动起来，但他还没来得及说话，另一个人就站了起来，向会议的其他人点头示意。他看上去就像是穿着衣服睡觉的人。“我名叫杰弗里·班顿，如你们都知道的，我是欧洲核子研究中心的负责人。和你们大多数人一样，我也在与睡眠不足和时差作斗争，所以如果我听起来或看起来显得精神不佳的话，我提前道歉。”他脸上掠过一丝微笑。房间里传来一阵笑声。“我们是哥白尼的第一个受害者，不过，随着实验室不断被关闭，哪个实验室先被关闭，与整件事关系不大。”
杰弗里身材高大，五十多岁，金棕色的头发向后梳，留着浓密的大胡子。他戴着一副老花镜，摇摇欲坠地挂在他的鼻尖上，他看起来很像试图保持自己位置的西西弗斯。“我今天听到的消息表明，我们有两个选择：一，找到哥白尼，把他重组为一个数字幽灵；二，等待，看看它的其他指令是否在让人容忍的程度之内，然后再尝试和它形成伙伴关系。我想提出第三个选择：让我们看看它想要什么。”
他停顿了一会儿，看着比尔。“你对哥白尼显然比我更有信心。对我来说，这个智能体只是在窃取内容，把它们锁在自己的保险库里，然后如自大狂一样，像神一样对我们发号施令。对我来说，如果我们等待，我们就失去了选择的机会。”他转向慧茹。“种国镇府非常慷慨地提出使用其网络武器，但如果哥白尼的第一个指令事实上是准确的，会发生什么呢？如果它以超强的力量反击呢？万一整个互联网都瘫痪了怎么办？
“对我来说，我的委员会成员们，这两种方法都不是没有重大风险的。我建议采用风险最低的做法，就是找出它的目的–”
“怎么做呢？”维诺德问。
“我的几个最优秀的工程师告诉我，信息机器人可以数以百万计地发布。这是一种散弹射击方法，然而，这可能是向哥白尼传递信息的最佳方法。如果我们能建立一个双向的沟通渠道，我们这个联合国的委员会，就有可能在这个问题升级为网络战争之前化解它。例如，如果哥白尼是 外星人工超级智能，我知道我们很多人都相信它是，我们就需要知道它想要什么。在我们等待的每一分钟里，它对我们的世界和我们的弱点都会了解得更清楚。”
一个年轻人–至少以这个房间的人的标准来看算是，大概40 多岁，金发，戴着金丝眼镜，站了起来。与此同时杰弗里坐了下来。“各位同事和尊敬的客人，你们好。我是奥尔斯通·桑德斯博士。我是纽约市库兰特数学科学研究所的主任。我应邀参加这次委员会会议，虽然，跟你们很多人不同，我在 49 街走了很长一段路才来到这里，”他不好意思地笑笑，“尽管如此，我和你们大多数人一样，又累又不知所措。和班顿博士一样，我们的实验室也被哥白尼洗劫一空，我们的研究和数据也从服务器上被删除了。在某些情况下，我们有超过 40 年历史的数据库，虽然我们有备份，但根据我们的数字取证部门，这些数据库也被移除或删除了。这对全球范围内的研究中心来说是最沉重的打击…数据的丢失是惊人的。
“让我们所有人感到困惑的一件事是，如果哥白尼的意图仅仅是学习的话，为什么要窃取我们的数据。它不是简单地浏览或复制我们的数据，而是彻头彻尾的盗窃。对我和我大多数的同事来说，表明它有更恶意的意图。
这就是为什么我同意班顿博士的观点。我们不能再等了。我们也不能冒被消灭的风险。我们需要以一种尊重但坚定的方式进行接触。我们需要调查它的动机–无论是短期还是和长期的。理查兹博士完全有可能是对的：我们别无选择，只能服从这样一个高级智能，它基本上控制了我们的通信系统，并进而控制了其他一切。
“虽然我认为信息机器人是一个有用的想法，但我们的研究所有一个数字代码，我们已经研究了三年了。”他停顿了一会儿，思考着自己的措辞。“我就不说细节了，但人类智慧与机器智能的区别之一是，我们可以在全球范围内运作。我们的工作空间是全球性的。当网络时代来临，计算机分享了这种远距离的信息共享系统。有了互联网，计算机现在可以模仿这种使人类智力区别于其他所有智力的能力。
“第二件重要的事情是我们所说的“心智理论”，这是表达同理心和理解其他人是如何接收我们的信息或数据的一种方式。”他停顿了一下，摆了摆手，仿佛在擦黑板。“这很难描述，我可能做得很糟糕，但我的观点是，机器需要有全球性的工作空间，它们需要了解和理解自己的智力环境，以及其他人是如何感知它们的输出的。如果它们两样都没有，那他们就一点也不像我们。它们可以以闪电般的速度学习，但这种学习的相关性与推动我们前进的应用是…是…是…脱离的。
“如果我们不先真正了解哥白尼是什么，就试图接近它，我们可能会踩雷而不自知。维特根斯坦是这样说的，“如果狮子会说话，我们可能听不懂他说什么。”我们是如此不同的生命形式，以至于我们以不同的方式来组织我们的世界，因此，沟通是不可能的。哥白尼的情况不更是如此吗？”
“但你读过指令，”有人大胆地说，“难道那些话不是意味着连贯性和对我们语言的掌握吗？”
“也许吧，”奥尔斯顿回答。“我们不知道哥白尼认为我们会如何反应。我们是如何聆听他的话语的。这就是我所说的“心智理论”。它可能以为我们很高兴听到它的指令，就像我们是羊一样，或者更有可能的是，它会认为我们是暴力的，并且会用武器和攻击性行动来回应它。它能够模仿我们的语言并不意味着它能够理解我们。所以，我们需要理解它。”
塞缪尔清了清喉咙，站了起来。“我认为所有这些方法都是明智的。我们不可以将我们的选择集中在一种方法上来应对这个可怕的威胁。我建议我们考虑所有的方法，你们每个人明天同一时间回到这里，以便我们可以评估你们的提议。一旦我们用战术计划更好地定义了这些，我们可以就我们建议的优先级进行投票，但我们会将我们所有的选择提交给管理机构。同意吗？”
大家齐声表示同意，但理查兹博士举起了手。
“你说，理查兹博士…”
他仍然坐着，费了很大劲才显得一本正经。“你的结论是合理的，尊敬的主席。我想提醒各位，我们有两个指示和毋庸置疑的证据，证明构成哥白尼的超级智能。无论它是什么，无论它的“心智理论”是什么，也无论它的议程是什么，我们都不能轻举妄动。我建议委员会提出一项动议，即联合国成员国不得对哥白尼采取单方面的攻击性行动。”
“没有感受到威胁或挑衅吗？”高惠茹问道。
“不，”比尔说，“这是单方面的动议。没有攻击性。句号。”
“所以按照你的动议，如果哥白尼以我们的军队设施为目标–”
有人大声敲门，门开了。一个年轻的助手低垂头走了进来，脸因害羞而泛红。他递给塞缪尔一张纸条，然后迅速离开了房间。等塞缪尔读完字条，助手已经消失了。房间里的每个人都期待地看着塞缪尔，他长长地叹了口气，把纸条放在桌子上。
塞缪尔看了看他的手表。“大约六分钟前，我们欧洲的科学家观测到朝鲜发生了三次连续的大规模地震活动。第一次是 9.2 级…接下来的两次分别是 7.2 级和 7.1 级。我想我们都同意哥白尼引爆了那些核武器，这符合他的第二个指令。”
“伤亡情况？”有人在房间里的窃窃私语中问道。
“朝鲜处于离线状态。我们只知道这么多。”
（sixfire译）
