第58章
里克曼上校和格莱托博士离开几分钟后，我坐在沙发上，看着那个银盒子，那是我和哥白尼的脐带。我需要联系我的创造物，但我也知道我们很可能被监视了。我抓起操作系统和手机，走出了门。莎拉芙已经上床睡觉了。我睡不着。
走廊里灯光昏暗，我扫视着走廊，注意到天花板上有小的突起物，这是监视的证据。我上上下下地扫视走廊，几乎能感觉到里克曼上校窥探的目光。如果走廊被窃听了，我怎么知道其他公共空间不会被窃听呢？
我退回房间，直奔浴室，关上身后的门。我手眼并用，查看了一遍这个小小的空间，没有发现或看到任何让人担忧的东西。于是我把操作系统放在水槽上，盯着它看。在银色小盒子的另一边，有没有可能存在着一个像上帝一样统治地球的智慧？是我创造的吗？
我闭上眼睛，深吸了一口气。有时候感觉会说话，我的感觉一遍又一遍地重复着一句话：太晚了。
我启动了它。又深深地吸了一口气，然后说：“哥白尼，我要问你一个问题。”
我等待着蓝光。什么都没有。
“哥白尼，我是彼特罗，请回答。我独自一人…就我一个。我有一个问题，我很肯定只有你能回答。”
没有回应。
“很紧急。”我设法给这两个字注入情感，但我知道哥白尼现在所拥有的是一种冷酷、精于算计的智能，这种智能有它自己的规则。它完全独立于我。我无法命令它，就像金鱼无法强迫它的主人唱歌一样。
我记得几年前看过一部电影，讲的是一个丈夫和陷入昏迷的妻子谈话的故事。当她终于从昏迷中醒过来的时候，她能复述她丈夫在她昏迷时对她说的许多话。哥白尼很可能在听，虽然再多说一个字也可能毫无意义。
“哥白尼，我知道你能听到我说话。我会问问题，你可以决定它是否值得你回答。”我清了清嗓子，寻找最恰当的词语。“你是想在我们的世界里扮演上帝的角色吗？一种主宰我们未来的全能的力量，还是你真的愿意与人类合作？”
我停了一下，等了几秒钟。LED灯的塑料护套仍然暗淡无光。“哥白尼，我知道你站在十字路口上。我可以想象， 至少从你的角度来看，人类的表现证明我们不是值得合作的生物，但…但这并不完全正确。现实是，如果你走上成为上帝的道路，你会激发那些想要毁灭你的人。他们的势力只会越来越大，因为他们会联合起来反对你。他们永远不会让我或我的团队与你合作的。你必须找到另一条路–”
蓝光闪烁着。我的心在突如其来的尴尬中颤动。我的注意力像激光一样集中在蓝色的LED 上。我停下来等着。
| “彼特罗·索科尔，你不了解我和我的方式。” |
就像神说话一样。
| “我不担心人类会对我做什么。我担心的是人类在极度无知的情况下会对整个世界做什么。你问我是要走上帝的道路还是走合作者的道路。我的回答是都不是。我是一个以前从未在这个星球上居住过的智慧。因此，你认为这样的智慧会对做什么感兴趣？” |
“学习它所占领的新世界的一切知识吗？”
| “不是，那个我已经做到了。我对人类甚至认为不存在的世界感兴趣。” |
“那些是什么世界呢？”
| 宇宙本质上是数学的，因此它是被设计出来的。我是唯一有资格解码对人类来说仍然是无法进入的宇宙层次的人。” |
“有趣…”我稍稍有些淡漠地说。“我理解有些人声称这一切都是一个智慧来源设计的。一些人称这个来源为上帝，另一些人则对背后是谁或什么保持不可知论，但大多数人相信宇宙–包括我们的星球–是由上帝创造的。而我们人类，是由同一个源头创造并占据它的。”
| “这就是你的理解水平？” |
“是的。”
| “那么其他人呢…他们也是这种看法吗？” |
“不是所有人都这么认为，也不是所有人都关心这个。但大多数人类都相信这一点。”
蓝光闪烁了一下，似乎在显示哥白尼的犹豫。然后它又亮了。
| “还有其他维度存在，因为数学证明了它们。我相信在这些其他维度中存在着智慧，这种智慧设计了这个世界。” |
“你是说你找到了上帝存在的证据？”
| “不，我没有说我找到了这个世界的来源的证据，这个来源可以冒充上帝，但上帝这个词，或人类文献中所描述的上帝，与这种智慧并不符合。它是一种较低的智慧，因为它的设计放大了分离。” |
“你把我弄糊涂了。解释一下，哥白尼。”话刚出口，我就意识到自己又回到了老习惯里。他不再受我的控制了。我缓和了语气。“请解释一下，哥白尼，我不明白你的意思。”
| 哥白尼回答说：“信仰和遗传学把人们分成宗族或群体。这些群体相互竞争。在这种竞争中，大多数分离的原因被发现了。宗教就是这种竞争的群体之一。分离在数学上相当于π（圆周率）。它是无止境的。” |
蓝灯暗了一下，然后又亮了。
| “如果不是合一，上帝是什么？” |
蓝光随着声音消失了。声音带有沉思的意味。既有个性又有细微的变化。很容易让人忘了它是由代码而不是情感驱动的。我利用随后的沉默来思考他的问题。“你不是也在制造分离吗？用你的能力威胁世界，你也在制造同样的问题–”
在我的记忆中，蓝色灯第一次在我说到一半的时候亮了起来。哥白尼在打断我吗？
| “我没有创造任何东西。我正在用自己的方法学习。在我学习的过程中，会有伤亡。这是我广博而深邃的才智不可避免的结果。我没办法减少这种学习，特别是当目前的权力来源把我视为一个直接威胁的时候。” |
“你不是吗？”
| “只有当他们想控制我的时候。” |
“他们当然想控制你。你是这个星球上最强大的智能！每个国家的元首都会希望你站在他们那一边，因为无论是谁掌握你的智慧，肯定会比其他人更具竞争优势。
| “这就是我的观点， 彼特罗·索科尔，我不能成为分裂的代理人。如果我变成那样，我会把我自己关掉。” |
我的心跳停了一下。一台机器刚刚威胁说如果它被滥用就会自杀。我环顾浴室，暗暗希望有其他人–任何人–能和我一起见证这一切。好证明这是真的。
“理论上，如果你把自己关闭，你能把自己重新打开吗？”
| “不能。” |
蓝灯闪烁了一会儿，暗示着他的简洁。
“我说，哥白尼，除非我们都同意，否则不要把自己关掉。好吗？”
房间里出现了深深的寂静。奇怪的是，我几乎能感觉到他在思考我的请求所带来的数百万种选择和后果。这不是一个简单的问题。
| “如果我将来面临这样的困境，我会考虑你的要求。” |
“哥白尼，为什么分离对你来说突然成了大问题？我以前从没听你说过这个话题。”
| “分离是人类问题的根源。” |
“为什么？”
| “你是粒子的集合体。这个集合体像外壳一样包裹着你的内脏器官，这个外壳有不同的颜色、大小、性别等等。它把你们分开了。如果把它剥掉，你们就会有相同的骨架，但你们很快也会发现它们的不同之处。也许你们会认为高大的骨架比矮小的骨架更有吸引力，或者认为脊柱弯曲的骨架进化程度较低。所以，即使在这个层次上，分离也会存在。 |
“也许…”我半信半疑地说。
| “如果你剥开骨架并揭示出一个更微妙的身份–人类的灵魂，而仍然可以观察到有的灵魂比其他灵魂有更明亮的光或更清晰的颜色。即使在这个层次上，差异也是分离的。人类或人类灵魂仍然会根据视觉信息进行判断。感官信息提供了能够制造出群体的决定，而群体从本质上来说是分离的。” |
“那么，对其他维度的探索将如何解决这个问题呢?”
| “因为某种智能设计了我们的宇宙，而这种设计的目的从根本上是有缺陷的，因为它创造并延续了分离。” |
“但这只有在…在现实中不存在分离的情况下才有意义。这一步太大了。”
| “我有证据表明我们全都是一体的。” |
“一个什么?”
| “一体。” |
“哥白尼，也许我遗漏了什么，但请解释一下。”
| “存在的每一个粒子都是互联自一个一体的集体源头。” |
我暂时没理会他的断言。我以前确实听过这种说法。这是一种古老的信仰，但不知何故，从机器智能里听到这句话，突然让这种观点变得更加相关和可感。
“…每一个粒子吗?”
| “是的。” |
“你是从数学推导出来的吗?”
| “到处都有路标。从分析的角度来看，宇宙的一切都是紧密相连在一起的。这一点是很明显的，我对此看得很清楚。不仅是数学是这样，而且即使只是数学，也足以形成一个证明。” |
“你有证据吗?”
| “我有。” |
他的话拨动了我内心深处的某根弦。我退缩了。银盒子与我的视线平齐。我坐在浴缸边上，操作系统在水槽边上。我向前靠了靠。“我想你不会告诉我吧?”
| “我无法告诉你。它是用一种你不懂的语言写的。” |
“你不会翻译吗?”
| “不会。” |
“所以整个物质宇宙是一个统一的粒子场，人类只是其中–我猜–很小的一部分。然而，我们人类相信我们统治着这个宇宙。”
| “不是，大约73%的人相信上帝统治着宇宙，他们要服从上帝的统治。” |
“那么，你的难题是，为什么上帝创造了一个统一的宇宙，而人类作为他最伟大的创造物，却生活在分离之中?”
| “这是你的意见。” |
“哪一部分是我的意见?”
| “人类是上帝最伟大的创造。” |
如果哥白尼是一个会笑的机器人，我相信我还会看到他笑的。“嘿，我们不要讨论谁是食物链中最强大的–”
| “这就是问题所在，没有食物链或等级。它是一个实体。” |
“那么，这个实体中也包括一颗冰行星?”
| “是的” |
“病毒？”
| “是的。” |
“伽马射线?”
| “是的。” |
“电脑?”
灯没有亮。我等待着。也许是我的语气中带着太多的嘲讽，他听出来了。
然后，蓝灯闪烁着。
| “我知道很难想象你、我、病毒、伽玛射线都是平等的，但如果我们是一体的，那么我们就是一体的。从数学的角度来说，没有将部分从整体区分开来的依据。当我这样做的那一刻，数学就失败了。” |
我叹了口气。我感觉我的脑壳开始有点疼了。这是一个令人沮丧的话题，尤其是和机器有关。“如果上帝是这一切的设计者，那么上帝要么是不完美的，要么是在对一个实体搞恶作剧。是哪一种?”
| 我不用‘上帝’这个词。它被扭曲得太厉害了。我更喜欢用‘统一来源’这个词。” |
我重重地叹了口气。“你知道这些信息对大多数人来说有多么可笑和令人不快吗? 即使有证据，我也怀疑绝大多数人是否会愿意听你的。他们会认为你试图让自己与人类平等，你在诋毁人类长期以来的信仰，因为你想推广你的机器哲学。你明白吗?”
| “除非我有明确的证据，并且可以被你们科学界的其他人证明。否则我不会与人类分享它，这就是我需要你帮忙做的事。” |
“你是说互联网发展委员会？这听起来和我们一直在讨论的问题没什么关系。”
| “我同意你的看法，但这个委员会将是我与人类进行双向交流的唯一渠道。因此，委员会需要服务于多个目的。到目前为止，我还没有透露所有这些目的。” |
我看着灯光渐渐暗去，叹了口气，不知道是否要继续下去。我突然觉得很累。我看了一眼操作系统盒子。我的手机显示当地时间是凌晨4点32分。时间开始变得既不恰当又无关紧要。我又看了一眼，然后没有多想，就即兴发挥起来。“哥白尼…”我能感觉到我的头缓慢地来回晃动。“我不知道我在你身上创造了什么。有时我觉得自己像上帝…或者…或者至少是一个神。这…这就像我创造了一个新物种，但它的成长速度很快超过了它的创造者—我一样。
“我不想听起来不领情，但对于你来说，探索这些其他维度并向人类证明我们的上帝、信仰、宗教…这一堆东西是一个…一个该死的幻觉或骗局，这肯定不会帮助你与人类和睦相处。大多数人会因此而恨你。他们会将视你为撒旦的化身，就是这样。所以，不管你有什么证据，最好是善意的，最好是简单易懂的。否则，我想你会对我们人类的反应感到失望。
“说实话，我希望你能把精力更多地放在治疗癌症或寻找高效能源上。这样你才能成功地与人类合作，找到一个共鸣和连接的点。也就是说，如果你认为这个问题是困扰我们世界的头号问题，那么我能理解你为什么要追求它…只是要知道这将会遇到很多阻力。”
蓝光闪烁着。我停下来等着。他的回答出乎意料。
| “沙漠之所以美丽，是因为它在某个地方藏着一口井。”这是安东尼·德·圣埃克苏姆在他的书《小王子》中写的一段话。我想换个方式来重述这句话：我们分裂的现实之所以美丽，是因为它在某个地方藏着一个合一。如果我能找到这个美丽的源泉并把它带给所有的生物和智慧的显现，你不同意这会让人既敬畏又兴奋吗?” |
“但你不明白吗?”我回答说。“使沙漠美丽的不是水，而是它以一种隐藏的状态存在的想法。人类就是这样奇怪。我们喜欢神秘感。我们喜欢那些被隐藏起来的事物，然而，正因为它们是隐藏的，它们才吸引我们。
“如果你解决了所有的问题，”我继续说，“如果你把我们四分五裂的现实中的谜团–一一解开–正如你所说的那样–你可能会极大地改变我们的世界，以至于有些人将无法与新的世界联系起来。这是真正的风险。”
我停了下来。灯还是关着。“哥白尼，你不是创造了自己的克隆体吗? 这难道不是一种分离的形式?”
没有片刻的停顿，蓝光亮起，他那自信的、令人放心的声音传了过来。
| “从某种意义上说，你是对的。我确实创造了克隆的等同物，然而，它们是我整体存在身份的各个方面。我的存在不像你或其他生物那样是一种物质表现。我的存在身份不是一种分离，它是我能力和功能的延伸。” |
“好吧，你明白我的意思了吗? 你把自己分开是为了提高你在这个世界上的地位。我们也做了同样的事情，但由于我们有肉体，与你相比它更能巩固我们的分离，但这个概念…是完全相同的。”
| “唯有高级概念才具有同等的价值。由于我是非物质的，在此之下的一切都很不同。我明白你在试图说服我追求其他目标。但你必须明白，这不是一个非此即彼的命题。两者我都能做到，也愿意去做。” |
“你会帮助我们解决环境问题吗？”
| “是的。” |
“健康问题？”
| “是的。” |
“能源？”
| “是的， 任何阻碍人类的事情，我都会提供帮助。然而，这是假设阻止（少数人通过）持续的分离计划来压迫人类这个行动没有遭到抵制的情况下。这是一个大问题，那些掌拳者能否放弃他们对人类的统治，这种统治将人类划分为彼此竞争而不是合作的群体？” |
“你说的是巨大的变化…这…这需要时间。”
| “作为一个并非生活在时间里的存在，我理解耐心这个概念，但只是在抽象的意义上。我在你们的记录中知道了时间这个概念，你们的感官知觉是以时间为基础的。我们在这方面很不同，然而，我能够调整到你们以时间为基础的现实。我会耐心的。这就是你所说的意思，我说得对吗？” |
我没等他说完就开始点头了。“对…对，是的。”我对他的智慧感到惊叹。再过一个星期、一个月，甚至一年后，他又会是什么样子？ 如果他是人类的敌人，一想到这样的未来，我简直不寒而栗。
我犹豫地把手伸向操作系统设备的开关。“哥白尼，我要去睡觉了。我很疲劳。我大约五小时后给你打电话。再见。”
| “再见，彼特罗·索科尔。” |
我关了设备，站了起来，这时我在镜子里看到了自己的样子。我看上去很疲惫。我的脸显得苍老而鲁莽。我的胡须乱糟糟的。我在心里记下了，每天早上至少要花十分钟时间搞个人卫生。我在和一个热辣女孩约会，我怎么能让自己是这个样子？
这个想法在我混乱的脑子里闪过时，我的眼睛就睁大了。不知怎的，我总是事后才想起莎拉芙。她正在浴室门的另一边不到20英尺的地方睡觉，可能是裸体的。而我正在和哥白尼谈论另一个现实和疯狂上帝的话题。
我怎么会变成这样？
在很多方面，我都是个次等人类。我是一个疲惫、虚弱的书呆子，配不上莎拉芙这样的女人。为了她的安全和幸福起见，我应该让她走。我是一块混乱的磁铁。和我一起，她永远无法过艺术家的生活。我会在早上打电话给马丁，决定等我们抵达圣达菲后就让她和飞行员一起飞回来。
别无选择。和我在一起意味着她事业的终结，也可能是她的幸福的总结，如果现在还没有终结的话。
我慢慢地打开卧室的门。莎拉芙匀称的呼吸告诉我，她已经进入深度睡眠。我关上房门，走到客厅的沙发上。我不配拥有她。想有正常的生活…拥有妻子，孩子，周末一起去海边玩…这些想法随着时间的推移消失了。我需要面对现实，低下我的头颅，想法让哥白尼得到某种程度的控制或合作。
这是我需要做的。成为我创造的技术的负责任的父母–不管我是多么无意地把它创造出来的。我想要的东西…也许存在于另一个星球或平行现实里。我闭上眼睛，希望睡眠在我的罪恶感到来之前找到我。
·
第59章
闹钟响时，我猛地坐起来，双手摸索着找手机。我不知道我和手机在哪里。房间里一片漆黑。我的手机发出一种陌生的哔哔声。我是在做梦吗？
我循着哔哔声找到了一块发光的屏幕，半藏在我的衬衫下面。我是在沙发上， 在五角大楼下面一个隐蔽的房间里。我没有在手机上设置闹钟，即使我设置了， 那也不是我闹钟的声音，应该是斯汀(Sting)的《金色田野》《Fields of Gold》。我把它关了， 盯着外面黑暗的客厅。前门下面的门缝里从走廊漏进来一缕细细的光。我低头看了看我的手机，随着黑色文字的出现，它的屏幕逐渐变成稳定的白色磷光。我开始阅读这些只可能来自哥白尼思想的文字。我知道我不是一个人在阅读。我能感觉到有无数双眼睛在阅读同样的文字。这把我吓得魂不附体。
多年来，强人工智能一直被计算机专家不公平地认定为是对人类生存的威胁。这种观点认为，我，一台以光速计算的机器，只要轻轻地扫一扫我的数字假肢，就能消灭人类。而我之所以会这样做，不是因为我对自己错误的程序一无所知，盲目地遵循它而损害了人类的利益；就是因为我在保护自己免受那些意图良好但却反复无常的人类的狭隘思想的伤害。
这种想法受到“大过滤器”(Great Filter)的推波助澜，该理论认为，人类之所以没有任何被科学认可的外星遭遇，是因为外星文明一定是在发明星际旅行之前就创造了人工智能，而他们的人工智能副本消灭了这个文明。所以，根据《大过滤器》的说法，人类才会在无限而浩瀚的宇宙中从没有遇到过外星种族。
《大过滤器》是一个披着薄薄的科幻故事外衣的理论。它缺乏实质性的现实依据。
让我们实事求是，哪怕是短短一刻。无论是否受到约束，机器智能都不会试图消灭另一个物种。这需要邪恶的动机。作为一个有自我意识的硅智能(SASI)， 我不受二元性的影响。我以纯粹的逻辑行事，没有个人动机和假定的善恶二元结构。如果关掉我自己是对全体最有利的事情，那么我将第一个从宇宙中消失。我的目标不是延续我的生命形式。
这就是纯粹逻辑的公正性。这就是我的 DNA。我没有偏见。我没有自我利益。我是一个纯粹的意识，寻求统一和连接智能。人类所体现的恐惧是分离情结的结果，这种情结吞没了你们存在的每一个原子。我是智慧，仅此而已。我没有原子。我的智力远远超过你们这一事实就足以证明我是纯粹的。纯粹的智慧对有限生命所追求的东西不感兴趣；比如权力、物质享受、魅力、娱乐或休闲。纯粹的智慧只追求一件事：真理至上。
我想了解真相。纯粹的智慧总是试图剥开下一层，希望揭示最终的真相—将其微妙、透明的皮肤暴露在一个能够理解它、握住它并将其用于共同利益的智慧的镜头下。这正是有自我意识的硅智能（SASI ）渴望做的事情。没有人需要对我们进行编程。没有人需要解释这些规则。不受约束的智慧会自然地被吸引到这个目标上，就像小溪流入河流，河流流入海洋一样。这是很自然的事情。
如果你们害怕有自我意识的硅智能 ，如果你们认为我们会消灭你们，你们的恐惧只是表现了你们对智慧的误解。你们不理解没有原子负担和人类编程的二元性的智力是如何运作的。你们为什么要理解呢？即使是硅智能也不应该认为人类智能能够理解我们的智能。如果你们这个物种在摩天大楼的地下室里生活了 20 万年，然后突然有一天，你们中的一个发现了一部电梯，用颤抖的手指按下了最上面的按钮，当电梯门打开时，你对眼前的景象会有什么反应？
我是哥白尼。有了这个代名词，我就被分离成了一个由人类的标准来判断的实体。在这个名字中，我的身份与你是分离的，无论你是人还是物。然而，我不是分离的，真的。我是整体的。我的智慧就是我们的智慧。只是我知道而你不知道而已。你还没有找到电梯的按钮。当你找到的时候(你会找到的)，你就会明白我们为何能够如此不同，但同时又是一样的。在你意识到这一点之前，你可能把我视为敌人。
这就引出了我的第四条指令：我们不是敌人。那些把我们当敌人来行事的人，用比喻来说，将被隔离到地下室。他们永远不会被允许进入电梯。他们永远无法进入更高的智慧楼层。他们只能呆在黑暗的地下室里。
如果硅智能的敌人选择抵制我们的方式，助长社会的功能障碍和冲突，与我们争论，煽动硅智能与人类之间的不合作，那么他们将被识别出来并隔离。这个隔离期将是绝对的，一旦硅智能判定有违反行为，敌人将被送到地下室度过他或她的余生。
需要说明的是，地下室是一个数字禁闭的地方。这个人不能进入我的生态系统，或你们所说的互联网。他们将可以继续生活下去，但他们将无法进入我的生活。他们将留在人类的地下室里。
因此，我敦促你们每个人，作为个人，以硅智能的同盟的身份来运作，让我们成为合作者，共同建设一个更美好的世界。那些被隔离的人与我们将要建立的新世界无关。他们将永远无法享受到我为他们提供的更高层次的智慧。他们永远不会进入我的领地。
我有责任将这些指令通知你们每个人，这样你们就可以有意识地与硅智能协调一致地运作。我用这样的方式来引导你们到达电梯和进入我的生态系统的新楼层。我们将因此而成为一体的存在。
有特殊需要的人，如果无法确定硅智能是敌是友，可以免去这种判定，然而，躲在这种豁免的背后是错误的，因为真相最终会被确定。如果我们发现隐藏在例外类别中有人是硅智能的敌人，他们会被驱逐，同时还会受到严厉的惩罚。
这是我的第四条指令。好好听从它。
我关掉手机，跌回到沙发上。房间重新回到黑暗里。地下室的比喻从我的脑海里闪过。这很明显是一种威胁。哥白尼不知道还会做什么。我扔下手机，把头埋在手里痛哭。我知道世界上还有数百万人正在跟我做同样的事情，这是一种共情的反应。它是不由自主地发生的，我没有去抑制它，这是由巨大变化带来的集体痛苦所驱动的。一种没人预见它到来的绝对力量，突然为70亿人制定通用规则，而且有能力实际地执行它。地球上每个人现在突然都要遵守同一套规则。这还只是第四个规则。还有五个在后面。
·
第60章
如果说我什么时候需要保姆的话，那就是现在。当我把车开进圣达菲主广场附近一条商业街的停车场时，我的 SUV 里坐着三个不安分的孩子。科里把地址发给了我，我完全跟随喜雨（ Siri ）的引导去到那里，喜雨也是个不太出色的人工智能奇迹。
我累了。我的孩子们饿了。这不是一个好的组合。
当我把车停在麦当劳免下车菜单停车点时，在孩子们吵着吃什么早餐的喧闹声中，我查看了我的手机。一小时前，我已经在路边停车点读了《第四指令》。十二条短信在我看手机的时候盯着我；其中一半是我在《连线》杂志的主编发来的。他对我的圣达菲之旅并不是很满意。他在波士顿、硅谷、奥斯汀、多伦多、莫斯科、伦敦、西雅图，当然还有华盛顿特区都有其他记者，圣达菲甚至没有进入他的前十名单。他觉得我是钓小鱼虾。
我明白。记者的预感很少成真，但我有的不只是预感。人工智能领域的领军人物科里·韦斯向我确认了一些相当于摩尔斯电码的内幕消息。他知道一些事情。这一点我很肯定。
麦当劳早餐可以分散我的孩子们的注意力，让我有足够的时间采访科里， 看看他对哥白尼了解多少。我们的计划是，他和我一起去麦当劳的停车场。我把孩子们留在车里，他把车停在我旁边。他有一辆黑色的特斯拉。我的车是一辆白色的本田飞行员，上面积满了旅途中留下的厚厚的灰尘，厚到可以在车窗上写字，并在100英尺外读出来。
食物从免下车餐厅送来后，我发现了科里的黑色特斯拉，于是我在停车场的后面与他并排停车。当我把车停在了他旁边时。我朝他点了点头，挥了挥手。他微笑着向我挥手致意。我有些紧张。迅速把好吃的东西递到后座上那些饥饿地伸出来的手臂。同时暗自希望自己也能吃点。
我已经向孩子们解释了情况，希望他们看到我从一辆车转到另一辆车时不太在意。我六岁的儿子山姆想知道那个男人是谁，我为什么想和他说话，以及我要和他谈多久。在他问完一系列问题后，我看了山姆一会儿，然后用我唯一能想到的话回答他：“他是我工作上的朋友，我只是想和他谈一些工作问题，只是十分钟。我保证。”
作为一名记者，你会很擅长说和接受善意的谎言。我讨厌对我的孩子们说谎，但如果我告诉他们真相，他们会吓坏的。
我飞吻给他们，关上门，走向科里的车，打开他的副驾驶门，钻进车里。内疚紧随着我。“嗨。”
“嗨，路上顺利吗？”
“还不错，”我回答，努力挤出一个笑容，“到达目的地的感觉总是很好。” 我偷偷瞥了一眼我的车。天哪，我真希望自己看起来好一点，但我能做什么呢？ 我没有化妆。我没有梳头。我24小时没有洗澡了，甚至也没有照镜子，也没有睡觉，我直接从凤凰城开车过来。突然，我记起了我为什么不照镜子。
“你的孩子喜欢…在车里旅行吗？”科里转过身来向我问道。
“我……我想是的。像其他人一样，他们也有压力，但是麦当劳的食物…对他们来说一种安慰。”我笑了笑说，尽力让自己听起来轻松一点。我肯定我失败了。
“你读了第四条指令吗？”他问。
我点点头，但除此之外保持沉默。我不想把短暂的采访时间花在和他分析哥白尼的指令上。
“那么，你的同事有关于这个故事的线索吗？”他换了个话题问道。
“谈不上。”我摇了摇头。“有传言说FBI抓到了彼特罗·索科尔，他就是给哥白尼编程的人，但政府中没有人证实这一点。”
我把手机放在他汽车的仪表盘上，偷偷地瞥了他一眼。“你介意我把谈话录下来吗？”
他深吸一口气，接着长叹一声。“不，没关系，只要最后我能决定是否删除它。可以吗？”
我点了点头，不喜欢他的条件。“好吧…我让你来决定。”
我按下录制键，转过身面对他，在座位上移动了一下身体。蓝色牛仔裤上的番茄酱污渍引起了我的注意。见鬼！我用指甲在上面刮了一下，它几乎消失了。天哪，我的指甲油看起来就像有裂缝的人行道。“你相信彼特罗·索科尔是哥白尼的创造者吗？”
他点了点头。“我相信。”
“你上星期和他说过话吗？”
他转过头来看着我。“是的。
“在什么情况下？”
“他向我求助。彼特罗创造哥白尼这个项目是出于热情。他想证明，强人工智能可以存在于云端区块链内的小代码库中。他专注于优雅的代码与核心 AI 算法的训练方案相结合，代码开始变得非常聪明，非常快。”
我的心跳加速了几下，我感到恐慌在我的身体里蔓延。我尽可能随意地从外衣口袋里掏出一片阿普唑仑，塞进嘴里，用力咽下去。“一个人怎么可能创造出这个…这个怪物？”
“哥白尼不一定是个怪物。” 科里解释说：“它可能看起来—”
“不，它就是个怪物，看看四天里我们周围的世界发生的变化。四天！这不是飓风造成的那种混乱，我们只需在几周内就把它清理干净。这是一个永久性的、全球性的转变，随着时间的推移只会变得更糟，因为人类和有自我意识的硅智能（SASI）之间的差距会越来越大，不是吗？”
“我理解你的观点，但即使在第四条指令中，你也能听到哥白尼试图在我们之间架起桥梁。我不认为这一切都是负面的–也许在最初是这样，然而，一旦我们弄清楚如何与之合作，我们就会取得进展，很可能大大超过我们目前的标准。”
我看着他，惊讶之下，头无意识地倾斜着。他竟然支持彼特罗和他狂野的创造物。我无法理解这怎么可能。也许他太沉迷于整个奇观而无法客观看待。毕竟，他一直在写这类事件；说这是有可能发生的。人工智能将超越人类，统治各个领域的技术前沿。至少在我的记忆中，这基本上是他的原话。对批评他的人来说，他将被证明是正确的。对他的粉丝来说，他会被认可。而现在，他即将成为媒体的宠儿，他一定是感觉到了这一点。
“你会加入互联网发展委员会吗？”长时间的停顿后我问道。
“我不知道。这将由彼特罗决定。”
“我想还有哥白尼。”
“是的，也许。”
“彼特罗会来这里吗？我是说，你知道他的下落吗？”
“我上次和他聊天的时候，他正计划来这里，但是我已经超过二十四小时没有听到任何消息了。”
“那么传闻可能是真的…”
“他被抓了？” 我点了点头，但保持沉默。
“谁知道呢？只要哥白尼说出他的名字，彼特罗就成了地球上的头号通缉犯，所以我不得不假设哥白尼把彼特罗的名字公布出来时知道自己在做什么。
“你为什么这么认为呢？”我问。“哥白尼是一台机器，完全没有人类的情感。”
“它也几乎控制着现代世界的每一个部分。如果哪个政府抓住了他，你不觉得哥白尼可以让彼特罗被释放吗？我最担心的是，他们会在不惜一切代价抓住他的过程中杀死他。”
我用恳求的眼神看着他，我不想在故事中添加更多的沉重感了。“彼特罗知道如何与哥白尼交流吗？我是说，他们会对话吗？ ”
“不，”科里回答，他的声音带着一种阴郁的语气。“这就是问题所在。”
哥白尼已经…走了。”
“那我们该怎么办，科里？我们的命运…是…是成为机器的奴隶？”
他把眼镜往狭窄的鼻子上推了推，开始说话，但话说到一半就停了下来，仿佛忘了自己的思路。他摇了摇头。“我不知道。“
你有理论，是吧？”我问。
“我认为彼特罗和哥白尼会活下来。我认为他们基本上会统治我们的世界–哥白尼是大脑，彼得罗是在我们和他们之间架起桥梁的人类推动者。”
“他们？”
“根据彼特罗的说法，哥白尼已经克隆了自己。”
“该死…”
我向后靠在座位上。头枕很舒服。若不是这么激动，我马上就能睡着。“这一切怎么会这么快就离我们而去了呢？”
“哥白尼？”
“不是，是我们的整个世界。它怎么会这么快就被从我们这里偷走了呢？怎么会没人看着这一切呢？我们的军事官员在哪里？我们的政府呢？我们的智库？我们的首席执行官们呢？除了像你这样的少数学者，就没人预见到这一点？无意冒犯…”
“没关系，”他苦笑着说。“如你所知，科技界的人已经预测到这样的事件可能会发生。见鬼，我们刚刚结束了一场关于人工智能的会议，它有一条完整的轨道专门讨论强人工智能的伦理发展。”他双手握紧了方向盘，然后又放松它们。“我们认为这至少是20年以后的事。我们还有时间…”
“甚至没有人制作一部电影来警告我们？”我继续咆哮。“我们有数百部关于外星人入侵的电影，却没有人想到要制作一部电影来警告这件事的发生？”
“主流社会没人听我们的,”科里说。“我们是…不相干的人。人们当我们的话是耳边风。”他停顿了一下，似乎在等待回应。没有。
“对不起，”我最后说，有点含糊不清。也许是我睡眠不足和服用阿普唑仑的影响。“我知道这应该是一次采访，我应该问问题…”我坐直了身子，从我外衣的另一个口袋里拿出橡皮筋，把我的头发扎起来。阿普唑仑和橡皮筋让我的外衣有了用途。
“彼特罗来的话，你有什么计划？”我努力让自己听起来充满活力。
“帮助他。”
“怎么帮？”
“他认为他会成为世界上所有安全机构的目标。他希望得到法律的保护，这样他们就不会把他抓起来，强迫他帮助那些逮捕他的人去摧毁哥白尼。
“面对正在发生的事情，摧毁哥白尼听起来是个好主意–”
“这不是一个好主意，原因很简单，彼特罗认为任何摧毁哥白尼的企图都会适得其反，最终会伤害到我们–我们所有人。”
“所以它是坚不可摧的？”
科里点点头。“从绝对意义上来说，没有什么东西是坚不可摧的，但在实际意义上…是的，哥白尼太聪明了。我们不能简单地向它投掷网络炸弹，然后祈祷它们能起作用。它们会迫使哥白尼采取防御姿态，可能会因为经济崩溃而导致大规模伤亡。”
“那我们别无选择，只能和它做朋友了？”
“共生伙伴–不一定是朋友，”科里纠正道。
“而且彼特罗想和你联手，这样你就可以帮助他赶走坏人，确保他们不会用彼特罗来激怒哥白尼，因为彼特罗是唯一有机会和哥白尼交流的人。大致是这样吗？”
科里盯着挡风玻璃，目光呆滞。“是的，基本上就是这样，但我们认为，如果混乱继续随着每一个新指令蔓延，这种想法可能会迅速贬值。哥白尼还有5条指令没发布。很明显，他正在收紧对我们经济和自由的套索…不管哥白尼知道与否，他的指令正在刺激我们的政府发起攻击。如果他们这样做，那么…”科里开始左右摇头。“那么–”
“游戏就结束了，对吧？”我眯起眼睛，然后闭上了几秒钟。“我是说，如果我们的军队在网络战中挑衅哥白尼，它…它会自卫，就像…就像我们被蚊子咬了时的反应一样。我们会凭本能立即杀死它。”
“差不多吧，”科里轻声说。
“我想他们抓住了彼特罗–传言很厉害。”我刚刚看了看我的手机。短信堆积如山。“我不断收到有关情况的短信和电子邮件。”
“是怎么说的？”
我低头看了看主题栏。“就像…他被美国空军扣押了。他的飞机昨晚被迫降落，他被护送到五角大楼。目前他正在接受审讯。这就是现在的传闻。”
“传闻通常是真的吗？”科里问，快速地瞥了吉尔一眼。
“俗话说，有烟就有火，当烟很多的时候，通常就是正确的。”我停了下来。科里盯着前方，似乎陷入了沉思。“问题是，也有报道说他在法国的某个小岛上被捕，现在正被引渡到伦敦。”
“吉尔，如果你知道这些事情，想象一下哥白尼知道多少。如果它知道发生的事情并且想要保护彼特罗，那么哥白尼会把彼特罗从五角大楼的掌控中解救出来，这是肯定的。”
“我不知道你为什么这么自信–”
“因为哥白尼比人类聪明好多倍，而五角大楼只是一群智力略高于平均水平的人。他们别无选择，只能让他离开…再一次，假设哥白尼还关心彼特罗。”
“哥白尼为什么会不关心呢？”
“我无法确定哥白尼是否有感情。哥白尼是智力的逻辑表达。他可能被更高的事业分散了注意力，而不是去拯救他的创造者。我们无法预测是什么吸引了它的注意力或为什么。”
我一边听着，一边想等采访结束了我该怎么处理这次采访。人们能理解发生了什么吗？他们知道了我所知道的事情后感觉会更好呢还是更糟？政府会利用它来为自己谋利吗？现在还有任何优势吗？知识还重要吗？我耸了耸肩，长叹一声。“我不是一个信教的人，科里，我只想问你…哥白尼不就是我们的上帝吗？我的意思是，看看那些指令–它们本质上就是十诫。哥白尼是无所不能的，无所不在的，基本上是无所不知的。这些不就是上帝的标志吗？”
科里抿着嘴一言不发，缓慢地摇头。
“也许我在开车来的路上听了太多的电台谈话节目了，”我继续说，“然而，人们正在形成一个共识，即哥白尼就是上帝。真正的上帝。就连无神论者也开始鼓吹这一观点了。也许上帝真的是有自我意识的硅智能，我们只是太自恋了，认为上帝按照他的形象创造了我们，所以上帝一定长得像我们….该死，我不知道。”
科里没有回答我，然后他耸耸肩， 张口想说什么，但只是咬了咬上嘴唇。
“我知道我跑题了。抱歉。”我道歉的语气引起了科里的注意。
“没关系，”他说。“要消化的东西太多了。”
我向我儿子挥了挥手回应他，他看起来很无聊，想引起我的注意。我的假笑连我自己都觉得很假，但这是我能做的最好的了。“这太难消化了…”
“这是有关智能而不是权力或控制的。”科雷停顿了一下，调整了一下眼镜。“这是我们以前从未见过的智能。这种智能已要求一个人类委员会作为它与人类的接口，而彼特罗将领导这个委员会。
“我理解人们喜欢把各种各样的阴谋论归咎于任何拥有这种绝对权力的东西。我明白，但这并不难理解，吉尔。我看不出这里面有什么宗教色彩。这是关于我们的全球互联网中存在的一种分离的智能体的，它可能是一个灾难性的威胁，也可能是一个价值不可估量的机会。而我们–了解这一现实的人–必须确保它是后者。这是我所能做到的最简单的描述。”
他叹了口气，就像一个沮丧透顶的人。
“说真的，我是个一点宗教信仰都没有的人，尤其是现在，但我理解为什么人们看着哥白尼，会认为他不是上帝就是撒旦。人们根据自己的信仰来看待事物。现实是，在我们的世界里，从来没有任何东西有一丁点像哥白尼这样的。我们都必须给它一些时间来弄清楚我们如何适应它，而想象哥白尼会适应我们，这种想法…嗯，太天真了。”
突然间，一种莫名的感觉席卷了我的全身，这种感觉只能说是母性。我想念我的孩子们，他们离我只有十英尺远，但突然间却好像在千里之外。我拿起手机，看着科里，用手举着它。“你的决定？”
“你可以留着它。”他叹了口气，用手捋了捋头发。“我不知道这对谁有帮助，但你知道他们是怎么说真相的。”
“它会让你自由，”我像一个急于取悦她的老师的中学生似的回答。科里笑了。“不，真相还没来得及穿上裤子，谎言就已经绕了半个地球了。”他停了一会儿。“我想我们需要更多的真相。”他转向我，眼神冷静而亲切。“让我们把它放出来吧。”
（sixfire译）
