第22章
圣达菲研究所（SFI）是一个兼收并蓄的跨学科机构。成员包括生物学家，人类学家，生态学家，心理学家，有时甚至还有艺术家。这个机构活跃在生物系统和社会变革这两个领域的交汇处。在过去的几十年里，它一直吸引着人工智能领域一些最优秀的思想家。当绊线事件发生时，这个研究所正在新墨西哥州的圣达菲举办一个关于ASI的小型会议。
人工智能会议的组织者、圣达菲研究所的所长科里·韦斯，是一位受人敬重的AI立法倡导人。他也是OpenAI（开放式人工智能）的顾问委员会成员。OpenAI可以说是世界上拥有最多资金的AI组织。它是由众多科技界的知名人士发起的，旨在监督对社会负责的人工智能的发展。韦斯关于人工智能的书，被认为是AI应用立法领域事实上的行业标准。这个或那个政治团体经常请他去，帮助培训他们的智囊团，教他们如何制定AI政策，以及与科技相关的政治纲领。他是少有的能够跨越生物学，科技，经济，公共政策以及法律领域的知识分子之一。
他最初在哈佛法学院学法律，但实际上从未通过律师资格考试。尽管如此，他还是在母校教了12年法律。后来，他决定再获得一个公共政策博士学位，这将给他插上翅膀，使他有能力进入在向他招手的政治影响力圈子。他的关注点是科技。他知道，科技，特别是人工智能，正在与日益增长的社会需求产生碰撞。这些需求包括：监控，安全，网络信息战争，机器人等，最中间还有个靶心：经济政策。
他是一个40出头的瘦小结实的男人，带着孩童般的热情。他那剪短的，几乎银灰的金色卷发，衬托出他英俊的、似乎总是洋溢着热情的小脸。他戴着一副老花镜，但每当与人谈话时，会习惯性地将眼镜折放在他的衬衫领口上。对他来说，大部分时间都在谈话。他总是穿着一件运休闲动外套，通常是海军蓝，但偶尔灰色或棕色的斜纹软呢外套也会出现在他的服装轮换中。他是个和蔼可亲的，积极接受并寻求新想法的人。
《连线》杂志记者吉尔·丹尼尔斯参加了这个ASI论坛。当时欧洲核子研究中心遭到袭击，全世界成千上万个研究室被关闭的多米诺骨牌效应的消息传开时，整个科技界都屏住了呼吸。如果说有人能理解这其中的深刻含义，那就应该是参加这次论坛的成员了，特别是科里·韦斯。他（们）知道，这个正在欧洲乃至全球范围发生的事件，会改变这个行星上所有人的生活。
在消息传开的那天早上，吉尔曾安排了一次在研究所对科里的采访。科里看网上最初的报道后，曾试图取消采访。但吉尔竭力坚持，她认为现在是他，而不是所有人，需要发表有见地的政策意见的时候。所有人都在等着看欧洲领导人会披露什么，以及帕尔米耶里总统如何处理这种情况。最初的迹象是，这些领导人正在谴责恐怖分子。但没有一个对网络或AI技术有洞察力的人相信这种说法。韦斯博士也不例外。
他们在位于研究所科里的办公室里坐下来，匆匆地喝了一杯咖啡，吃了一些玉米松饼。吉尔作为一位来自各种科技杂志和在线期刊的资深记者，及时地切入了正题。她很清楚，自己的采访时间不多。“韦斯博士，你应该也知道了吧，主流媒体在进行新闻导向，说这次网络袭击是恐怖分子搞的。你怎么看，为什么一开始是这种描述？只因他们是方便的替罪羊，还是说确实有恐怖组织利用开源工具进行这种复杂的网络攻击？”
科里看了看他们之间桌子上的手机，知道他的话在被录音。他有些紧张。看来《连线杂志》确实有触须，并且是长长的触须。“和我交流过的人都不相信那个报道。我们这个星球上还不存在任何这样的技术或科学家群体，有能力把全球最优秀的研究室瞬间变成空壳。没有人能以那样的高效率和技艺。”
“所以，你的意思是说，不仅恐布分子不可能进行这场网络攻击，而且没有人能做到，是吗？”
他知道下面的对话会走向何方。无论是谁，在这个状况下，只要不想说谎，就无法回避这个话题。“目前阶段，我们只是还没有足够的信息来下结论。我们现在能做的，就是尽可能科学地推测。如果深入探索那个兔子洞时，我担心是某类AI技术，可能是某个与军方有关的地下实验室开发的，失控了。”
“失控？如何失控的呢？”
“这很难说。我们都知道，很多企业和政府的研究室都在秘密开展利用深度学习网络的人工智能的计划。也许，就其复杂程度而言，有可能某种东西已经被发展得足够成熟，然后，它利用自己的学习算法…它…它挣脱了束缚。这是一种可能的解释。”
“但这可能性有多大？“
“我们中没有人认为20年之内会出现人工超级智能。”
“那么，如果你能推测的话，还有什么其他可能性？”吉尔从平板键盘上抬起头说。
“企业或政芙间碟活动。”
“但这不是影响了世界上85%以上的研究机构吗？就此而言，为何会有企业或政府想要划出这么大的范围？这对于间碟行动来说似乎夸张了。你能推测其他的来源吗？”
科里喝了一小口咖啡后，皱了一下眉头。吉尔也不知道这是因为咖啡太苦，还是因为他想要分享的想法。“其实，我们人工智能领域的一些人怀疑，可能是某些地球外智能，通过咱们的通讯平台启动了这次攻击。”
“外星智能？这不是科幻小说里的情节吗？”她提高了声音说。
“你让我推测，”科里辩解道。“所以我就猜测了。这只是一种可能性，坦率地说，如果让我在恐布分子和外星智能之间做出选择，我会选择后者。”
“真的吗？”吉尔知道自己挖到了一些有趣的东西。像其他优秀记者一样，她知道她必须利用它。只有这样才能将眼球吸引到连线杂志。“但如果外星智能有能力制造这个攻击，就说明他们的知识比我们先进，为什么还需要窃取我们如此广泛的学科领域的研究呢？对我来说，这似乎相当于一个物理学教授窃取一个一年级学生的科学报告。他们为什么要这样做？”
“为了了解我们的知识基础。”
“但，目的是什么呢？”
“寻找我们的弱点。评估我们的智力发达程度。确认我们的技术水平。无论是谁干的，他们不只是偷走了我们的数据，而且还关闭了那些研究室，这个行动表明，他们可能有更恶毒的意图。”
“比如？”
“他们不想让我们访问自己的知识库。他们想削弱我们。对我来说，这才是这次网络攻击真正阴险的本质。仿佛他们想让我们倒退回到古代。”
“韦斯博士，根据你的感觉，如果真的是外星智能，那他们会是人造智能还是有机生物？”
“我会将这次攻击评估为ETASI，这是外星人工超智能的缩写。ETASI是一种机器智能，它可能拥有与人类同样悠久的进化历史。如果真是这样，那么我们整个世界都被一个比我们优越得多的智能入侵了，我们无论是人和机器智能都无法跟它相比。”
“那么，这样一个外星人工超智能下一步会做什么呢？根据你的猜测，他们在偷走我们的科研知识库并关闭我们的研究室之后，下一步行动会是什么？”
“我想这取决于我们的下一步行动，”科里解释说。“如果我们很明智，最好不要报复。如果这是ETASI，我们最好的办法就是想办法跟他友好相处。如果这个ETASI是非攻击性的，它就可能会对我们的合作与协作的姿态持开放态度。也许我们还能提供一些对它有帮助的东西。”
“但如果它是不友好的，你认为他的下一步行动将会是什么？”
“军对。”
“会是什么方式？”
“他们会像关闭我们的研究室一样关闭它们。”
“我想咱们的军堆至少不会像研究室那样容易被攻破吧–”
“是的，会更难攻破一些，”科里的语调变得更严肃了，“但我们谈论的机器智能，有可能有数百万年的历史。机器智能能够在几天的时间里将它的智能翻倍。他们的进化速度是自然的、生物的智能望尘莫及的。无论我们的军对拥有什么样的网络安全措施，ETASI都能轻而易举地废掉它们。”
吉尔盯着科里看了几秒钟，对他透露的内容和坦率的回答哑口无言。她深吸了一口气，感觉到自己左眼下方的肌肉无法控制地在抽动。“所以我们很脆弱。他们能关闭互联网吗？”
“当然能。”他点点头。薄薄的嘴唇显得很坚定果断。
吉尔看得出来，他对自己的透露并不感到高兴。他既清醒也很冷静，同时也不回避那些艰难的答案。“最后一个问题，我知道我们的时间到了。鉴于这个东西迄今为止的所作所为，你是否担心它是不友好的？”
科里的语调变得低沉起来。“我只能在私下回答这个问题。”
她前倾身体，关掉录音机，点头说。“同意，我们私聊。”
科里双手捧着咖啡杯，仿佛在寻找最后的余温。他扫视了一下他的办公室，寻找着合适的词语。当他开口说话时，他的声音很平静，带着明显的苦涩。“这次攻击的速度和范围，都远远超出了我们的技术。人类作为一个整体，很像手术台上被麻醉的病人。我们的身体感觉不到疼痛，但我们的大脑是清醒的。我们完全脆弱地暴露在一个身份依然神秘的外科手术团队面前。他们的最终目的是什么？他们打算如何进行手术？手术可怕吗？是的！我确实觉得这是有史以来给人类蒙上阴影的最可怕事件。这不仅仅是因为发起这次攻击的智能太轻车熟路了。还因为我了解我们的军对以及他们的想法。如果我们对这种规模的ETASI进行网络战…我只能这么说：人类就像是巨大而空旷的田野里蹒跚学步的孩子，而对方却是一个跟德克萨斯州一样大小的马蜂窝。”
吉尔提醒自己要呼吸。她能感觉到恐惧就像一个不断膨胀的气球一样在她心中弥漫开来。咖啡因也无济于事。她知道这个事件关系重大–每个人都知道。从某种程度上来说，以为恐怖分子是幕后主使，倒是让事情变得既容易理解，也不那么恐怖。因为我们可以在网络战争中战胜恐部分子。但如果那是韦斯博士描述的外星人工超级智能呢？人类也许真的来到了灭绝的门槛上。
采访又持续了一分钟左右。吉尔感谢了韦斯博士，赞赏地笑了笑，然后快步向停车场走去。她低垂着头，希望没有人认出她。当她走到那辆租来的车前，坐进驾驶位，把挎包扔在身旁的座位上时，她低头看了看她光溜溜的双手。婚戒留下的压痕依然清晰可见。似乎它本身就是一个戒指。她有两个孩子，但是没有丈夫。
她的手开始颤抖。嘴唇开始抖动。她能感觉到它又来了。她了解它爆发时所有的迹象和它们的顺序。她闭上眼睛，立刻感觉到泪水顺着脸颊流下来。她喘着气，急促惊恐地呼吸着，如同动物被猎食者咬在嘴里时那样。恐慌症发作是她从人类事务的记者转向科技记者的原因。
她从来没想过，她的这个工作也会导致她发病。她抓起挎包，撕开一小瓶处方药，将一粒长方形的小胶囊塞进嘴里，用力咽了下去。已经太晚了，她知道这一点。她不知道的是下一步该怎么做？如果她知道人类造出来的这个硅基世界可能带来的后患，她是否应该公布这篇采访呢？曾几何时，科技就像一块明亮而璀璨的大理石，在地球上疾驰，代表着希望，促进全球化，治愈疾病，提高效率，推动经济增长，带来繁荣昌盛。但此刻，它感觉就像地壳板块开始无形地移动，排队等着一场灾难，将我们所有人送回过去。
倒退回到多远？谁知道呢？
她需要回去照顾孩子。但她的症状至少还要持续10分钟。她无法开车，就尽可能地蜷缩缩起来，度过这场风暴，直到药物起作用。
她开始祈祷，每当她陷入恐慌发作时，她都会这样做。但这次，她的祈祷比往常更迫切。她祈祷能发出一个信息。不是为她自己，甚至也不是为了她的孩子，而是为了所有人。
这是她第一次想到要为所有人祈祷。
当这个念头在她脑海里浮现时，她在心里笑了。一线希望。
（主权玫瑰译）
