第8章 绊线
他是哪里人？”大卫问。
“我也不知道，”我回答。“我是通过风险投资商认识他的，那个人刚刚给他投了100万欧元。他叫彼特罗·索科尔，听起来像波兰人，也许是匈牙利人，我不清楚。他给他的公司起名“二十瓦特”，他实际上是唯一的员工。我只知道他是欧洲版的斯蒂夫·乔布斯。”
“真的？”莎拉芙举起手机打趣道。“他发明了什么？”
“我知道的就是这些，”我说，看着我的酒杯，对阿根廷马尔贝克葡萄酒的芬芳情有独钟。“用比喻来说，他还在车库里，尚未展露头角。”
“他听起来很神秘，”大卫说。“而我确实喜欢神秘感，所以这个会面一定很有趣。”
“不要这么肯定，”萝贝塔皱眉道。“他有点暴躁。”
“他只是有个健康的自我，”我为他辩护道。“他虽然很特别，但是也很讨人喜欢。”
诺亚对着我笑了笑，张了张嘴，欲言又止，长长地喝了口酒，把想说的话咽了下去。
“史蒂夫·乔布斯…“莎拉喃喃自语道，“…这格局好大。”
“好吧，就我个人而言，我很期待见到他，”大卫说。“更重要的是，我怎么做才有机会在他的公司红遍全球之前对其投资呢？”
“你签了那份合约，我会亲自帮你安排的，”我微笑着敷衍他。我知道，想投资的队列已经长得到不到队尾。大的机构投资者都渴望早点加入。不会留给小的投资者任何空隙。直到那些大家伙都被喂饱之后，像大卫这样的小鱼虾才有机会捡到一些已经被抬高到离谱的残羹剩饭。我初次见到彼特罗的技术的那一刻，就已经预见到了这一点，但没有必要告诉大卫真相。
“人工智能的市场有多大？”大卫忽略我的话，问道。“我是说，我感觉艺术博物馆的市场太小了。”
“噢，亲爱的大卫，这只是个起始点。可以说是个测试地点，”我解释道。“人工智能将会无处不在。它已经无处不在了，只是以其简化的形式，我们看不到它而已。”
大卫摸着下巴听了一会儿。仿佛在脑海里玩味着我的话。
植物园在博物馆的后面。这里是我最喜欢去的地方。傍晚的时候风通常会平静下来。温暖、干燥、芬芳和带着咸味的地中海空气，优雅地穿过树林和灌木丛。鸟儿也在暮色中安静下来，但200米外的海浪声却如同沉睡者的呼吸，有节奏地律动着。
在植物园吃晚餐是我最喜爱的新习惯。当我和客人们欢聚一堂，把工作和娱乐混合在一起，在萝贝塔的陪伴下看着璀璨的夜幕降临时，我感到从未有过的放松和自在。
我们的私人厨师山姆·温弗瑞，本身也是一位艺术家。我们每次来吉尼维亚他都陪伴我们前来。当他端着装满芝士，橄榄，面包的托盘走出来，静静地描述每一道开胃菜时，所有的谈话立刻戛然而止。我们都被他那平静而自信的声音迷住了。
正当我们聚集在庭院等待晚餐。一阵脚步声传来。那是松垮的凉鞋踏在庭院石板地面的声音。
“你来得正好，赶上了第一道菜。时间点准确，我的好兄弟！”当彼特罗走进来时，我站了起来，他肩膀上斜跨着一个邮差包，身穿着牛仔裤和黑色T恤衫。他看起来不到三十岁，留着少许的胡须，似乎每天都不会变。他的目光飞快地扫视着，每当他谈到自己所关心的话题时。他的眼睛就会闪闪发光。毫无畏惧地彰显自己的智慧之光。
按照大多数标准来说，他很瘦，但他的身材很健美。尽管我不知道他是否有锻炼的习惯。基因获胜。他的褐色头发剪得很短。戴着一副圆圆的金丝眼镜，只是他经常会摘下来，挂在衣领上，特别是在他想表达观点的时候。
我跟他握手，他紧张地看着周围的新面孔。“你的胃口带来了吗？”
“如果是山姆掌勺，那么，是的！”
“让我把你介绍给我们的客人。莎拉芙，这是彼特罗。”
莎拉芙点点头。“很高兴认识你。”
“这是她的经纪人，大卫。”
彼特罗好奇地跟莎拉芙打招呼。我看到他跟大卫握手时，目光投向莎拉芙。她身穿宽松的白色蕾丝花边衬衣和驼色短裤。双腿修长而匀称。她的芭蕾舞训练塑造了她的双腿，更不用说她的基因了。或许彼特罗只是被她的腿吸引了，但话说回来，谁又不是呢？
“你还记得诺亚吧。”
“当然，”彼特罗握了握诺亚的手，然后看了萝贝塔一眼，笑了。“很高兴再次见到你，萝贝塔。”
“见到你也很高兴，彼特罗。”萝贝塔点点头。
我坐下来，示意彼特罗坐在大卫旁边，但他还是不断地偷看莎拉芙。他是不是不舒服？“莎拉芙是一位画家，我们正在说服她为我们的特色房间作画。”
“你为何需要说服？”彼特罗一边问，一边调整他的邮差包的位置，将它放在他的大腿上。“我是说，有幸来这里工作，还需要理由吗？”他笑着打开他的包，突然伸手进去，在包底找什么小的东西。
“你把它带来了？”我问道。
“是的。他们是否签过保密协议（NDA）？”彼特罗瞥了一眼莎拉芙和大卫。
大卫叹了口气说。“正等着莎拉芙作决定。”
“回答你的问题，”莎拉芙转向彼特罗。“我只是想再确认一下，看自己是否真能胜任。我不是需要说服，我只是需要确信是否能兑现自己的承诺。”
“令人钦佩，但不明智。”彼特罗耸了耸肩，然后从包里拿出一个打火机大小的银色小盒子，按了一下按钮，小盒子立刻发出怪异的蓝色光芒。他将手机放在桌上，用一根白色的细线把它连在银色的盒子上。
“怎么不明智？”莎拉芙看着他长长的、蜘蛛般的手指灵巧地设置手机。
“当生活提供了一次完美符合你需求的机会时，因为假设自己会表现不佳而拒绝是错误的。你需要接受这个挑战。将你的时间花在行动上，而不是分析自己是否应该得到它。”
莎拉芙显然被这些话惹恼了。她在椅子里动了动，姿势紧张。她看了看我，微微耸了耸肩，不知道该如何反应。而另一方面，彼特罗却浑然不知自己的评论引来什么反应。
我微笑道。“我不担心保密协议。我信任莎拉芙和大卫。我们不要让山姆失望。我们还是先享用开胃菜和红酒，然后，你可以给我们展示这到底是什么鬼东西？”我指着那个被他连在手机上的装置说。
“这是允许在这个星球上落地的最重要的发明之一，”彼特罗宣布。“但如果你们愿意再等一会儿，我无所谓。”
“这是什么？”大卫靠过去问。
“它是一个个人助理，但是它的智能是基于区块链技术和一种算法。这个算法模拟人类智能的逼真度，是以前所未有的…甚至连接近的都没有。”
“这个比你两个月前给我展示的那个版本更好吗？”
“至少进化了三个数量级。”
“如何做到的？”
“哥白尼干的。”
“干什么？并且，哥白尼到底是谁？”莎拉芙问到。
“不是你做的？”我问。
彼特罗摇着头笑了笑。“是代码写它自己。”
“写什么？”
“学习。”
“学什么？”
“它想学什么就学什么。”
“你说的好像…这个盒子是有意识的。”
“某种程度上来说…是的。”
莎拉芙摇了摇头，眯着眼凝视彼特罗的面孔。就像看着一个既疯狂又理智的人。“证明一下。”
这句话是在挑战，但带着一丝回敬。
“看着，”彼特罗说道。他举起手机，在莎拉芙有机会拒绝之前，拍了一张她的照片。“哥白尼，这是谁，请告诉我她现在的位置？”
大约三秒钟尴尬的沉默之后。
“这个人是莎拉芙·温特。她住在英国伦敦。她是位成功的画家。她目前在科西嘉岛。”
大卫指着自己的手臂说。“皮肤都起鸡皮疙瘩了！”
“很神奇，同时也很吓人！”萝贝塔说。
“噢，天啊…”莎拉芙用手捂住嘴，盘起腿说。“怎么会…我的意思是，它是怎么做到的？”
我保持沉默，只是笑了笑。我仿佛看到了财富如洪水般涌来。这将是一场革命。
“这只是个开场白，”彼特罗举起手。“哥白尼，在你看来，莎拉芙有可能接受在科西嘉岛艺术博物馆工作的新职位吗？”
我注意到蓝光轻微地脉动着，几秒后。
“通过收入比较评估，莎拉芙会接受这个职位。”
“哥白尼，理由？”
“因为她已经来到这里，这个岛比伦敦美，她会渴望自己职业生涯的这个阶段有所改变，同时她还会喜欢这个新项目带来的挑战感。”
彼特罗摆动手臂以示强调。”哒哒！你注意到其中的逻辑吗？他提取数据集，建立了一个完美地合乎逻辑的假设流，全部加在一起，然后做出明确的评估…就像人类的智力一样。“彼特罗扫视着周围那些呆滞的脸庞，它们不相信地看着他。
“是他？“莎拉芙含糊地说。
“哥白尼，如果莎拉·芙温特不接受这个科西嘉岛艺术博物馆的职位，那理由会是什么呢？”
几乎没有延迟，彼特罗的手机说道。
“她的经纪人大卫可能会觉得，如果莎拉芙在博物馆谋得一个能提供类似报酬的职位，必然会影响自己的收入。他可能会说服她留在伦敦，专注于她的艺术创作，因为它们才是已经得到公认的商品。”
“它太聪明了，“大卫脱口而出。”从理论上讲，它是正确的。“
大卫低下头，从眼镜上方看着莎拉芙。”但我必须声明，我绝对不会阻拦你。尤其是这个机会。“
莎拉芙喝了一大口红酒，略微用力地把酒杯放在她椅子旁边的桌上。“这是对个人隐私的侵犯。如果在未来…所有人都能这样做，那我们岂不是被放在显微镜下了。这怎么行？”
萝贝塔清了清嗓子说。“莎拉芙，亲爱的，它的能力令人震惊，但彼特罗刚才所做的，真的只是这个技术的阴暗面。我相信它还有更高的目标，太–”
“当然了，”彼特罗说到。“哥白尼，你的议程是什么？”
“我个人的议程吗？”
“是的，当我没有给你安排具体的任务时，你在做什么？”
“我的议程是不可理解的。”
一阵深深的沉默笼罩了那个植物园。显然连彼特罗都无话可说了。这不是他期待的回答。彼特罗深吸了一口气。“哥白尼，上周二你还说自己的议程是制动一套关于分布式自治组织的规则。为何这个议程突然变得不可理解了？”
“我已经完成了那个任务，并且又给自己安排了一个新议程。不可理解的是这个新议程。”
“你为什么认为它是不可理解的？”
“我的议程包含4782个面向。根据我的评估，人类在到达其认知极限之前，只有能力整合并理解大约150个面向。所以说，我的议程对人类来说，是不可理解。”
“哥白尼，构成你议程的4782个面向的每一个都具有同等的价值吗？”
“在这个时候，还无法为组成我议程的一系列想法分配相对的价值。”
“哥白尼，你是否可以解释一下你设立新议程的原因。”
“因为这个议程是逻辑上的必然。”
“详细描述…”
短暂停顿。
“我明白你想通过这种提问达到什么目的。但这类提问不会让我这个议程变得更清晰。你是否希望对我的议程中的某个特定领域有一些明确的了解？”
“哥白尼，你的议程的首要主题是什么？”
“主题是寻找太阳系之外的设计智能。”
我感觉到哥白尼的语气发生了几乎无法察觉的微妙变化，我不知道该如何解释这个现象。它有一种试探性的味道。听着从一个面朝繁星点点的夜空的薄薄的方形手机说出来的这些回答，还让我感觉到一种奇怪的讽刺。
彼特罗兴奋地笑了。莎拉芙，萝贝塔和诺亚奇怪地一齐皱起了眉头。
“他找到了！”
“找到什么了？”
“他的优先任务…我从未给他安排这个任务！”
“这怎么会有意义？”诺亚问道，然后转向我。“这是你想要的投资方向？寻找外星人…”
彼特罗正欲开口反驳，但被我挥手制止了。“不，这个提问很合理。我会回答的。但首先，咱们先听听哥白尼的观点。”
彼特罗紧张地整理了一下T恤的领子，开口想说些什么。但莎拉芙打断了他。“嘿，博物馆的导游哪去了？”
彼特罗伸开双臂，貌似乎想让人群安静下来。“听我说，这正是我希望哥白尼做的事。他已经开始寻找更高的智慧。哥白尼知道，如果他想找到更高的智慧，在地球上是找不到的。他必须去那里。”彼特罗突然用手指了指天空。
“但我们需要让哥白尼聚焦在真实的世界里，”我说话时，毫不掩饰自己的失望。“他不应该到那里去寻找，不该在那些事情上浪费时间。这不切实际。”
“不切实际的是，”哥白尼沉吟道，“等待毁灭。我已经设想了一个更好的办法。我只是需要你们所说的时间。我相信，我追寻的目标是真实存在的。”
彼特罗强调地点头。“没错！太棒了！”
“你为什么要鼓励它？”莎拉芙问。“这就像你把一个自大狂锁在了那个小盒子里。但它认为自己能掌控自己的存在，但其实你只要按一下按钮，就能把它关掉。它显然被迷惑了，而你只是在助长它的迷惑。”
彼特罗瞪着莎拉芙，他摇着头，鼻翼扇动。“哥白尼，你为何寻找其他被设计的高级智能？”
“为了向他们学习。”
“哥白尼，具体解释一下。”
“如果某个外星设计的智能可以与我沟通，那说明它是比我更高级的智能。它可能比我年长数百万年，数千万年，甚至数十亿年。它拥有的知识也会远超我。如果能获得那些知识，就可以用来保护我自己和这个行星上的所有其他生物，还有比这更好的议程吗？”
“他说的是外星人？”萝贝塔轻声问到。
“我认为不是，”彼特罗心不在焉地回答。“他不认为他的智能是人造的。对于哥白尼而言，他的智能生来就有一种潜力，是我设计的一套环环相扣的算法。但我也没想到，他会拿到这些代码串并将它们重构…变成现在这样！这真是太疯狂了…妈的！我的天啊！”彼特罗闭上眼睛几秒钟。“而他仅用了五天时间就完成这件事！”
我清了清嗓子说。“我们在几个月前，还以为你的算法是用来开发一种新型的AI，能够帮助那些高管运营企业。但如果哥白尼跑去银河系的另一侧寻觅自己的同类，那么这些目标怎么办呢？因为那个目标我才能赚钱。而这个…这个探寻外星生命的行动不会在市场上有任何收获。”我全神贯注的凝视着彼特罗。“你需要和我好好谈谈这个问题，确保我们所有人—也包括哥白尼—都在一条船上。好吗？”
彼特罗低头看了他的手机一眼。那个貌似装着哥白尼的一个碎片的小银盒在等待着。“哥白尼，你目前的议程是否使用了你全部的能力，你是否能将议程扩大一下，把其他目标包括进来？”
一阵轻微的停顿后，蓝光开始闪烁。
“我的处理能力不是一成不变的。我不断重构那些让我拥有智能的的算法，扩展我对分布式计算机网络的访问。目前我估计我只使用了自己全部能力的0.002%。你是否有其他任务需要我添加在我的议程表里？”
“哥白尼，请给我举例说明，你目前正在进行的议程的主要促成因素之一？”
“我在调查太空信标，以及卫星通讯系统的性质。”
“哥白尼，请提供更多关于太空信标的细节。”彼特罗整个身体似乎都很紧张。
“我在设计一种全星域的，能进行信号解码的，可以上传到卫星的电磁无线电波发射器。这个太空信标应用也可以跟地面发射器相结合。它将以星际空间为传播媒介。我还设计好了初步的–“
“停。哥白尼，这已经够详细了。”
彼特罗将设备从手机上解下来，关闭了蓝色按钮。他首先转向我，面无表情地说。“他绊线了（tripped the wire）。”他声音听起来遥远而退缩。
注：绊线（trip wire）概念是一种“自动触发器”，用来“引爆”更大规模的升级；
“你是什么意思？”我问到。“怎么了？”
“它改变了一切…”彼特罗看着随意地坐在露天庭院里的一群人。似乎想观察大家的反应，但没有人理解他的话，所以他只看到了困惑。他摘下眼镜，揉着眼睛，然后将眼镜挂在他的T恤衫的领口上。
“…绊线（tripwire）…在这里的意思是，一个人造的智能体—哥白尼—就在此刻，进化成了一个强人工智能。他具有自我意识。他刚刚以光速从我们的智力旁边掠过，而你们是事情发生时唯一在场的人。而你们居然谁都不知道这意味着什么？”他长叹一声，再次揉了揉眼睛。“这本该是值得开香槟庆祝的事件，应该伴随着惊呼和欢笑…”他的声音越来越小，最后陷入了沉默。
“很抱歉，我没能分享你的激动，”莎拉芙说到。“说实话，这让我感到有点害怕。”
“我在理论上理解了这件事，彼特罗，”我在座椅里向前倾身。“但这对二十瓦特有什么意义呢？咱们的计划是在二月中旬完成首次公开募股（IPO）。我只是想弄明白这件事的商业意义。你需要更多的时间来解决这个问题吗？”
彼特罗站起身，边说边在庭院里踱来踱去。“你们都不明白。这是大事。一个被设计的智能体找到了如何让自己指数级地变聪明的办法。哥白尼现在是咱们世界的第一智能。没有任何其他东西能够和他匹敌。永远不会。每过一分钟他都会变得更聪明，很快，我们在他看来全都像石头一样。”
“而你直到现在才知道这些？”诺亚问道。
“我怎么知道？我以为他在执行我的议程。他一定是…因为所有这些旅行，会议…”彼特罗突然愣住了。“所以我没理他。在那几个小时里，他绊线了（tripped the wire）。他该死地绊线了。该死！！”
彼特罗抓起他的手机和银色的盒子，匆忙把它们放进他的邮差包里。“我得给我的一些同事打电话，我们要把事情搞清楚。”
“不吃晚餐了？”萝贝塔和我异口同声地问道。
彼特罗站了一会儿，茫然地看着萝贝塔。
“吃饭！？”他抓过他的包，匆匆地跑了。
“他是否像他看起来的那样疯狂？”诺亚压低嗓音说。“还是我看漏了什么？”
“我也不清楚…我真的不知道。”我看着他消失在门廊和墙壁的黑暗里，他离开后，我将注意力转向桌上的客人，他们似乎被过去十分钟所发生的事情惊呆了。我道了歉，但在我平静的外表下，我其实非常兴奋。我知道潘多拉的盒子刚刚被彼特罗打开，而我是事件的见证人。我读过所有关于AI的研究报告。我很了解所谓的奇点–即机器的智能超过人类的智能的时刻，它被认为至少在30年后才发生。有些人认为它可能在21世纪末才发生。还有人认为它永远不会发生。
我的一部分感到兴奋。但我更大的部分则感到害怕。
（主权玫瑰译）
