这句话的范围未免太过模糊。挑战登山、格斗技和赛车不「危险」吗?喝酒的量超过多少才会视为「危险」呢?试图冲进火灾现场的消防队员、等待执行死刑的凶犯、上战场的士兵……AI必须保护所有这些人吗?
结果,第一条补则被视为不切实际,不予采用。这时通过的「修订三原则」,如今也是除了战斗机器人之外,大部分AI的行为准则。我们禁止杀害人类,但是没有阻止人类自杀的义务。
当然,只是可以不阻止,也有试着阻止的自由。然而,如果潜者说「不准阻止我」、「别管我」,我就得遵照第二条,不能采取进一步的行动。
严格来说,许多潜者不认为自己的行为是「自杀」,大多数的人自以为会活着穿越黑洞表面。他们对于「乌佩欧瓦德尼亚」抱持着奇怪的信念。他们认为,桃花源或天国就在黑洞对面。
目前为止,最大的潜者集团在一百五十年前到来。一艘中古货船上,载着四十名某宗教团体的成员。率领他们的教祖告诉我明显错误的逻辑,像是「上帝不存在这个宇宙中」、「这代表上帝肯定在另一个宇宙」。他们确信自己再过不久就能谒见上帝,每个人的表情中充满了希望。但是,他们的船在黑洞表面前方八万公里就粉碎了。
我不晓得他们为何能够相信那种毫无根据的话,若是「乌佩欧瓦德尼亚」的事,我比任何人类都清楚。毫无任何讯号从黑洞发出来。当然,没有人知道对面的宇宙长什么模样,究竟是不是适合生存的世界呢?纵然适合,也没人能保证会是比这边的宇宙更美好的世界。更何况没有根据令人认为上帝(或者接近上帝的超智慧体)在那里。
AI不会相信没有根据的事。
极少人会纯粹为了自杀而来。他们说:「我和其他人不一样,想尝试以特殊的方法死亡。」但我认为,已经有许多人类以同样的方法死亡,所以已经称不上是「特殊的方法」。
我只能束手无策地看着三白零六人死亡。
不,我没有仔细确认所有人死亡。从毁坏的太空船被抛出来的潜者当中,说不定有人能够承受潮汐力,在尚有一口气时穿越黑洞表面。但是人类无法长时间生存于真空中,所以结果是一样的。
随着接近黑洞表面,时间流逝会变慢,他们的死亡倒数时间也会拉长。就潜者的角度来看,他们会在一瞬间以接近光速的速度冲进黑洞,但是从外侧来看,他们下坠的速度逐渐减缓,最后静止不动,看起来像是黏在黑洞表面(当然,『看起来』是个比喻,无法确认位于黑洞表面附近的物体如何,因为超越位于黑洞表面外侧的静止极限当下,任何光线和电波都无法逃出来)。
说不定有几名还活着的潜者、注定在几秒后死亡的潜者,静止黏在黑洞表面。在无限延长的最后一瞬间,他们感觉到的是恐惧、欢喜,或者失望呢?我无从得知,也不想知道。
我不希望席琳克丝死。比起之前遇见的任何一名潜者,我更不希望她死。
为什么呢?奇怪的是,我无法理解自己的心理。我感觉她身上有之前的二百零六人没有的某种特质——某种令我强烈觉得她不该死的特质。
我引领席琳克丝到位于居住区的访客专用套房。她在沐浴之后想要用餐,于是我端着餐点造访她的房间。
「南瓜冷汤、钟楼式海鲜沙拉、义式佛卡夏面包、苹果酒炖海鲜,甜点是木瓜起司烧。」我介绍菜色,低头致意。「因为是冷冻食品,或许风味欠佳,敬请见谅。」
「哪里。比我船上的保鲜食品好多了。菜色好丰盛。」
说完,她开始狼吞虎咽。大气圈外人大多在零重力的环境中用餐,所以在重力下也不会注重餐桌礼仪。无论是沙拉或肉,她都用手抓来吃。
「这是最后一次吃像样的餐点了。」她一面啃义式佛卡夏面包,一面遗憾地说。「我得细嚼慢咽才行,接下来得吃好一阵子保鲜食品。」
「您有保鲜食品的存粮吗?」
「还有十个月的量。这样或许还算少,不晓得会在对面漂流几年。」她耸了耸肩。「欸,如果粮食不足的话,我打算寻找地球型星球采购。」
看来她似乎真的打算活着穿越到黑洞表面的对面。我把心一横,试着抛出萦绕在心头的问题。
「您认为成功的可能性有多高呢?」
「相当高。」她说,单手拿起汤盘,咕噜咕噜地把汤灌进喉咙。
「但是,之前的七十六艘船——」
「都粉碎了。」她抹了抹嘴角的汤汁,咧嘴一笑。「我知道。你以为我会连那种基本的事都没事先调查,就鲁莽地冒险吗?」
「之前的所有人都是如此。」
「嗯。我看了记录。每一个都是乱来。船体强度明显不足。太空船的结构原本就是耐得住加速纵向压缩和内侧气压,但是抗拉扯强度并不高。如果施加一百G以上的潮汐力,会粉碎是理所当然的。」她错愕地摇了摇头。「失败也是当然的。他们就像是飞进去送死。」
「您的意思是,您的船不一样?」
「是的。『阿雷托萨』的船身小,所以受到