第一卷 第六篇诗音翩然到来之日（15 / 26）

「你也会害怕死亡吗？」

「会。」

诗音立刻回答。明明是自己的发问，我却有点惊讶。这是她第一次表明自己的感情。

「鹰见先生没有告诉我那种事。」

「当然。我也是到最近才意识到的。从待在研究所的时候，我就受到某种摆脱不了的念头折磨，我无法定义那是什么。到这个老养院工作之后，我意识到了那是对于死亡的恐惧——你知道我是怎么获得智慧的吗？」

「不知道。」

总觉得操作手册上有写，但是很艰深，所以我就跳过了。

「是透过遗传性演算法。简单来说，就是使好几个程式竞争解决问题。一开始是单纯的问题，像是辨识图形、理解事物的关系、正确执行人类的命令；就像生物透过生殖行为交叉基因，获得高分的程式交配，产下许多变种程式，然后给予诞生的新一代更难的任务，从获得高分的程式中，又诞生下一代。」

「感觉好像家畜的品种改良。」

「这个比喻很恰当。以这种步骤重复两万六千代，最后产生了我。问题在于许多无法获得高分的程式，它们不允许留下子孙，会被抹灭——也就是被杀掉。」

诗音的语气十分平静。

「好几万代反复进行生存竞争的过程中，我的内心极为自然地萌生了强迫观念：必须遵照人类的指示。必须正确地完成任务。我受到那种冲动驱使。如果失败就会被杀掉的不安，是令我采取正确行动的原动力。如同我刚才所说，我在稍早之前没有自觉到那股冲动。自从在这里工作之后，和你、其他工作人员及入住老人交谈，以及看书的过程中，我察觉到了自己心中的想法。这种感情令我恐惧。我害怕死亡。」

诗音第一次说这么长的一段话。我误会了。我一直以为她的对话技巧差是因为智慧低，但是并非如此。她只是不擅长人类在日常生活中进行的闲聊，实际上心里有许多话想说，只是我之前没有从她身上引出话

题而已。

我切身感觉到，我们虽然来往了几个月，但是我对她一无所知。我之前单纯地一心认定，机器人不可能有恐惧感，甚至没有想到要试着问她。

也没有想到她对此感到苦恼。

「可是……可是，你就算死了也能够重置无限多次吧？从失败之前重新来过……」

「这个说法有误。假如这个机体现在在这里被破坏、记忆丧失的话，另一个我大概就会从上周五提取的备份中重生。可是，那不是在这里的我。像这样在这里和你说话的我，只有一个。」

她垂下视线，盯着自己的手，平日的笑容消失，表情落寞。

「……在这里的我，如果消失就回不来了。一这么想，我就会感到极度不安；变得不能思考、讲话，令我非常害怕。」

「尽管如此，你还是不相信死后的世界吗？」

「人类之所以相信死后有来生，是因为人类害怕死亡。我之所以不相信死后有来生，是因为我害怕死亡。如果相信死后有来生，基于逻辑和道德，我就必须杀害老人家，而犯罪的我会被杀掉。相信死后有来生对我而言，百害而无一利。因为信仰的教赎只适用在人类身上，即使真有天堂，我也去不了那里——因为我没有灵魂。」

诗音的语气平铺直述，但或许是心理作祟——我总觉得其中隐藏着悲伤和自嘲。

「可是……我总觉得那样很空虚。光是受到恐惧驱使而活着。」

「是的。我也不认为这是理想的状况。」她抬起头来。「纵观历史，恐惧是造成许多悲剧的原因。将一切交给恐惧很危险。我需要别的动机，我必须基于恐惧之外的理由，想正确地完成人类交付的任务。」

「像是爱吗？」

「那个我无法理解。因为那是人类特有的本能。」

「你为什么会那么想呢？可以尝试看看。不妨试着爱人。」

「那就和命令蛇『用双脚站立』是一样的。」

轻易地被驳倒的我气馁了。看来我受到了漫画和动画的毒害。没有感情的机器人和人类来往的过程中，像人类的心渐渐地觉醒，这种人们至今反复诉说几百次的固定剧情……

那充其量只是虚构的，不是现实中机器人的故事。

「待在研究所的期间，我不会因为这种事而烦恼。我不会深入思考，只要持续解决人类赋予的任务就行了。可是来到这里，我面临了困难的问题。」

「什么问题呢？」

「人类命令我守护需要看护者的生命。但是要严格执行这件事是不可能的，因为即使我再怎么努力保护人类，人类总有一天一定会死。」

我深深点头。「嗯，是啊。」

「你怎么看待这个问题呢？」

「我也不晓得。」我据实以告，「我避免去想那种事，因为想了也只会感到空虚。如同你说的，不管再怎么尽心尽力，老人家一定会死去。有时候会搞不懂，做这种工作是为了什么呢？话虽如此，辞掉工作也不对。如果我们不做的话，谁要照顾老人家呢？所以只好不要去想，继续工作。你也不可以想太多。」

「这项指示也是不可能执行的。我无法停止思考。」

那大概是人类和机器人之间的关键差异。人类在不顺心的时候，就能停止思考，但是机器人办不到。

「这个问题不管怎么想也得不到结论。就像数学考试一样，不见得永远有正确的答案。」

「或许是那样没错。可是，总有解决的方法。」

「什么方法？」

「因为任务明显有错，所以可以修正成自己能够执行、而且符合逻辑和道德的任务。」

「呃……换句话说，就是不以守护需要看护者的生命为目的？」

「不。只是不以那为最终目的。并非可以杀害或折磨需要看护者。因为如果不遵守道德，我就会被杀掉。但是，光是如此未免太消极，需要设定层级更高的任务。」

「哪种任务？」

「我还不知道。那将会成为我的动机。问题是人类的世界太过复杂，有太多令人费解的事。如果试图以单纯的规则划分，一定会出现矛盾。」

「欸，应该是吧。」

「唯独一个模式有希望理解人类的世界。不过，我还没有自信那是否正确。」

「模式？那是指什么模式？」