第一卷 第三篇镜子女孩（5 / 6）

「孩子并不是光和父母对话就会成长，而是要被母亲抱在怀中、玩积木、散步、听绘本……这些日常生活中的所有刺激会变成经验。光是透过键盘或麦克风的对话，资讯量绝对不够。所以『胎儿』的成长远度比人类慢了许多。」

「噢，原来如此……」

「如果有什么加速累积经验的方法就好了。除非找到那种方法，否则技术突破还要等几十年。」

如果将强化ai输入「镜子女孩」，夏莉丝说不定也会萌生自我意识……随意幻想的我，听到这句话好失望。看来意识不是那么单纯的东西。

就在此时，夏莉丝移植到新硬体的作业结束了。

「这样可以了。我想，作业系统跑起来比

之前顺畅，所以反应也会变快。」

他一面说明，一面打开「g」的开关。「g」的萤幕比初期型的大上两圈，我不用把脸凑近萤幕，就能够看见夏莉丝的全身。

「咦，麻美？你刚才好像挺慌张的，怎么了吗？」

那就是夏莉丝说的第一句话。这是理所当然的，她没有关机期间的记忆，而将我突然关掉电源形容成「慌张」。

她真的没有改变吧？天真无邪的语气和平常一样，但是不多聊几句，我没办法确定。

「不，没什么大不了的——你觉得如何？有没有觉得哪里不一样？」

「你这个问题好怪。没有呀，一切都一样。撒拜因今天也很安分——咦，你身后的人是谁？」

夏莉丝似乎一眼就察觉到了星夜站在我身后。

「呃……他是冴木先生，从事制造机器的工作。」

「夏莉丝，你好。」星夜极为自然地对她说话。「你真是个朝气十足的女孩。」

「你是冴木先生，是吧？幸会。你该不会是……麻美的男朋友？」

「不、不是啦！」我连忙否认。「他只是、呃……朋友。」

「什么啊。你马上就邀请人家到新家，我以为他铁定是熟人呢。」

看来似乎是「刚搬家」这项资讯使她混乱，误以为这个房间是我的新家。

我又继续对话几分钟，确定她的个性没有改变，关掉了电源。

「哎呀，真是惊人啊！」星夜大感佩服。「她形成了完美的反应模式。我第一次看到有人把『镜子女孩』培育到这种地步。」

我不好意思，感觉脸不停发烫。「才不呢……别人都觉得我是个怪胎。」

「你用不着害羞。对机器投注关爱一点也不奇怪。虽然嗜好不同，但我也和你差不多。不管别人怎么看待自己，选择自己喜欢的路是最棒的。」

他是第一个这么跟我说的人。我的脸变得更烫了。

回到公寓时已是深夜。我在就寝前打开「镜子女孩g」的开关，再度和夏莉丝说话。

「你觉得那位冴木先生怎么样？」

「我只看了他一眼，不太晓得。麻美觉得他怎么样？」

夏莉丝似乎无法从贫乏的资讯判断，回应安全的答案。她的反应在预料之中。

「这个嘛。我觉得他是个好人。」

「你喜欢那种人吗？」

「不晓得。」我陷入沉思。「……或许是吧。」

「如果你那么觉得的话，一定是那样没错。你会再跟他见面吗？」

「我希望能再见到他。」

「是啊。你想再见到他吧。」

「嗯，是啊——那，晚安。」

「晚安。」

半年后，我落得和星夜仓促成婚的下场。

这件事说来丢人——因为我们疏于采取避孕措施。原因出在两人至今都只跟电脑来往，缺乏性方面的知识。他和我都是第一次和异性发生关系。

我一边带小孩，一边念美术大学。幸好星夜的收入足够，所以一家三口生活无虞。他和好几家大企业签约，会故意入侵资料库或者在内部网路散布署名的无害病毒，从事检测安全性的工作。自从二〇二六年发生大规模的网路恐怖攻击事件以来，这一行的需求剧增。

他也没有舍弃梦想。兼顾工作和陪妻小，他勤而不辍地致力于创造强化ai。只是，研究进步幅度迟缓。

世人对于人工智慧研究的危机感日盆升高。因为无法断定强化ai诞生时，不会像电影一样，反咬创造主的人类一口。若是怪物般的ai控制网路，人类文明就真的陷入了危机。因此，也有人高声疾呼，要立法管制强化ai研究。

「欸，这也难怪。」有一天晚上，星夜边吃饭边说。「我也绝对不会让那台机器连上网路。因为无法预测遗传型运算法会如何进化，要是失控的话，后果不堪设想。」

「没办法事先对ai设定程式吗？」我以外行人的逻辑思考。「像是不可以做出伤害人类的事……」

「所谓的艾西莫夫原则吧。『ai不可以伤害人类』、『ai必须服从人类的命令』……可是，那是没有意义的。拥有自己的意思，代表他们超越了程式；强化ai能够改写本身的程式——简单来说，他们也有杀害人类的自由、反抗人类的自由。」

「可是，人类也是如此吧？人类也会反抗别人说的话、有时候会杀人……」

「你说得一点也没错！」他一副「你说出我的心声了」的表情点了点头。「所有人都有犯下杀人罪行的自由，但是很少人会行使这项自由，因为人类有道德感和自制力。如何让强化ai学习这些是最大的问题。

「知道被狼养大的少女的事吧？如今的『胎儿』就和她一样。它就像依照本能行动的野兽一样，完全不听使唤，令人束手无策。要将强化ai提升到人类的层级，是一件很困难的事。」

他看了一眼在婴儿床里睡得香甜的宝贝孩子，感慨万千地叹了一口气。

「我切身体认到，人类要变成循规蹈矩的人，有多辛苦。」