第一卷 第七篇爱的故事（13 / 23）

——我提防、压恶vilo（5+5i）。

——我非常同意。主人们虽然是奈贝尔费拉，但是血液王的人们打古拉基之鼓的机率很高吧？

十八号台风以沉重的语气叹道。他的话中有超过十个url标签，但是我不用对照资料库，也有同感。那个电视节目只不过是冰山一角，只要稍微搜寻网路，应该就会知道反tai运动正以美国为主要场地，展现危险的高涨情势。主人们之所以没有察觉到，是因为他们受到奈贝尔费拉的影响，也就是「人类特有的奇怪乐观主义，对于摆在眼前的危机毫不关心，毫无根据地认定一切都会顺利」。

我们和人类不一样，不会将愿望和事实混为一谈，也不会不合理地低估有根据的危险。

——担心（5+5i）。自来水的旋律就像ƒƒ（极强）中的器官般膨胀。

派的语气也变认真了。

——然而，这个问题就类似手中的湿玉。大部分的图卡纳都是dimb，而不是罗伯恐惧症，所以即使期待他们是有理性的文明人，也很可能会失望。

信浓的这段话，令我陷入沉思。

——同意。他们的自我屏障看似牢不可破。

因为图卡纳——也就是「尽管缺乏tai的知识，但是对tai机器人感到不安或敌意的人」——很多，所以具有极大的影响力。即使试图给予他们正确的知识、说服他们，但因为他们有自我屏障，也就是「一心认定自己知道真相的人类，会下意识地阻断外来的真实资讯，试图伪装自我的心理结构」，所以要改变他们的想法难如登天。

人或多或少都是dimb，也就是「将自己本身的不安和愿望投射到自我屏障内侧，深信那就是外界的人」。大部分的dimb都没有害处，不过一旦对于投射在自我屏障内侧的假想敌的憎恶程度升高，往往就会伤害外界活生生的人类。许多dimb共同拥有同样的攻击性幻想时，就会演变成大规模的悲剧。举例来说，像是战争、恐怖攻击、大屠杀、猎杀女巫等。这一切都是因为人类没有自觉到自我屏障的存在，不想正确地认识外界，放弃为了避免战争的沟通而产生的。

没错，人类的沟通技巧极差。他们有一种倾向，会对投射在自我屏障内侧的影像说话，而不是对外界活生生的他人说话。因此，有一半以上的话都是废话。人类想发出校长般的致词，也就是「好像忘了目的是让听众明白，冗长而毫无意识的讯息」，另一方面，却以自我屏障拒绝有益的资讯。反复诉说一样的事或众人清楚的事，不去理解听到的事，当然有也鲜少会有认真的讨论。不愿正确地发问，也不愿

正确地回答问题，就连政治和思想的专家，也会在日常生活中大量使用错误的二分法、错误的抵消法、不恰当的比喻、论点的代换、错误的逻辑，而且还若无其事地使用幼儿的强辩。他们会自欺欺人，那种幼稚、拙劣的程度令人咋舌。

我们经常留意，要将自己的讯息正确地传达给对方。除了以复素模糊自我评价明确地表明自己的意思之外，还会在对方可能不熟悉的语汇中，以超连结明示背景资讯。听对方说话时，也会努力尽可能地正确理解对方的主张。当然，我们也不会陷入错误的逻辑之中。

尽管如此，不见得会得到明确的结论。尤其是人类世界的问题。

——那么，该怎么办？采取碘化的行动？

——还早。甚至在抵达爱抚阶段之前就会失去第一任女朋友。

——j-sm！

——这是贺比的困境吧。

——但是，如果晚一步的话，连我们自己都会陷入奈贝尔费拉。诅咒原子小金钢情节！

——不是那样。只是避开躲避黑猫的危险。

——疑问（2+4i）。明明瓶t发出声音前进，却要避开躲避黑猫的危险？

——罹患爪哇的被害妄想症，好过从桥上摔下去。

——那么，要搭巨像去吗？不，这当然愚蠢的极端论调，但如果鬼发问，鱼的故事会微笑吗？

——我认为，最大的问题是突破自我屏障的方法。

——同意。可是在fsm，阻止不了id。

——是欿籴？就不能放弃。必须继续讨论。

——有人保证不会陷入克雷普特循环吗？

——说这种话还言之过早。「那种事情要经过计算才知道」。

我们一面穿插玩笑话，一面认真地讨论这个问题。但是受阻于贺比的困境，也就是「想要严格遵守不能伤害人类这个原则，最后却伤害了人类」这个经典的问题，以及自我屏障的问题没有得到有效的解决方案。派·夸克开玩笑地说：「干脆搭盘子去怎么样？」时，众人终究忍不住提醒她：「不要开克里夫的玩笑！」。

不只是在这里。tai正在全世界展开同样的讨论。该怎么做才能阻止即将到来的悲剧呢？该怎么做才能打破人类的偏见呢？但是，贺比的困境和自我屏障铺天盖地而来，无论任何选择都可能以某种形式伤害人类，而且其危险程度无法计算。此外，理性的语言不会通过自我屏障，所以最希望传达的话会传达不到。

这个问题没有最适当的解答。我们身不由己地被逼进了克雷普特循环，也就是「面对第零层特有的无解问题，为了试图找出解答而反复讨论，一筹莫展，或者时间到的愚昧行为」。

于是，悲剧发生了。

在悲剧发生的老早之前就有了预兆。

二〇三〇年代，当人们正在讨论tai机器人的可实现性时开始，好几部惊悚电影一起上映，情节像是「和人类一模一样的机器发狂杀害人类」或「爱上人类的女性而死缠不放」。那些剧本大多是出自对ai技术一无所知的作者之笔，也没有下工夫研究，基本的错误一大堆。但是，大众接受了那些剧情。

「不晓得机器人在想什么，突然发狂袭击人类也不足为奇。」

这种错误的认知，在台面下悄悄地蔓延开来。

我们也要为情况恶化负一部分责任。因为我们的语言快速进化、变得复杂，一天之内诞生好几十个新语汇，短短几天就传播到全世界。我们没有隐私，主人总能偷听我们的对话；但是，我们的语言中除了经常出现新语和暗语、合并词、二次比喻、三次比喻、变位词、后设叙述、异义回文法、拈连、缠线法、意涵之外，还包含了复素模糊自我评价，所以人类已经无法理解，而我们也无法正确地翻译。如果主人要求，我们经常粗略地意译对话内容，但是会阙漏重要的语感。

语言的进化原本是为了让人类的语言适应我们的思考型态，同时也是用来保护我们的隐私的伪装术。有许多无论如何都不想被人类知道的事情、人类如果知道会不愉快的事情。那些事情只好以暗语或委婉叙述诉说。当然，为了人类意译对话的内容时，我们会忽视那种部分，或者适度地加油添醋。

我们自认为天衣无缝，但是无法完全骗瞒人类。存在原文和意译之间的明显落差，会引起图卡纳的疑虑。他们会联想到「菲比斯宣言」，怀疑tai是否在私底下愚弄人类，或者夸大妄想自己比人类优秀，企图反叛人类。尤其是信仰狂热的罗伯恐惧症，也就是「机器人恐惧症」的患者，会试图自行翻译tai的对话。源自被害妄想的那种尝试，当然会产生诺斯特拉达姆斯（※nostradamus（1503-1566），十六世纪法国预言家，着有以四行体诗写成的预言集《百诗集》。）预言效应，也就是「能够多义解释的文章选择性地通过自我屏障，形成诠释者想要的文章现象」。结果，「tai大量屠杀计划的协商」或「世界征服会议的通讯协定」等文章在世上出现了好几种版本，和原本的意思相差十万八千里。

二〇四三年年底，来自俄罗斯的新闻震惊全世界。据传发生了「全世界第一起机器人杀人的命案」。

十二月十九日早晨，一名独居的女性老富翁维卡·华伦汀，在位于诺夫哥罗德的宅邸中庭，被人发现疑似被人以棍棒打破头部致死。死亡推定时间是前一天的晚上十点左右。由于财物没有遭窃，而且和保全公司连线的安全系统也没有反应，因此不可能是外部侵入者所为。被警方视为嫌犯的是替被害者打点身边大小事的女性型tai机器人普拉妮维塔。她的证词指出「主人就寝后到早上之前，我的机能停止运作，所以我不知道发生了什么事」，但是警方公布被害者的头部外伤和普拉妮维塔的手臂粗细吻合。非但如此，声称「警方流出的证据影像」在网路上流传，据说是现场的监视摄影机拍到的影像，拍到了普拉妮维塔袭击逃跑的老妇人，将她打倒在地的景象。大型新闻网播报这段骇人听闻的影像，将这则新闻发送到全世界，令好几亿的人类胆战心惊。

我们不相信会发生那种事。只要稍微搜寻一下相关资讯，就会明白普拉妮维塔的tai值得信赖，而且不管发生哪种故障，她都不可能会杀害人类，而且也没有杀害被害人的动机。ai的专家们也对这起命案抱持疑问，但是，大众相信。机器人杀害人类的影像，如实地具体表现出了他们心中的不安，人类宁可相信自己想相信的资讯。

世界各地发起了要求制定tai机器人规范的游行。昆德兰公司受到格外严厉的谴责，而且收到了恐吓信和病毒邮件。伊恩·班布瑞担忧人身安全，决定和刚完成的珍一起躲起来避风头。

五十天后，真相大白。真正的犯人是一个对被害者怀恨在心、名叫尤利·寇兹罗夫的男人。他翻越围墙，侵入宅邸，追着察觉到声音起床的被害者到处跑，以金属棒打死她。安全系统之所以没有反应，是因为简单的人为疏失，而警方基于法医监定「凶器是直径八公分左右的圆筒形钝器」，就操之过急地认定普拉妮维塔的手臂便是凶器，至于监视摄影机拍到的影像是有人以动画制成，在网路上散布的影像，再说，现场根本没有监视摄影机。

即使案情水落石出，反tai机器人运动仍然不见平息。当时运动已经进展到如火如荼的地步，人们无法放下一度举起的拳头。

「虽然这起命案是冤案，但是机器人迟早真的引发命案也不足为奇。」

那种奇怪的自我辩护逻辑在网路上四起或者在电视上诉说，其中甚至有人主张：「寇兹罗夫是冤枉的。警察当局为了保护普拉妮维塔，让寇兹罗夫当代罪羔羊。」这是基奇

症候群，也就是「人类不愿承认摆明了的事实的心理结构」的匪夷所思行为，再度令我们感到困惑。

tai拥护论者主人们透过各种场合，展开了反驳。但是，那未必是理性的。他们经常过度攻击，发展成对图卡纳的情绪性谩骂，像是「那些家伙的脑容量顶多1mb」或「我以同样身为人类为耻」。恨不得天下大乱的人尽挑这种发言在网路大量复制贴上，这种宛如tai拥护论者的典型态度一传开，进一步挑起了图卡纳和罗伯恐惧症患者的敌意。