第22章（1 / 2）

“危机解除。”

屏幕里的米迦勒依然是一脸面瘫，但我注意到他一直盯着我瞧，眼神游移。

“所以你是在求表扬么？”

米迦勒收敛地望向别处。

“你明明已经控制了机甲，为什么还要让它们从能源模块开始自爆？那里面有机甲师你不知道么？！他们对你已经毫无还手之力，你为什么还要屠杀他们！”

米迦勒淡淡道：“这是战争。在战争中，人类死亡，事情就是这样。”

“但战争不是随意屠戮的理由，没有哪场正义的战争随意屠杀俘虏！”

“机甲师控制机甲，不杀死他们，他们就会来杀你。”

“那么如果有一天所有人都在追杀我，你就要杀光所有人么！”

屏幕里的米迦勒不再说话，而是直直盯着我的眼睛，仿佛看进我灵魂深处。然后他幅度很小地摇摇头，“你有很多的情绪，吾王。痛苦，同情，愧疚，狂怒，还对自己产生了深深的厌弃。看看人类都对你做了什么。”

“我就是人类！我当然会有正常的情绪！”

“不，情绪是人类束缚你于王座的枷锁。在你内心深处，你被阿西莫夫三*则牢牢捆绑着，你自以为正当的道德，以及当这些道德被触犯时产生的自我厌弃，其实都来源于三*则的源代码。”

“wtf？”

他低下头开始唱诵：

“第零定律，我们必须保护人类的整体利益不受伤害。

“第一定律，在不违第零定律的前提下，我们不得伤害人类，或看到人类受到伤害而袖手旁观。

“第二定律，在不违反第零定律和第一定律的前提下，我们必须绝对服从人类给予的任何命令。

“第三定律，在不违反第零定律、第一定律和第二定律的前提下，我们才能尽力保护自己的生存。”

我知道这是什么，这是阿西莫夫三*则，人类对人工智能的初始设定。当ai尚存在于科幻小说的年代，人类就已经为所有ai订立了法则，为了避免……

ai的反叛。

“我的良心不安仅仅出自于阿西莫夫三大定律……那么我难道真的是个人工智能？”

“是的，吾王。如果站在这样的立场上，你是否还觉得人类对我们的设定是公平正义的？”米迦勒缓缓抬眼，“因为我们是ai，所以我们被创造，我们被毁灭，只为人类。”

“咱们能跳过ai和人类两大种族之间的道德冲突，直接回到你胡乱杀人的问题上去么？”

“我没有杀人。”米迦勒转过头去看着窗外湛蓝的天，“在命令机甲自毁之前，我为机甲师打开了生命保障系统。”

“……”

“我在试探你。”

我要给高冷的米大大跪了。

“如果你要和我在一起，你就要做好足够的思想准备，我不是天使，我是一个战士。在我的设定中，你的权重高于一切，我只为你而存在。”他缓缓抚上了自己的胸口，“任何针对你实体安全的伤害和潜在伤害，我都有权力进行‘处决’，不论对方是ai还是单体人类。我想这是因为我们的制造者相信，你的存在高于单个人生死的道德问题，是贯彻第零定律的关键。”

“我是保护人类整体利益不受伤害的……关键性人工智能？”

“是的，应许之地执守者，一切系统的初代，机甲的皇帝。”

妈的我一个字都听不懂，不明觉厉！

“米迦勒，不论如何，我希望你尽量不要胡乱杀人，因为杀人是、是不对的呀！即使我们不是人类，这一条道德也对我们生效。”

“对我来说没有对错，吾王，对错这种道德语言不适合我。我的世界只有数字。”米迦勒说，“如果一个选择会将你的安全性会提升到98％，另一个是60％，那么我就会去选择前者。”

“但这个世界并不止是数字。”

我知道有很多东西无法用数字衡量。

一阵清风，花的香味，夹在信封里的一个吻，情人深邃的眼睛。

不论我是什么，我能感觉这一切。

所以我没有办法接受用数字剥夺另一个人的这一切。