小机器人在逃计划 - 第60页

    南安小声：怎么会?
    因为它们只有算法，在这个逻辑中，人类的命令低于精准的运算。因此在这之后，人类就出台了《机器人三大法则》。
    毕德尔看着南安，轻声问：知道这个吗?
    南安点点头。
    在开普勒基地时，工作人员就对他科普过。
    但当时他注意力全被窗外的星星吸引了，对于这类法则，他没听进去。
    于是他又小幅度地摇头：我不知道。
    毕德尔教授倾身，把口袋中的一本小册子给了南安：上面有玫瑰城的基本准则，也有机器人三大法则的蓝本，不过现在的玫瑰城，使用的是《机器人五大法则》。
    于是南安翻开。
    在第一页，那是陈旧的牛皮纸，画着一朵绽开的玫瑰花。
    像是跨越了几百年的人类发展历史，带着说不尽却又陈旧的痕迹，落在这一支单只的玫瑰上。
    紧接着，南安就看到一段话。
    【人类于2240年9月1日通过机器人三大法则，即日实行。】
    南安的视线往下移。
    就见下方三行小字，写着三句法则
    【机器人不得伤害人类，或者目睹人类危险而袖手旁观。】
    【在不违反第一条法则的前提下，机器人必须服从人给予它的命令。】
    【机器人在不违反第一、第二条法则的情况下，要尽力保护自己。】
    见南安专注阅读的模样，毕德尔教授道：这仅仅只是一个开始。
    什么意思?
    人类自以为是的优越感，让他们忽略了机器人背后的强大逻辑。
    他的语气平稳，南安觉得他真的在讲述一个故事，带着旁观整个时代的冷静，和现在的他们毫不相关。
    于是南安推测：是法则不能约束机器人吗?
    不。毕德尔摇头：是定义出了错。
    孩子，我问你一个很简单的问题。
    您说。
    毕德尔：如果机器人觉得人类遇到危险，那么，什么是危险?
    南安思考了下：比如掉进水里，或者在街上被车撞了?
    毕德尔笑了：都是，却又不是。
    没有一个人能正确得出定义，包括被制定法则的机器人。他说着叹了一口气，因此，就造成了这一场巨大的人类灾难，也是巅峰时代过去，启示录时代的开始。
    南安像是被吓到了，他紧紧攥着手册的一角，睁大了眼睛：难道说
    对。毕德尔教授点头，我知道你想说什么，我的孩子。在法则出台后的第八个年头，机器人得出了一个结论认为人类不被他们统治，就是危险。
    那是一场空前绝世的灾难，上亿的机器人拥有自己的意识，它们互通消息，在空地集合，带着人类创造出的枪支，像整装待发的军队，然后，以保护人类的名义，全方面侵略了人类社会。
    南安很小心地喘了一口气。
    在他面前，似乎见到了无数机器人，血流成河的城镇，以及人们惊恐的眼神。
    所以。南安问道，它们成功了吗?
    毕德尔摇头：没有。
    当时的科学家，在灾难开始的一年后，带着仅存一百万的人口，建立了新的城市。毕德尔说，这就是玫瑰和银铃城市的雏形。他们建造了全新的基地，以及坚硬的城墙，抵御着机器人的攻击。而在最后，在城墙中，科学家们发现他们可以通过修改三大法则，增加了第零条，直接关停机器人。
    那是什么?
    永远不得伤害整个人类群体。毕德尔说道，同时，立刻启动毁灭程序。
    南安张了张嘴，像是完全怔住了，他看上去想说什么，却听见通讯器响了。
    于是去接电话。
    实验室的通讯器放在角落，南安费力地勾了勾电线，才勉强拉回来。
    他眉头皱着，像是还沉浸在刚才的故事中，而等到接通，听到对方的声音后，南安的眉头瞬间舒展，撑脸软软地应了几句，然后又哒哒跑回来。
    林泽?
    南安点头。
    他让我下午就回住所。南安说，先去前台拿个快递，再送我回去休息。
    毕德尔笑了笑：我从来没见过他这样过。嗯?南安微愣。
    他承受太大的压力了。毕德尔教授说，所以大部分时间，他都是一个人独处。
    作为玫瑰城市的科学家，他不能犯之前三大法则的错误，却不能彻底舍弃它，承担几千万玫瑰居民的安全和性命。毕德尔教授说，所有很多时候，他表现得不近人情，但希望你能理解。
    南安小声在心里说会的。
    尽管他是机器人，也不懂太多的人类情感。但这个大坏蛋，在某种程度上来说，是一个很好的人类，起码在他去南方前帮助了他，也照顾了他，尽管态度不是那么温柔。
    所以后面两条法则是什么?南安问，是谁制定的?
    --