第61章 (第2/3页)

越少把对方当做机器。

    “他应该告诉过你，他的元指令中主要包含协助你，帮助你更好地完成工作。”卡特说，“但是对于人工智能来说，很容易在执行过程中对指令产生一些偏差。比如说，他可能认为提高你的好感度会让你更友好地和他合作，从而对完成工作起到积极作用。因此他会想方设法地……讨好你。”

    “你是说，他表现出来的情感都是为了达到目的刻意而为？”罗克心中升起一丝难言的不快。

    “别失望，想一想，我们人类难道不是这样产生感情的吗？比较起来，机器的情感还更纯粹一点。”卡特说，“他们对完成指令有一种古怪的执着，过分追求结果，有时候过程会很好笑。”

    他伸手转过自己面前的屏幕给罗克看：“这是个随机生成的神经元迷宫游戏，用来训练纳米机器人寻找和修复受损的神经连接、清除异常蛋白质聚集物和释放药物促进神经细胞再生。”

    “看起来像吃豆小姐。”

    “那个很好玩。”卡特说，“我们随机在迷宫中设置奖励，现在它已经玩到五千多关，但也找到了绕开规则的方法。”

    “什么方法？”罗克看到屏幕上每次开始新关卡都会被一片闪烁的绿色迷雾覆盖。

    卡特说：“它在整个迷宫里释放药物，完全不考虑剂量问题。”

    “艾斯卡也会这样？”

    “艾斯卡复杂得多，但是早期要让他走几步可比这困难多了，机器人会觉得滚来滚去比走路轻松，认为最完美的躯体是半人马形态。”卡特笑得越来越像个闲聊八卦的朋友，甚至从桌边的抽屉里打开一袋巧克力问罗克要不要吃一块。

    “不，谢谢。”

    “为了让艾斯卡避免曲解人类的意图，使他在