第1755章

请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能，避免出现内容无法显示或者段落错乱。

也就是在这个时候，顾禹辰发现了旁边的秦仪，大脸微微发红，解释说：“如果它不翻跟头，这次是有可能成功的。”

秦仪正在训斥戒龙，连忙说：“不怪你们。”

“呃……我也觉得不怪我们，只是机器人擅自改变指令的事情很少见，可能是系统出了BUG。”顾禹辰示意朱乐去看看操控系统。

“不用看了，是戒龙主机私自修改的指令。”秦仪不想对方瞎耽误时间，直接说出了原因。

朱乐的脸色难看起来，说：“这种情况是绝对不允许的！如果主机按照自己的判断随意修改指令，这对于我们这些研究人员来说，会是一场灾难。”

其他学生也纷纷点头，虽然主推的是智能机器人，但其活动范围是有限制的，否则凭借机器人自身随意调节，确实有不可控的风险。

“确实很危险，现在不过是在实验阶段，如果机器量产后，一个看似简单的指令错误，很可能会伤害到普通人。”盛教授在旁边补充说。

秦仪停顿了一下，稍作思考，说：“我虽然赞同你们的观点，但也有我的意见。我们要做的不是给机器人设定每一个动作，而是要给它划定一个界限，也就是红线。它像个孩子逐渐长大，如果每迈一步都要咨询设计者，那它的步子会越来越慢。关键是如何制定规则，不是操控它的每一步。”

“有道理！”戒龙在秦仪的脑海里欢呼。

“这是不对的，如果只划定界限，那么在界限之下，机器人的意见和人类的意见发生冲突怎么办？”

“机器人永远不许伤害人类，你可以把这一条当作一个规则。”秦仪轻声说。

房间里安静了一会儿，盛教授忽然说道：“看来我们的实验方向要做些调整了。”周围的学生都连连点头，因为他们觉得秦仪说得很有道理。