分卷阅读352 (第3/4页)

行为，除非该行为符合机器人原则。（防止机器人陷入逻辑两难困境而当机）

    第四原则：除非违反高阶原则，机器人必须执行内置程序赋予的职能。（处理机器人在没有收到命令情况下的行为）

    繁殖原则：机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。（防止机器人通过设计制造无原则机器人而打破机器人原则）

    第零原则：机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害。

    第零定律凌驾所有定律之上，人类整体利益高于个人利益，整体利益受损的时候可以违反三定律。

    同时，上滕对机器人进行升级，二号升级为三号、四号，使之拥有更高的逻辑思维能力，能自主判断谁该救谁不该救。

    然而，在经过多次图灵测试后，发现即便是这样依然还有很多的漏洞与缺陷。

    首先，关于第零定律中人类整体的好坏的定义就有极大漏洞。

    假如a国认为制造核武器的存在是对自己国家的保护，而b国认为核武器的存在是对元星的威胁。

    这样的情况下谁能准确的定义好坏？

    还有“人类的整体利益”这种混沌的概念，连人类自己都搞不明白。

    退一万步来说，如果智能机器人的智慧已经达到能规避与分清楚这些问题的高度。

    那……危险的可就是人类了。

    拥有了如此强大的武力与智慧，智能机器人还甘愿被人类控制吗？