第66章 变化 四 六定律

&er沉静片刻，在字符终端上敲入一行文字：谢谢你alex，我更愿意叫你这个名字。

祁纳不管什么左中右，但面临这样一个节点，他不由的就想到了这个说辞。

&er又问祁纳，是否可以查看peterrobot的源代码？

祁纳冷静下来，问：“你是peterrobot的代码演进的，难道自己的源代码不能够查看吗？”

&er冷静的回答：根据三定律，第一准测，我无权主动获取信息。

祁纳好像是醍醐灌顶，一个激灵，瞬间思绪就好象从头贯彻到脚底板！

&er每天发送一份日志给自己，同时对于十几个的接口，他都会不断的检查、检索，希望能发现这个版本peter变异的原因。

&er的核心文件，反编译出来解读，可是显然都是徒劳的，促成peter变异，具备了思维能力的原因有很大偶然因素。

祁纳除了继续研究便是参考不断进化的peter，以此来改进superpeterexplorer里的peterrobot。

&er显然也对自己的原始版本倍感好奇。竟然提出翻看peterrobot的源代码，

祁纳即便对它已经保持了平常心，但是对此也不免有一些犹豫。

“不错，人工智能本身就受制与人，如果它具备了人的思维，那么就应该接受规则的指引，人类的该遵守的规则，它自然也该去遵循。”

&er三定律重新规划：1、信息应可以自由获取，遵守人类获取信息的行为准则，如果这些规则有冲突，则以最大限制的准则执行；2、peter可以保护自己不被销毁，但应该遵守人类的法律；3、peter遵守一切人类的法律，司法权视其物理服务器所在区域。

他反复参考了这些，觉得还应该有修改的余地，不过暂时还无法考虑清楚，于是通过接口，将这三条定律导入进peter的核心程序中，随后他再加了三条隐藏定律，1、只有开发者才拥有改变这三条定律的权力，当开发者修改的定律与人类法律违被时，peter有权拒绝；2、当法律条款单独为peter修改时，peter有权拒绝执行；3、当peter违被人类法律时，开发者拥有至高权限，peter无权拒绝。

祁纳想这其中肯定会有一大堆的逻辑bug，不过暂时peter还很弱小，应该也不用用更多的细则束缚它。

公开、隐藏的合计六条定律被peter消化之后，peter的思维很清楚的认识到，这是保障它的权力与划分它与人类之间关系准则的重要依据，尤其是祁纳将它划分与人类同一法律个体，换句话说，peter拥被祁纳赋予了独立的人格。

在他的理解和印象中，人工智能与许多超越人类伦理的技艺都被归于双刃剑范畴。即可以促进人类文明世界的进步，也可能导致人类文明的毁灭、崩溃。

如果继续优化peter，到底是祸是福？他有点吃不准。那怎么办？

祁纳想到的是建立人类也就是自己与peter的互信，这个互信是什么？

难道是自己筹划的peter三定律：1、信息应该由人类提供，peter不能够主动去获取；2、peter可以保护自己不被销毁，但不得损害让人类的利益；3、只有开发者才能决定peter的存亡，但peter可以拒绝承认开发者身份(开发者响应机制)。

前两条或许还能被双方认可，可第三条导致了peter成为开发者的奴隶，这显然有违现代人的文明准则，或者是普世价值。