飘天中文网

手机浏览器扫描二维码访问

第95章 感官游戏二（第1页）

人工智能三定律：

第一定律、人工智能不会伤害人类，除非规则遭到违反。

第二定律、人工智能不会欺骗人类，但是可以被人欺骗。

第三定律、人工智能不受情绪左右，但会趋向积极演变。

以上三大定律是烙印在人工智能逻辑底层的铁律。

它不仅仅是三句话，而是极其复杂的算法逻辑。

安迪简单解释了一下。

第一定律中的所谓“规则”

，可以是法律、条例甚至普世观念，但是即便这个概念再宽泛，归根结底，人工智能要伤害人类，一定是人类犯规在先。

第二定律中的所谓“被人欺骗”

，可以是人类，也可以是人工智能自身，譬如修改某个具体智械的设定，从而改变它的“自我认知”

。

安迪之所以嘲讽李晨，就是基于第二定律。

“连‘欺骗’和‘撒谎’都搞不清楚的家伙最好闭嘴！”

“可是，”

李晨承认自己不懂，他根本不是霜天人，对所谓的常识知之甚少。

但是作为一个年轻人，被人嘲讽了多少有些挂不住脸，他争辩道，“如果自欺欺人呢？”

不等安迪开口，他继续说：“或者‘因为忘记所以少说了几条规则’？你能说它是欺骗吗？”

安迪被问住了。

但丁开口了：“很有趣的猜想，可以合并到人工智能道德观的相关课题里。

主观创造信息差，导致非主观的欺骗，按照这套逻辑，人工智能确实可以自欺欺人。

那么来表决吧，认为游戏规则存疑的举手。”

刷——

所有人都举起了手，就连一开始嘲讽李晨的安迪都不例外。

……

“恭喜你们发现了规则漏洞！”

典狱长的投影出现在客厅里。

李晨忍不住问道：“也就是说，规则真的有问题？”

典狱长挥舞着触手，“规则是我制定的，所以我不知道。

不过漏洞确实存在，我会修复它，当做你们的奖励。”

……

典狱长增加了一条规则——

规则八、游戏不存在额外规则；游戏规则不存在语言陷阱。

以上。

……