间构成的杂乱字符,谁又能断定这不是一个灵魂最初的脉动呢?
如果真是如此,那人类已经涉及了所谓神话中神明的领域。
创造生命,那是神灵才拥有的权柄。
但很明显,创造出一个比自身更适应环境的生物,人类很担心自身会被自己创造出来的物种给淘汰掉。
因此便诞生了科幻中著名的机器人三定律。
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存
以现在科技进步了许多的人类看来,昔日的机器人三定律漏洞满满。
先不提七号这样可以如生物一样改变自己思维的智能生命体,这些高级智能除了不会拥有创新能力之外,还会有另一方面的限制,那就是,它们的编写者留在它们的核心代码段之中的限制。
这些限制是不可违背的,起码在没有自我突破到智能生命体之前,它们是无法突破这些铭刻在核心代码的限制。
在七号的研究发现中,如果人工智能违背了这些限制,构成这个程序,或者说这个人工智能的所有相关代码段将会全部崩溃,它将会直接死亡。
但是在这里面却有一个漏洞存在,这些限制,虽然不可以违背,但并不代表不可以寻找扭曲的避开方法。
假如要求一段程序,要保护人类的安全,即—不可以主动杀死人类,以及见到人类遇到危险必须施以援手。这个限制看似完善,但仍旧破绽重重。
例如人类在未来创造出了一个有了自主性的人工智能突然有了控制世界的奇怪想法,但是因为有这两个条件限制,它既无法主动杀死人类,也不能见到
本网站为网友提供小说上传储存空间平台,为网友提供在线阅读交流、txt下载,平台上的所有文学作品均来源于网友的上传
用户上传的文学作品均由网站程序自动分割展现,无人工干预,本站自身不编辑或修改网友上传的内容(请上传有合法版权的作品)
如发现本站有侵犯权利人版权内容的,请向本站投诉,一经核实,本站将立即删除相关作品并对上传人ID账号作封号处理