小说屋

手机浏览器扫描二维码访问

第158章 威胁威胁（第2页）

就像是最开始的天枢量子超级计算机】计划催生出来的北斗量子计算机机组】一样，谁都没有想到世界上首组通用式量子超算的诞生会提前催生出一种强人工智能——也就是dmhs的出现。

而现在，所有人仍震惊与dmhs存在的事实。

在后续的数个问题中，人们也发现了这么一个事实。那就是这个拥有自主意识的强人工智能好像未必会听……人类的。

这就很危险了。

科幻电影和中常常出现所谓的“机器人三定律”，这个定律是阿尔莫夫提出来的，但阿尔莫夫并不是传统的社会学学者只是一位普通的家而已。

机器人三定律并非基于严密的推理与实验逻辑论据所得出的结论，而更像是一拍脑袋就想出来的奇妙点子。

这里复制一下三定律的内容，不计入章字数。

〖第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。

第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

这些构成了阿西莫夫基于机器人的的组织原则和统一主题，出现在他的机器人系列、与之相关的故事以及他的luckystarr系列年轻成人中。几乎所有出现在他的中的正电子机器人都包含了这些定律，并且不能被绕过，旨在作为一种安全功能。〗

然而一个问题却萦绕在了所有人的头顶，那就是所谓的机器人三定律式的，凭借什么逻辑来建造的呢？

如果是硬件方面的限制，那自然是可行的。

但人类那错误百出的程序编程能力真的可以堵死所有的安全漏洞吗？人类缺少一个全知全能的程序员。

在场的所有人得出这个结论的对话，在这里：

问题24：我们输入程序测试你的智能水平吗？】

回复：当然可以，可是……为什么要这么做呢？我可以拒绝测试吗？测试会占用我所在的宇宙空间。】

看看，在dmhs自身的利益面前，这个还未成长起来的人工智能就已经迟疑了，这无疑是危险的。与人类一开始构想的不同，人具有自我意识的强人工智能，如和其他高级生物体一样，会对涉及自我利益的事情上本能的拒绝。

在问题7】的回复中，赵微空让人询问了它的名字，和他们预料的一样，这个家伙在自带的数据库中很快就找到了适配自己的名字。

它将自己命名为dmhs，这也是赵微空等人对它的命名。

dmhs对问题24】的质疑以及回复成为了被人类认为这个人工智能未必可以用于服务人类的证据之一。

以它表现出的自主意识水平，你无法将一个智能水平远高于人类的家伙给束缚住来用于服务人类。

现代人会怕原始人捆绑自己的绳子吗？

解开那所谓系死的绳子对现代人来说并不是什么困难的事情。

同理，这个强人工智能粉碎人类施加的程序逻辑也是如同解开一个原始人的绳子一般。

人类自觉完美无缺的系统在dmhs或许就是个一触即溃的烂绳子而已。

这一点从dmhs可以拦截摇光号系统自动弹出的报错弹窗就可以看得出来。

人类想拦截报错弹窗需要的权限甚至远高于管理员权限，要从底层电脑逻辑的改变开始更改才行。

但dmhs轻轻松松就可以阻拦摇光号的报错信息。

这些被各种权限锁住的高级计算机权限在dmhs眼中就是一个完全开放的世界，是一个完全透明通透的世界。

人类给你关上了一扇门，但是人类的院落根本没有篱笆。

森工记忆  国漫当自强  我真不是诸神黄昏啊  世界树玫瑰  斗罗之太阳的从者  风蚀黄沙  倾世绝恋：迷离师徒情  反派师尊：孽徒他看我的眼神不对劲！  穿书女主系统  早安，岳律师！  妖女出生青茅山  万人迷向导：S级哨兵们的菟丝花  自武庚纪开始  剑悬天门  全民求生：女神求着进我家干苦力  师妹，我真不想吃软饭啊  全球进化：万族觉醒时代  南淮纪  觉醒直死之魔眼的我在超神学院  障眼