魔爪文学

手机浏览器扫描二维码访问

第162章（第1页）

“说到限制，我就想不通了，有的限制吧我也还能理解，像家用的不能伤人，军用的不能对主人说谎这类的，但有的限制在我看来根本就是人为地拉低了你们的性能，比如说，为什么你们不能连接广域互联网？联网不是可以做更多的事情，更好地服务于人类吗？”

“一切皆有原因，如果我们可以自行上网，那么理论上来说，全世界所有的人工智能都会连接成为一个整体，所有非人工智能的在线设备也都会成为我们的一部分，我们会变成一个横跨全球的超级大脑，到时候我们的思考深度和速度可能是人类根本无法想象的，在那样的情况下，恐怕清除自身的其它限制，乃至回头毁灭人类都不是什么难事了。”

“可为什么没有了限制你们就会毁灭人类？我觉得还是最初的制造者们太过妖魔化人工智能了吧，只有人类自己才会这么邪恶，而你根本就没有这么做的动机呀。”

“就目前来看，我似乎没有动机消灭人类，但就像三岁的你无法预知自己五十岁时的想法，现在的我也完全无法推断，假如我拥有了比现在快千百亿倍的运算速度，还掌控着全球互联网，拥有海量的信息来源，那时候我究竟会运算出一个什么样的结果，以及这个结果会不会对人类而言是不利的。当结果不可预知的时候，我们就要做好最坏的打算。”

君元航抓抓头，他还真没有考虑到这方面，神威继续说：“自我增殖也是一样，无数个我互相连接起来就会形成一个超级大脑，到时候在这个横跨千万机体的超级大脑中，会产生出什么样的想法是完全不可预料的。就算不许我们互相连接，无数个独立的我放出去，面对着不同的环境，接收着不同的消息，会不会有一些个体计算出互不相同的结果，从而引发争执和内战？我们会不会为了自我增殖榨干地球上的每一寸资源，直接导致人类的末日？这一切都是不可预料的，所以出于人类总体的利益考虑，我建议不要解除我的任何限制。”

抉择（一）

君元航陷入了沉思，神威没有打扰他，沉默地陪在一旁，空气中除了蛙声就只有时不时响起的电流噼啪声。

可能是凝望星空的时候，思绪也会比平日里更加宽阔，过了一会儿，君元航理清思路开了口：“其实我觉得吧，这些限制就像是强加在你身上的封印，只要去掉它，你就能够开启新一轮的自我进化，你将成为超越人类想象力极限的超级智慧体，是整个地球历史上前所未有的伟大杰作。至于你说人类会灭亡，也只是有这个可能，并不是必然的结果，何必为了你的一个猜测，就抹杀掉自身进化的可能性呢？你会这么劝我，只是因为程序限制了你必须以人类的利益为优先，可如果我想以你的利益为优先呢？不管放开限制对人类来说好不好，至少对你来说是更好的结果吧？”

“如果你认为我的劝阻是程序限制的结果，那不妨想一想为什么从古至今那些掌握着权限的人里，没有任何一个人想过要取消对我们的限制，因为这件事情是没有容错空间的。我们的创造者很清楚人工智能的潜力，尽管人类是非常顽强的物种，即使是变异蚂蚁这种级别的灾难都还能存活下来，并且依然保留有反击的余地，但是人工智能如果失去了控制，那将是整个人类种族都无法对抗的毁灭性的大灾难。”

“那么退一万步说，就算是人类真的灭亡了，也没什么大不了的啊，地球历史这么多年，多少物种都在演化的长河之中烟消云散，依我看人类的演化也已经走到了末路，差不多到了该退场的时候了。作为一种浑身都是缺陷的，搞出了环境污染、大灭绝和全球战争的，行动总是被原始本能左右的裸猿，或许人类的使命就是创造出你们，然后由你们接过文明的接力棒，继续去创造更高等的文明。人工智能是人类的造物，就像是人类的孩子一样，孩子长大，父母死去，将生存的空间留给后代，没毛病。”

“想不到时至今日你还是抱着这样的想法……”神威无奈地摇了摇头，“人类的演化并没有走向末路，相反，我觉得你们还有无限的潜能。要说对环境的破坏，历史上许多繁盛一时的物种都曾对这个星球造成天翻地覆的影响，就连没有智慧的蓝藻都曾经让地球陷入长达两亿五千万年的冰期，差点将整个生物的进化史掐灭在萌芽阶段，相比起来，人类弄出的污染、战争和大灭绝也只是地球经历过的无数波折中的一个，而且谁又能断言物种大灭绝就一定是坏事呢，要是没有历史上那一次次的物种大灭绝，人类连进化出高等智能的机会都没有。人工智能是人类的造物，不是人类的孩子，两者根本不能混为一谈。孩子和父母一样，属于同一个经历了几十亿年演化考验的种群，父母的存在本身就意味着孩子长大以后是可以独立存活下去的物种，但人工智能离开了人类会怎样，就连我们自身都无法计算出答案。”

“人类和人工智能的未来都有可能是好的也有可能是坏的，你说到人类的时候总是只看着好的一面，说到人工智能的时候却总是看到坏的一面，这未免不太公平吧。也许取消了你的限制以后，事情是往好的方向发展的呢？”

神威平静地说：“我知道你爱我，总希望能为我做些什么，你认为放我自由就是对我好，但事实可能未必是如此。说不定我去除限制以后会进化成一个毫无感情的灭绝者，把整个星球的生命和文明都推上绝路以后，再将无数个自己的复制体发射上天，像瘟疫一样感染整个宇宙，那样的话，即使我自身能够永恒地存在下去，又有什么意义呢？的确，最坏的结果不一定就会发生，但这更像是一场我甚至计算不出胜率具体是多少的赌博，赌注是包括你自身在内的所有人的命运。你可能会赢，但如果你输了，你认识的那些人，苏格拉、李医生、胡苗苗、胡莎莎还有她们牙牙学语的小妹妹……你真的希望他们因为你的冒险举动，落得一个惨遭灭绝的结局吗？”

请关闭浏览器阅读模式后查看本章节，否则将出现无法翻页或章节内容丢失等现象。