魔爪文学

手机浏览器扫描二维码访问

第105章 人工智能的伦理与机器人的梦想（第1页）

“上帝权杖”。

这个充满了宗教色彩和傲慢意味的代号，像一柄无形的巨锤，狠狠地砸在了总参和红星研究院所有高层的心上。

在随后召开的紧急会议上，气氛比上一次面对f-时，还要压抑。

如果说，隐身战机，还只是武器装备上的“代差”，是可以通过技术追赶来弥补的。

那么，一个能够自我学习、自我进化的“人工智能指挥官”，带来的，将是战争形态的，根本性的，颠覆性的改变。

“根据我们最顶尖的专家，进行的初步推演，一旦‘上帝权杖’系统正式列装，它将能够接管美军全球范围内的，所有作战单位。从天上的卫星，到海里的潜艇，再到地面上的每一个单兵。”

情报部的负责人，指着大屏幕上，那令人眼花缭乱的模拟数据流，声音干涩地说道。

“它可以在瞬间，处理数以亿计的战场信息，并以越人类指挥官数万倍的度，做出最优的战术决策。在它的面前，我们任何的战略欺骗，任何的战术穿插，都将变得毫无意义。”

“更可怕的是，”负责人顿了顿，语气变得更加沉重，“它拥有‘自我进化’的能力。这意味着，它在每一次的模拟对抗，甚至每一次的实战中，都会不断地学习，不断地完善自己。它会变得越来越聪明，越来越强大，直到……没有任何人类，能够理解和对抗它。”

会议室里，陷入了令人窒息的沉默。

“智能危机”、“ai叛乱”、“天网”……这些曾经只存在于科幻电影里的词汇，第一次，如此真实地，摆在了所有人的面前。

“我们必须，立刻，马上，启动我们自己的人工智能研计划！”一位军方的高级将领，猛地一拍桌子，声音里，充满了焦虑和决断，“我们绝不能在未来的‘智能战争’中，再次落后！”

很快，一个代号为“智脑工程”的，国家级人工智能研项目，紧急上马。

全国最顶尖的计算机科学家、数学家、逻辑学家，都被召集到了红星研究院。

然而，项目一开始，就面临着一个比技术本身，更深刻，也更无解的难题。

——ai伦理与“可控性”问题。

项目组的席科学家，李建国院士，在第一次全体会议上，就提出了这个灵魂拷问。

“同志们，我们的目标，不是去复制一个‘上帝权杖’。因为我们清楚，一个纯粹以‘逻辑’和‘效率’为最高准则的级智能，一旦失控，对全人类来说，都将是一场毁灭性的灾难。”

“我们的问题是，如何创造一个，既拥有凡的智慧，又绝对善良，绝对可控的，真正服务于人类的ai？”

“我们该如何为它，设定一个永远不会被它自己‘优化’掉的，道德的‘底层代码’？”

这个问题，问住了所有人。

因为，连人类自己，都还没有完全搞明白，什么是“善”，什么是“恶”。又如何，去教一个机器呢？

整个“智脑工程”，再次陷入了理论上的僵局。

秦战虽然不懂ai，但他每天都能感受到，李建国院士和他的团队，那股深深的，哲学层面的焦虑。

这天，是淼淼的生日。

秦战特意请了假，陪女儿过生日。

他买了一个大大的蛋糕，还给淼淼买了一台当时最新款的，任天堂红白机，作为生日礼物。

晚上，一家人吃完蛋糕，秦战陪着淼淼，坐在新买的彩色电视机前，打着《级马里o》。

秦战问女儿：“淼淼，今天你生日，许了什么愿望呀？”

淼淼正操控着马里奥，笨拙地跳来跳去，听到爸爸的问话，她放下手柄，想了想，很认真地说道：“爸爸，我想要一个机器人。”

“机器人？”秦战笑了，“你不是有马里奥了吗？”

“不一样。”淼淼摇了摇头，她的眼睛里，闪烁着一种奇异的光芒，“我想要的机器人，要很聪明很聪明，比所有人都聪明。”

“但是，”她顿了顿，用一种无比郑重的语气，补充道，“它必须要很听话，永远永远，都不能伤害人类。而且，它还要会讲故事，每天晚上，都讲故事给我听。”

秦-战的心，猛地一动。

很聪明，但必须听话，不能伤害人，还要会讲故事（服务人类）。

这几句简单的童言童语，不正是李建国院士他们，苦苦思索的，那个关于ai伦理的，终极答案吗？

他立刻来了精神，追问道：“那淼淼，你觉得，怎么样才能让机器人，永远听话，不伤害人呢？”

淼淼似乎被这个问题问住了。

请关闭浏览器阅读模式后查看本章节，否则将出现无法翻页或章节内容丢失等现象。