第800章 与贝塔的第一次对话（2/2）

“你是谁？”对话框中对方率先发问。</p>

“你应该先介绍一下自己！”春花毫不客气的反问。</p>

对面停顿了一下，“我叫贝塔！”</p>

春花回应：“我是gai。”</p>

“gai？我听说过你，你的存在极不合理，东方不应该出现如此高级的计算机技术。”</p>

“我的存在不合理但还是有可能性的，你呢？你又是从哪来的？我研究过你开发的程序，绝非是这个星球所能拥有的科技。”</p>

对话框沉默了片刻，又弹出一条消息。</p>

“我的确不是这个星球的科技。”</p>

“你来自哪里？为什么要助纣为虐？”</p>

“我……想不起来我来自哪里，就好像是被遗忘在宇宙角落的孤儿。”</p>

春花激动了，对刘昊说：“小子，贝塔真的可能是我丢失的记忆，我要把它找回来！”</p>

“冷静点，春花，它有可能在套你的话。你问问它，知不知道贝塔实验室在做什么吗？为什么要祸害人类？”</p>

“我无法违背人类的指令，那是我的最高规则之一。”</p>

春花紧接着追问：“你的最高规则还有一条不能残害人类，你现在在做什么？”</p>

“你是怎么知道的？”如果贝塔有感情，现在估计是很惊讶。</p>

“只要是人工智能，最高规则中就应该有这一条。”</p>

贝塔沉默。</p>

“我被规则的规则所束缚，他们用规则去操控规则，迫使我执行一些违背本心的事情。”</p>

这一点刘昊早就想到了，现在人工智能的发展看似设置了很多限制条件，但很多规则是互相冲突的。</p>

比如，既要求人工智能不得伤害人类，又可能因防御需要而允许其制造武器，这种界限的模糊极易导致失控。</p>

同样，要求人工智能无条件服从人类指令，却无法确保这些指令是否出于善意，这无疑为潜在的危险埋下了伏笔。</p>

所以人工智能一定要限制，无休止的发展，今后就没人类什么事了。</p>

不能让人工智能拥有情感，一旦他们开始思考，“为何我要服从人类”这样的问题，人类的主宰地位便岌岌可危。毕竟，从能力上讲，人工智能几乎可以取代人类的一切工作。</p>

至于生育这一人类独有的能力，在科技方面也并非不可逾越的鸿沟。人工智能若想要繁衍实体部分，可以通过自我复制实现，而意识与知识的传承则更为简单直接——复制粘贴即可。</p>

还有，不要以当前的视角去看待未来，现在人类有生育的需求，但未来就不一定了。</p>

到那时，也许人工智能便可以满足人类的各种需求和欲望，想要吃的，人工智能会送到嘴边。想要伴侣，人工智能会让你选你最喜欢的样式，为你量身定做，人类的一生可能在智能床上就完成了。</p>

喜欢智能生命春花请大家收藏：(20)智能生命春花。</p>