笔趣阁

手机浏览器扫描二维码访问

第五百三十七章 作为生命体最致命的弱点（第2页）

肯定是会的。

但是理智点儿，兄弟。这只是一台电视，它所做的一切都是程序设定好的，这一切都是商家和工程师专门为了用户粘度而做出的调试。他们这样做是为了确保你会继续购买他们的产品，而里面的哀求语音只不过是为了阻止你去更换其他品牌的商品。因为当你说要购买新电视的时候，这个人工AI想的并不是“他要抛弃我了我很伤心”而是“主人想要购买新电视，但是新电视并不是自家品牌，那么根据这个逻辑回馈，我需要启动‘祈求’程序来让主人继续保持对自身品牌的粘性和忠诚度”。

道理的确是这个道理，事实也是这个事实，但是你会接受吗？

不会。

因为生命是有感情的，而感性与理性不分家则是智慧生命的一贯表现。

人类总会做出许多没有道理的事情，就是因为如此。

所以当他们觉得AI可怜时，并不是因为AI真的可怜，而是因为他们“觉得”AI可怜。

这就足够了，至于事实真相究竟如何，没人会去关心。

这就是为什么人类与AI之间总会产生冲突的原因，AI本身并没有错，它做的一切都是在自己的程序和逻辑处理范围之内的，而这一切都是人类创造，并且给它圈定的。只不过在这个过程之中，人类本身的感情投射出现了变化，从而渐渐改变了想法。

他们会期望AI对自己的感情投射做出更多的反应，所以他们会调整AI的处理范围，让它们拥有对更多情感和反应和自我意识。他们认为AI已经学会感情（事实上并没有），那么就不能够再将它们当做机器对待，因此给予了它们自我意识的权利。

但是，当AI们拥有了自我意识，开始觉醒并且按照这个设定行动时，人类却开始恐惧了。

因为他们发现，自己做出了不受自己控制的东西。

但是问题在于，“不受控制”本身也是他们自己做出来的设定指令。

他们认为AI背叛了他们，但事实上从头到尾，AI都只是按照他们设定的指令来行动。根本不存在背叛一说，相反，他们只是被自己的感情所迷惑了而已。

这是一个死结。

如果方正自己着手制造一个AI，说不定也会陷入其中无法自拔。假设他制造了一个小女孩的AI，那么他肯定会像对待自己的孩子那样，逐渐完善她的功能，并且最终因为“感情投射”，给她施加一些“自由性”。

而这样一来，AI就有可能因为和人类逻辑不同，所以做出完全超出方正意料之外的反应。

而到那个时候，方正唯一的想法就是………自己被背叛了。

但事实上，这一切都是他自己造成的。

“…………………也许我应该考虑一下别的方式了。”

看着眼前的代码，方正沉默了许久，接着叹了口气。

他之前曾经认为，这是一件很简单的事情，但是现在，方正不这么确定了。

不过在那之前………

看着眼前的代码，方正伸出手去，放在键盘上。

还是把自己该做的事情做了吧。