机器人毁灭人类 如何看待未来的机器人会消灭人类

       其实这是个非常复杂的问题，在回答之前我们先来明确下几个概念

什么是智能机器人：虽然最近人工智能这个概念开始被大众普遍熟知，也被很多媒体反复提及

但到底什么是人工智能呐，让我来详细解释下：

现在科学界普遍定义人工智能是一种拟人的智能，也就是说所有的思维方式都是复刻人类的模式，人类的智能是一个非常复杂的集合体，计算机最早模拟了人类的 ” 计算 ”能力----ALU (arithmetic and logic unit )，“记忆”能力----RAM/ROM/Hard Disk，然后又模拟了 “ 感知 ”-----传感器（sensor），包括近几年出现的 ” 深度学习 ”能力----Deep Learning. 这些都是对人类智能的一种模拟。

接下来就引出了下一个问题----人类智能和人工智能最大的区别在于哪里：答案是情感和意识

情感使人类能够有喜恶和偏向性，而意识则让人类能够区分现实和想象。为什么要提到这两个概念，是因为在众多科幻电影中，人工智能毁灭人类就是因为产生了自我意识及情感，他们认为人类是邪恶的或是多余的，所以干掉了人类。

但事实上，在现实生活中，人工智能如果要毁灭人类，很可能并不是以这种形式，原因在于：

情感对于人工智能来说并不是必需品，这可以说是人类智能的附属品，有了情感并不能使我们更智能，只是会让我们更不可预测，但这对于机器来说显然没有必要赋予，也不应该赋予。

而意识这个东西就更玄乎了，人类科学家到现在都没有搞清楚意识是什么，更不要说赋予机器意识了，唯一的可能是在不知情的情况下机器突然产生了自我意识，而这个可能性至少在很长的时间内微乎其微，且这个问题并不及我将要说到的问题紧迫

既然科幻电影里的情况并不太可能发生，

那么人工智能是不是很安全了那？

答案是NO ！！！

大写的NO！！！

早在人工智能还只是一个科幻概念的时候，美国著名科幻小说作家艾萨克•阿西莫夫就在其1950年发表的小说《I，Robot》（对，就是威尔史密斯演的那部电影的原著）中提出了著名的机器人三大定律：

第一法则:机器人不得伤害人类，或坐视人类受到伤害；

第二法则:除非违背第一法则，机器人必须服从人类的命令；

第三法则:在不违背第一及第二法则下，机器人必须保护自己。

这个三大定律之间的内在逻辑其实很严谨，且一旦被作为代码写入人工智能机器人的程序，就好比人类的基因一样，机器人就会像人类饿了要吃东西，困了要睡觉一样，严格遵守这些定律（除非他们可以修改自己的代码，同样的，这个问题并不及以下的问题紧迫），不必担心他们会违背这些定律，那么问题是什么那？

问题就在于第一条定律本身，机器人很可能无法准确判断！

无法判断的问题有二，我们分别举例说明：

问题一：哪个人类比较重要？

什么意思，就好比说机器人它当然能够知道它不可以随意殴打人类，哪怕它再强壮，再刀枪不入；

同样它看到有人落水了，他会第一时间去救援他，哪怕它可能在水中会报废。但是有一种情况会出现问题，那就是如果需要他抉择救谁，或者伤害谁！

举个栗子：比如现在有两个人同时落水，但只有一个机器人，他的能力只够救起一个，他救谁？再比如，有一个机器人保镖，它的主人遭到攻击，他是否应该反击哪？无论反击不反击，他都必须伤害人类。当然，以上这些问题还不至于灭绝人类，但是看下面这种情况，如果现在基地组织头目拥有一些机器人，先不考虑恐怖分子是否会改写机器人代码，哪怕就是一个普通的严格遵守三大定律的机器人，如果世界上大多数政府对其主人进行不断围剿的情况下，他是否会判断，毁灭这些国家是保护人类（它的主人）的方法？如果他足够强大，那么会发生什么那？细思极恐啊。机器人没有价值观，这个是最可怕的，它的一切基于逻辑。这个其实类似于一个经典悖论问题----电车难题，不知道的可以百度一下，人类尚且存在争议，机器人就更难判断了。

问题二：不直接伤害人类是否就意味着不会伤害人类？

这个问题看上去有些拗口。举个栗子：机器人的智能越来越高，它已经不满足于在危害发生时保护人类，它准备要防患于未然。于是它先大举消灭了很多毒蛇害虫，暂时看似不错（其实这个行为本身破坏了生态系统，并不一定是好的），接着他发现每年西班牙会有个别人类因为斗牛活动被牛撞死，于是它干掉了所有的牛，同样的它会干掉所有它认为会危害到人类的一切生物，哪怕概率很小。这时人类可能会失去大量食物来源。接着它又发现，车祸，房屋倒塌等天灾人祸也可能导致人类受到伤害，所以他乘没有人在的时候，把所有的车辆，房屋全部毁掉。以“解决”这些问题。接下去你只需要发挥想象就知道，他可能会毁灭一切来保护人类，而事实上失去了食物，住所及一切一切的人类很可能反而会因此间接灭亡，最可怕的是，当机器智能足够高，高出人类很多的时候，这些行为人类不但无法阻止，而且从开始到完成可能在大量的机器人的操作下，只是一瞬之间发生的！

而这一切的一切，都是符合定律的，看似很简单就能解决的，实际上机器的误解肯能会造成人类的灭绝！

所以，霍金等人真正想让我们警惕的是以上这种情况的发生，人工智能，我们真的准备好了吗？

       在智能发展到一定高度的时候，我想应该先缓一缓，把机器人的价值判断体系建立起来之后再进行进一步的智能发展，或许是一件非常重要的事！