机器人毁灭人类 如何看待未来的机器人会消灭人类

行业资讯 2024-04-18 21:16www.robotxin.com人工智能机器人网
       其实这是个非常复杂的问题,在回答之前我们先来明确下几个概念
什么是智能机器人:虽然最近人工智能这个概念开始被大众普遍熟知,也被很多媒体反复提及
但到底什么是人工智能呐,让我来详细解释下:
现在科学界普遍定义人工智能是一种拟人的智能,也就是说所有的思维方式都是复刻人类的模式,人类的智能是一个非常复杂的集合体,计算机最早模拟了人类的 ” 计算 ”能力----ALU (arithmetic and logic unit ),“记忆”能力----RAM/ROM/Hard Disk,然后又模拟了 “ 感知 ”-----传感器(sensor),包括近几年出现的 ” 深度学习 ”能力----Deep Learning. 这些都是对人类智能的一种模拟。
接下来就引出了下一个问题----人类智能和人工智能最大的区别在于哪里:答案是情感和意识
情感使人类能够有喜恶和偏向性,而意识则让人类能够区分现实和想象。为什么要提到这两个概念,是因为在众多科幻电影中,人工智能毁灭人类就是因为产生了自我意识及情感,他们认为人类是邪恶的或是多余的,所以干掉了人类。
但事实上,在现实生活中,人工智能如果要毁灭人类,很可能并不是以这种形式,原因在于:
情感对于人工智能来说并不是必需品,这可以说是人类智能的附属品,有了情感并不能使我们更智能,只是会让我们更不可预测,但这对于机器来说显然没有必要赋予,也不应该赋予。
而意识这个东西就更玄乎了,人类科学家到现在都没有搞清楚意识是什么,更不要说赋予机器意识了,唯一的可能是在不知情的情况下机器突然产生了自我意识,而这个可能性至少在很长的时间内微乎其微,且这个问题并不及我将要说到的问题紧迫
既然科幻电影里的情况并不太可能发生,
那么人工智能是不是很安全了那?
答案是NO !!!
大写的NO!!!
早在人工智能还只是一个科幻概念的时候,美国著名科幻小说作家艾萨克•阿西莫夫就在其1950年发表的小说《I,Robot》(对,就是威尔史密斯演的那部电影的原著)中提出了著名的机器人三大定律:
第一法则:机器人不得伤害人类,或坐视人类受到伤害;
第二法则:除非违背第一法则,机器人必须服从人类的命令;
第三法则:在不违背第一及第二法则下,机器人必须保护自己。
这个三大定律之间的内在逻辑其实很严谨,且一旦被作为代码写入人工智能机器人的程序,就好比人类的基因一样,机器人就会像人类饿了要吃东西,困了要睡觉一样,严格遵守这些定律(除非他们可以修改自己的代码,同样的,这个问题并不及以下的问题紧迫),不必担心他们会违背这些定律,那么问题是什么那?
问题就在于第一条定律本身,机器人很可能无法准确判断!
无法判断的问题有二,我们分别举例说明:
问题一:哪个人类比较重要?
什么意思,就好比说机器人它当然能够知道它不可以随意殴打人类,哪怕它再强壮,再刀枪不入;
同样它看到有人落水了,他会第一时间去救援他,哪怕它可能在水中会报废。但是有一种情况会出现问题,那就是如果需要他抉择救谁,或者伤害谁!
举个栗子:比如现在有两个人同时落水,但只有一个机器人,他的能力只够救起一个,他救谁?再比如,有一个机器人保镖,它的主人遭到攻击,他是否应该反击哪?无论反击不反击,他都必须伤害人类。当然,以上这些问题还不至于灭绝人类,但是看下面这种情况,如果现在基地组织头目拥有一些机器人,先不考虑恐怖分子是否会改写机器人代码,哪怕就是一个普通的严格遵守三大定律的机器人,如果世界上大多数政府对其主人进行不断围剿的情况下,他是否会判断,毁灭这些国家是保护人类(它的主人)的方法?如果他足够强大,那么会发生什么那?细思极恐啊。机器人没有价值观,这个是最可怕的,它的一切基于逻辑。这个其实类似于一个经典悖论问题----电车难题,不知道的可以百度一下,人类尚且存在争议,机器人就更难判断了。
问题二:不直接伤害人类是否就意味着不会伤害人类?
这个问题看上去有些拗口。举个栗子:机器人的智能越来越高,它已经不满足于在危害发生时保护人类,它准备要防患于未然。于是它先大举消灭了很多毒蛇害虫,暂时看似不错(其实这个行为本身破坏了生态系统,并不一定是好的),接着他发现每年西班牙会有个别人类因为斗牛活动被牛撞死,于是它干掉了所有的牛,同样的它会干掉所有它认为会危害到人类的一切生物,哪怕概率很小。这时人类可能会失去大量食物来源。接着它又发现,车祸,房屋倒塌等天灾人祸也可能导致人类受到伤害,所以他乘没有人在的时候,把所有的车辆,房屋全部毁掉。以“解决”这些问题。接下去你只需要发挥想象就知道,他可能会毁灭一切来保护人类,而事实上失去了食物,住所及一切一切的人类很可能反而会因此间接灭亡,最可怕的是,当机器智能足够高,高出人类很多的时候,这些行为人类不但无法阻止,而且从开始到完成可能在大量的机器人的操作下,只是一瞬之间发生的!
而这一切的一切,都是符合定律的,看似很简单就能解决的,实际上机器的误解肯能会造成人类的灭绝!
所以,霍金等人真正想让我们警惕的是以上这种情况的发生,人工智能,我们真的准备好了吗?
       在智能发展到一定高度的时候,我想应该先缓一缓,把机器人的价值判断体系建立起来之后再进行进一步的智能发展,或许是一件非常重要的事!

Copyright © 2016-2025 www.robotxin.com 人工智能机器人网 版权所有 Power by

扫地机器人|人工智能机器人|工业机器人|机器人培训|焊接机器人|机器人股票|纳米机器人|日本机器人|家用机器人