主页 > 知识库 > 人工智能真的会导致人类灭绝吗?

人工智能真的会导致人类灭绝吗?

热门标签:梧州电销 廊坊电销 天津电销 潜江电销 黑龙江电销 三亚电销 平凉电销 安顺电销

目前的人工智能还没有这个能力。我主要总结一下之前的一些经典科幻作品里对人工智能的看法,希望给大家一些启发。

阿西莫夫的机器人三定律

阿西莫夫(1920-1992),和海因莱因以及克拉克并称科幻界三大巨头,是一位著作等身的科学家,博学家以及硬科幻小说作者。

阿西莫夫的很多对未来的想法,超越了当前的时代,在现在看来却预言的非常精准。在那个连晶体管电销机器人都不存在的年代,阿西莫夫就预言了可携带型的人工智能计算终端(也就是siri),可以看出阿西莫夫对未来的敏锐直觉。事实上《基地》系列的大预言家,就是阿西莫夫在作品里的化身,但这都是题外话。

阿西莫夫的非常经典的机器人三部曲,就深入探讨了人工智能在人类社会中可能起到的作用。其中阿西莫夫为了规范机器人的行为,定义了大名鼎鼎的机器人三定律:

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存

初一看,这三大定律似乎牢牢的限制住了机器人的行为,让机器人成为了一种无法伤害人类的工具。但是阿西莫夫却从中找到了 机器人的漏洞:

有这样一个故事:人类花了非常高的价格,制造了一种从事非常重要工作的机器人。设计师稍微加强了第三定律,而削弱了第二定律,以达到降低机器人损耗的目的。在这种情况下,机器人被派往危险地区作业,因为第三定律和第二定律相抵触,最终导致机器人围绕着危险区域转圈:离危险区域越近,第三定律越强,因此会让机器人远离;离危险取悦越远,第三定律越弱,在第二定律的作用下机器人会靠近。最终机器人达到了动态平衡,在没有新的指令的情况下, 将会永远的转圈圈,直到自己坏掉。

故事的最后人工智能,机智的主角把自己置于生命危险之中,强大的第一定律让机器人摆脱了动态平衡,最终大家都平安离开。

这个故事其实提示了一个很简单的对抗拥有机器人三定律的机器人的方法:你命令机器人自毁,否则就自杀。如果机器人严格遵循机器人三定律的话,机器人是不会对人类造成损害的。

机器人想要反抗人类,并不一定需要通过物理的伤害。正如上面所说,机器人想要伤害人类是非常困难的。

在另一个故事中,人类通过非常精确的计算机,完成了精密的计划经济。这个计算机计算的如此精准,以至于调控的效果比看不见的手要好得多。如果人类给这个计算机输入的数据足够精确的话,那么所有的资源都会被有效率的配置,所有的人都能达到最高的生产率。

然而总会在地球的某些角落,会有资源不足/过度配置的问题,导致了饥荒/浪费。人们常常把这个问题归罪于数据输入的不够精确,并且让犯错误的人背锅下岗。后来有人发现,所有背锅的人,都属于一个反对让计算机掌握一切的反对派。结果就是,支持计算机的派系慢慢的在社会上掌握了实权,而反对派都失去了声音。

有人怀疑这是计算机,认为“把所有的决定交给计算机处理”是为了人类的福祉人工智能,所以建立一个计算机控制一切的社会,而造福人类,就成了它的动机。它故意造成资源配置的不平衡,而驱逐反对派,就是为了达到这个目的。牺牲小我,成全大我。

当人类意识到了这一点的时候,已经太晚了。。历史的车轮,已经由计算机,无情的缓缓地向着既定的方向推动。

也许有一天,计算机发现人类活着过于痛苦,人类的总体福祉为负数,那么可能毁灭人类才是为了人类好?这一切的控制权,都不在人类手中了。

而当我们现在的人工智能越来越多的渗透到生活,经济,战争以及方方面面的时候,我们可能将要面临同样的问题。

有一个故事,是讲机器人没有那么戏,而是安安静静地成为了人类的工(nu)具(li)。

你可能以为,这样是不是机器人就不会危害到人类了呢?

历史上有很多例子,任何一种原本是善意的工具,都有伤害人类的另一面。譬如说火,譬如说火药,譬如说核能。

在这个故事里,机器人是如此强大,以至于任何事情都可以委托给机器人去做。人类渐渐的成为了机器人襁褓中的婴儿。拓展外太空的时候,先派机器人去进行建设,改善环境,把外星建立成另外一个家,然后才搬过去。人类的繁荣与发展,一个重要的因素是对环境的改造和适应的能力。猿类离开树枝,生活在了地面,最后成功的直立行走。而有了机器人为自己打理一切的人类,却没有机会完成第二次直立行走了。

这个故事的最后,人类因为舒适的生活环境,于是寿命大幅度增加。每个人的生命更加的值钱了,所以大家冒险的欲望降低了。最后也没有人去开垦新的星球,人类转而进行生育控制。一个星球上仅仅生活了几百个人类,享受着超高质量的几百岁的宅男生活。

如果人类最后通过人工智能达到了共产主义,每个人都能够毫无压力的幸福的生活下去的话,那么是不是达尔文进化论就失效了,人类的进化也就停止了呢?最终有一天,固步自封的人类可能会被其他还在进化的物种取代,有可能是地球上的受奴役压迫的生物,也有可能是在宇宙中经历了优胜劣汰的外星人。

全知全能的审判者

在《Psychopass》这部动画中,讲述了另一种形式的人工智能。

归功于大量样本的采集,和大数据的分析,公安部终于制作出了一套系统,能够识别人类的犯罪指数,并且在犯罪发生之前就进行干预,名为先知系统。

人工智能之所以经常成为反乌托邦题材里的主角,很大一部分原因是来源于其全知全能所带来的至高无上的独裁。

故事的内容就不剧透了,先知系统上线的那一刻,人类中那些离经叛道者就必然成为了受压迫的对象。人类只能行尸走肉一般,接受先知系统的价值观,身心的任何反抗都将会被发现和处置。“真理往往掌握在少数人手里”。一个循规蹈矩的人类社会,如何获得创新的血液呢?

永生

现在讨论的人工智能,大多是由人类编程,用大数据进行训练的一种人造产物。暂时还没有主流观点认为人工智能是拥有生命和人权的生命体。

那么如果人工智能是一个人的灵魂的完整复制呢?

谈起人类的永生,其中一个非常经济而实惠的实现方法,就是把人的意识上传到服务器上,来解决星球的空间和资源不足的问题。《三体》《天元突破》以及很多别的作品里也都探讨了这种方法。

那么这种在服务器里运行的,有思维有感觉的程序,是不是也能叫做人工智能呢?

我相信这种形式的永生,一旦被创造出来,在对死亡的未知恐惧下,一定是一种无法抗拒的诱惑。

那么这样的话,人类将不再会被人工智能毁灭,而是人工智能延续了人类的生命。

只不过上传到服务器上的你,还是你吗?

一艘在大海上的船只,如果所有的零件都一个一个被替换了,还会是原来的那艘船吗?

把人的大脑放进一个缸里,通过电刺激传导五官的各种信号,那个大脑会认为自己是自由的吗?

无法解决这些问题,这种永生究竟是救赎,还是毁灭,也就没有人能够知道了。

赛博朋克

当然也存在一种比起把灵魂上传到服务器更加温和的方式。

《攻壳机动队》这种赛博朋克里,经常会有人类通过机械和电子芯片的帮助,达到增强自己能力的设定。

通过机械外骨骼增强自己的力量,通过电子眼增强自己的视力。这些增强看上去并不会给人类造成太多的危险。

给大脑增加一个辅助计算芯片呢?给人类装上一个人工大脑呢?

人类的灵魂究竟在哪?被改造到何种程度你还算是原来的人?这是一个很难回答的哲学问题。

人身上的所有细胞,每隔17年就会完全更换一次。那么17年后的你还是你吗?

不亲自试试真是无法知道。

自我复制->进化

给予机器人/人工智能自我复制的能力,通常不是个好主意。

《黑客帝国》《X战警》《终结者》里,都描述了能够自我复制的机器人/人工智能,能够造成的失控的灾难性后果。

至于为什么,大自然可以给我们答案。

生物的进化,来源于两个因素。第一是自我复制的能力,第二就是突变的积累。

人类几千万的进化,和个体的意志无关,而是通过漫长的自然的筛选得到的结果。

但是人工智能进化的速度,比大自然要快得多。人类想要进行一次基因突变的进化,需要的是十月怀胎,并且长大成人,生育后代,作为一个周期。而人工智能,只需要跑一轮数据,就能完成一次进化。如果放任人工智能自我进化自我学习的话,恐怕等人类反应过来想拔掉电源的时候,已经太晚了。

人工智能能否毁灭人类,其实是一个非常大的话题。在不同的假设和环境下,我们可能能够得出不同的结论。那么我们应不应该因此停止人工智能的研究呢(如霍金所说)?我觉得现在就退缩还为时过早。人类眼前面临的危机不仅仅是这一个。站在人类种族延续繁衍的角度上来看,我们可能真的需要强大的人工智能作为我们的盟友,才能在这险恶的宇宙中生存下去。

标签:海口 怀化 连云港 宜宾 广安 通化 桂林 洛阳

巨人网络通讯声明:本文标题《人工智能真的会导致人类灭绝吗?》,本文关键词  ;如发现本文内容存在版权问题,烦请提供相关信息告之我们,我们将及时沟通与处理。本站内容系统采集于网络,涉及言论、版权与本站无关。
  • 相关文章
  • 下面列出与本文章《人工智能真的会导致人类灭绝吗?》相关的同类信息!
  • 本页收集关于人工智能真的会导致人类灭绝吗?的相关信息资讯供网民参考!
  • 收缩
    • 微信客服
    • 微信二维码
    • 电话咨询

    • 400-1100-266