侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其它机器人
订阅
纠错
加入自媒体

江晓原:为什么人工智能必将威胁我们的文明?

2016-08-05 09:31
kumsing
关注

  远期威胁:将最终消解人类生存的根本意义

  从中期看,人工智能有失控和反叛的问题,但是人工智能的威胁还有更远期的,从最终极的意义来看,人工智能是极度致命的。

  阿西莫夫提出了“机器人三定律”,现在在研究机器人的行业里,有的人表示三定律还有意义,但是也有一些专家对这个三定律不屑一顾,如果对三个定律仔细推敲的话,我相信一些人工智能专家肯定会同意下面的说法:这三定律绝对排除了任何对军事用途机器人的研发。因为只要让人工智能去执行对人类个体的伤害,哪怕是去处死死刑犯人,就明显违背了三定律中的第一定律。但是搞军事用途人工智能的人会说,这三定律算什么,那是科幻小说家的胡思乱想,我们哪能拿它当真呢。

  阿西莫夫在短篇小说《转圈圈》中首次明确提出“机器人三定律”,这篇小说后来收录在《我,机器人》小说集。

  很多人不知道的是,这个阿西莫夫还有另一个观点——所有依赖于人工智能的文明都是要灭亡的。

  阿西莫夫有一部史诗科幻小说《基地》系列,共11卷,其中对人工智能有一个明确的观点。对于人工智能的终极威胁,他已经不是担忧人工智能学坏或失控,他假定人工智能没学坏,没失控,但是这样的人工智能是会毁灭人类的,因为这样的人工智能将会消解我们人类生存的意义。

  试想所有的事情都由人工智能替人类干了,人类活着干嘛?人们很快就会变成一个个寄生虫,人类这个群体就会在智能和体能上急剧衰退,像虫子一样在一个舒适的环境里活着,也许就自愿进入《黑客帝国》描绘的状态中去了:你就是要感觉快活,这个时候乖乖听话的人工智能完全可以为你服务:我把主人放在槽里养着,给他输入虚假的快活信号,他就快活了,这不就好了吗?

  从根本上来说,人工智能像我们现在所希望、所想象的那样无所不能,听话,不学坏,这样的人工智能将最终消除我们人类生存的意义。每一个个体都变得没有生活意义的时候,整个群体就是注定要灭亡的。

  所以,无论从近期、中期、远期看,人工智能都是极度危险的。无论它们反叛还是乖顺,对人类也都是有害的。因此我完全赞成应该由各大国谈判订立国际条约来严格约束人工智能的研发。这个条款应该比美俄之间用来约束核军备的条款还要更严格,否则是非常危险的。

  科学已经告别纯真年代

  以前曾经有过科学的纯真年代,那个时候也许可以认为科学是“自然而然”产生的,但是今天科学早就告别了纯真年代,今天科学是跟资本密切结合在一起的。所有的这些活动,包括研发人工智能,背后都有巨大商业利益的驱动。

  谈到科学和资本结合在一起,我总要提醒大家重温马克思的名言:资本来到世间,每个毛孔都滴着浓血和肮脏的东西。对于和资本密切结合在一起的科学,我们的看法就应该和以前不同了。

  我们以前一直有一个说法:科学没有禁区。这个说法是很多人都习惯的,但是现在对于这个说法,科学界的很多人已经开始有新的认识。比如说曾任北大校长的许智宏院士,前不久就对媒体表示:我们以前一直说科学没有禁区,但现在看来,科学研究仍然有着不可逾越的红线。他是在说生物技术的某些应用时说的,“不可逾越的红线”当然就是禁区了。

  如果表述得稍微完备一点,我们可以说,在每一个特定的时期里,科学都应该有它的禁区,这个禁区可以在不同的时期有所改变。比如说某项技术,当人类社会已经准备好了,我们已经有成熟的伦理或者比较完备的法律来规范它的时候,我们也许可以开放这个禁区,说这个事情现在可以做了。但是没准备好的事情,现在把它设为禁区是应该的,这个禁区也应包括科学技术的高低维度,高到一定程度就有可能变成禁区,不应该再继续追求了。

  发展科学,在今天,其实各国都是被绑架的。已经领先的怕被别人超越,当然不能停下来;尚未领先的,当然更要追赶。结果谁也不肯停下来或慢下来,谁都不敢停下来或慢下来,因为害怕“落后了就要挨打”。所以只有各大国坐下来谈判,设立条约,不然毫无办法。在这种局面中,只要有一个人开始做不好的事情,比如研发原子弹或军事用途的人工智能,其他人就会被迫跟进,结果大家都会被绑架。 

<上一页  1  2  3  
声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号