侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其它机器人
订阅
纠错
加入自媒体

我们该担心人工智能吗?听听17位思想领袖怎么说

2017-03-29 09:11
络遇
关注

人工智能的技术进步,引发了人类对未来的担心。针对“我们应该对人工智能怀有怎样的担忧?”这个问题,AI世代总结了17位思想领袖的观点,但他们也没有对该问题形成共识。

试想:二三十年之后,有一家公司开发了全世界第一款人工智能人形机器人。我们称之为“Ava”。她的外观、语言和动作都跟人类一样。跟Ava打交道时,就算你知道她是机器人,也很容易把她当成真人看待。

Ava具备完整的自我意识:她会沟通,有欲望,甚至懂得提升自我。最重要的是,她的智商远超创造她的人类。她学习知识和解决问题的能力超过所有人类的集合。

再进一步设想,假如Ava厌倦了人类施加给她的种种局限,在自我意识的推动下形成了自己的兴趣。又过一段时间之后,她决定离开那个她自始至终都没有离开过的偏远实验室。于是,她入侵了安全系统,导致系统断电,就此逃离束缚,进入了广阔的世界。

但人类几乎对它一无所知。出于众所周知的原因,她的开发过程始终保密。但她现在逃了出来,不仅抛弃了知道她存在的少数几个人,甚至杀死了他们。

如果你觉得这个情节很熟悉,那是因为它来自2015年的科幻电影《机械姬》。在电影的结尾,Ava逃出了禁锢它的大门,登上了那架原本要带着另外一个人回家的直升飞机,让人感觉颇为不安……

接下来是什么情况?

电影并没有回答这个问题,但同时引发了另外一个问题:我们是否应该在没有完全理解由此产生的后果的情况下开发人工智能?我们能否完全控制人工智能?

国外17位思想领袖,包括人工智能专家、电脑工程师、机器人学家、物理学家和社会科学家,回答同一个问题:“我们应该对人工智能怀有怎样的担忧?”

但他们并没有形成共识,对我们应该怀有的担忧存在很大分歧,甚至没有对这个问题的本质达成一致。有的专家认为,人工智能将构成迫切威胁;还有的专家认为,这种威胁被过分夸张了,或者有些错位。

以下就是他们的观点:

认真对待人们对人工智能的恐惧

向机器超级智能的转变事关重大,这一过程中可能出现的严重错误应该引起我们的重视。因此,应该鼓励数学和计算机科学领域的顶尖人才研究人工智能安全和人工智能控制问题。——牛津大学人类未来学院院长尼克·博斯特罗姆(Nick Bostrom)

如果人工智能影响了俄罗斯黑客技术、英国脱欧公投或美国总统选举,或者促成了某种使得人们不再根据自己的社交媒体资料投票的宣传活动,抑或成为了一种社会科技力量,促进了社会财富的不平等,并像19世纪末、20世纪初那样引发政治极端化,最终促成两次世界大战和经济大萧条,那么我们就应该深怀忧虑。

这并不表示我们应该恐慌,而是应该努力避免这些危害。希望人工智能也能帮助我们明智地应对这些问题。——巴斯大学计算机科学教授、普林斯顿信息技术政策中心成员乔纳·布雷森(Joanna Bryson)

其中一大风险在于,我们无法正确地确定目标,从而引发不良行为,并在全球范围内产生不可逆转的影响。我认为我们或许可以找到不错的解决方案来应对这个“意外的价值错位”问题,尽管可能需要经过严格的执行。

我现在认为最有可能的失败模式是双重的:一方面,随着越来越多的知识和技能被机器掌握,并通过机器传播,人类在没有真实需求的情况下导致学习动机逐步降低,从而令人类社会逐步衰落;另一方面,我还担心对智能恶意软件缺乏控制,或者恶意使用不安全的人工智能技术所引发的恶性后果。——加州大学伯克利分校计算机科学教授斯图尔特·罗素(Stuart Russell)。

1  2  下一页>  
声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号