侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其它机器人
订阅
纠错
加入自媒体

微软提出人工智能十大原则

2016-06-30 09:13
雷本祖
关注

  这只是开始,我们还可以走得更远。

  技术界不应该决定这一未来的价值观和美德。

  科幻小说家阿西莫夫也给出了一个很好的起点,尽管还不够充分:他在1940年代提出了“机器人三原则”作为故事当中机器人的伦理守则。阿西莫夫定律是层次化的,即第一原则高于第二原则,第二原则高于第三原则。第一原则是机器人不得伤害人类,或看到人类受到伤害而袖手旁观;第二原则是机器人必须服从人类的命令,除非这条命令与第一条相矛盾;第三原则是机器人必须保护自己,除非这种保护与以上两条相矛盾。尽管阿西莫夫定律作为策略而言比较方便且具有启发性,但是并没有提供研究人员和技术公司可以遵循的价值观或者设计原则,也没有告诉社会当AI和机器学习对经济越来越多的构成产生推动时,人类必须带入这下一个时代的能力是什么。

  计算机先驱AlanKay揶揄道:“预测未来的最好办法是创造未来。”在AI的背景下,他的意思是说不要再预测未来的样子了,用有原则的方式去创造未来才是正道。我同意。就像任何软件挑战一样,原则做法始于开发的平台基础。用软件开发的术语来说,AI正在成为第三种“运行时”—成为下一个平台。在计算机科学中,运行时是指程序员开发和执行应用的基础系统。换句话说,我们为PC编写Word、PowerPoint之类的Office应用。现在的Office365包含了Office、Skype和Outlook,是写给web的。而在AI和机器人的世界里,这些生产力和沟通工具将会针对一个全新的平台编写,这个平台不仅管理信息还会从信息中学习并且与物理世界交互。

  这个平台或者所谓的第三运行时的样子现在正在构建当中。我还记得195年春读到盖茨《互联网浪潮》备忘录的情形。盖茨在里面预测了互联网对连接、硬件、软件开发以及商业的影响。20多年过去了,我们正目睹着一股新的浪潮来临—人工智能浪潮。那么指导我们思考、设计和开发的普遍设计原则和价值观应该是什么样的呢?

  一些人正在带头直面这一问题。MITMediaLab的CynthiaBreazeal把一生都奉献给了探索更人性化的人工智能和机器人上面。她提出,技术往往忽视了设计的社会和行为因素。Cynthia在最近的谈话中说我们是所有物种当中最社会化和最富有感情的一种,但是在技术设计中却几乎没有考虑过移情的问题。她说:“我们毕竟是通过沟通和协作来体验世界的。如果我们对一起协作的机器感兴趣,那就不能忽视人性化方法。”

  为此,我思考了一些我们作为行业和社会应该共同讨论和辩论的原则和目标。

  1、AI必须用来辅助人类:随着我们开发出来的自动机器越来越多,我们需要尊重人类自治。协作式机器人(co-bots)应当从事采矿之类的危险工作,从而为人类工人竖起一道安全网和提供保护措施。

  2、AI必须是透明的:我们应该能知道技术是如何工作的,它的规则是什么。我们需要的不仅仅是智能机器(intelligentmachines),而且是可理解的机器(intelligiblemachines)。技术会了解人类的事情,但是人类也必须了解机器的事情。大家应该对技术如何审视和分析世界有了解。伦理和设计必须齐头并进。

  3、AI必须实现效能最大化,同时又不能伤害人的尊严:它应该维护文化承诺,支持多样化。在设计这些系统时我们需要有更广泛更深入更多的各种互动。技术界不应该决定这个未来的价值观和美德。

  4、AI必须用于智能隐私:要有复杂的手段保护个人以及群体信息,要能够以增进信任的方式进行。

  5、AI必须承担算法责任以便人类可以撤销非故意的伤害。我们设计这些技术时必须考虑到预期和非预期的情况。

  6、AI必须防止偏见,确保进行适当的、有代表性的调查,从而防止错误的启发法不会造成歧视。

<上一页  1  2  3  下一页>  
声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号