人工智能作恶谁之过？

2019-04-10 08:45

如今，人工智能的工作方式产生了很大的变化。在很多情况下，你甚至不知道后台是人工智能系统在做决策。Crawford以人力资源系统为例：“很多公司正在使用人工智能系统扫描求职简历，以决定你是否值得面试。”听上去，这极大的提升了人力资源部门的效率，但亚马逊所研发的一个人工智能系统打破了这种美好的幻想。

据报道，亚马逊耗时两年，设计了一个人工智能自动简历扫描仪。但是该公司后来发现，该系统对所有女性申请者都存在偏见，以至于如果你的简历上出现了“女性”这个词，都会被排至末尾。

“这件事告诉，自动化这些工具实际上比你想象的要困难得多，因为亚马逊拥有一些非常棒的工程师，他们明确知道自己在做什么，也不希望这样的结果，因为他们没有发布这个工具。但这件事却透露了另一个重要细节，即他们所使用的训练数据，基本上都是来自白人样本，”Crawford说。

显然，要想让这些系统能够发挥原本的作用，让它们成为中立和客观的完美系统，我们必须更加挑剔。“这就是Whittaker和我成立这家研究所的原因，我们想要能够通过研究，对这些人工智能系统进行审核，”Crawford说道。

实际上，行业里的很多公司也已经开始了自我审核，比如谷歌和Facebook。有些甚至成立了道德委员会，希望能够逆转来自文化上的歧视。

在被问及政府监管问题时，Crawford表示对美国还没有任何形式的联邦隐私法感到惊讶：“这在当今时代有点不寻常，到目前为止，只有州一级存在类似法案，比如加州就通过了全美最强的隐私法案，2020年生效。”

当然，很多人依然对此感到不满，尤其是与欧洲相比较。欧盟于2018年推行了通用数据保护条例（GDPR），虽然不是一项完美的立法，但却在国际上产生了影响。这也让美国政府面临着尴尬的境地，因为美国企业可能会受到其他国家的监管。

Crawford说：“我认为现在是开始制定法规、实现法规的关键时刻。这也将是未来五年里最重要的事情之一。联邦政府需要对人工智能及其附属技术如何被监管做出决策。”

Klobuchar参议员提出，可以使用罚款等手段来加强联邦贸易委员会的资金来源。而Nancy Pelosi也表示应该成立一个与AI相关的联邦机构欧来监控数据。

“这将会是一场大辩论！”Crawford说道。“在成立相关机构的过程中，需要众多专家的建议。比如在医疗保健领域，你需要医生和护士工会，你需要了解美国保险系统的神秘运作方式。你需要把他们放在与人工智能专家平等的位置上，通过实际行动来验证和确保这些系统是安全和有益的。”

<上一页 1 2

声明： 本文系OFweek根据授权转载自其它媒体或授权刊载，目的在于信息传递，并不代表本站赞同其观点和对其真实性负责，如有新闻稿件和图片作品的内容、版权以及其它问题的，请联系我们。

共0条评论，0人参与

登录登录即可访问所有OFweek服务

请输入评论内容...

请输入评论/评论长度6~500个字

暂无评论

图片新闻

行业报告