侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其它机器人
订阅
纠错
加入自媒体

机器算法让我们决策更方便 但也会加深社会不平等

2017-04-26 09:47
风频浪劲
关注

据Futurism报道,算法让我们可向计算机发布数学指令,以帮助解决问题或完成任务。虽然在生活的许多方面,算法都应该算是伟大的工具,然而它们也会为我们提供错误的分析,并延续社会不平等。

算法是强大的工具。有了这些可以解决问题或完成任务的数学指令,你就可以从婚介机构那里接收到潜在的约会机会,从Netflix收到电影推荐,以及收到网络广告商最有可能吸引你的广告。可是,尽管算法能够为我们节省时间,使决策更加方便,但使用它们也需要付出代价,特别是当人类处于危在旦夕的境地时。

举例来说,当算法被用于决定谁应该被雇佣或那个人应获得贷款时,人类就被简化为数据点,人类基于个案的判断能力被剥夺。Facebook目前受假新闻所困就证明,算法并非总是能拥有人类那样的洞察力。更糟糕的是,算法可加强种族歧视或阶级意识,从而导致弱势群体的处境更加糟糕。

哈佛大学研究发现,当人们通过谷歌搜索某个与非洲裔相关的名字时,这个搜索引擎更有可能显示出售犯罪记录的广告。MIT教学系统实验室执行主管贾斯汀·里奇(Justin Reich)认为,算法将不可避免地让设计它们的人受益,即受教育程度更高的白人和亚洲男性。

里奇在接受皮尤研究中心进行的调查时说:“大多数处于特权地位的人会发现,这些工具便利、安全,非常有用。而新技术的危害往往被社会中处于弱势地位的人群承受,比如广告算法提供保释代理人的广告,因为它推测读者可能是罪犯。当然,还存在其他与种族等相关问题。”

算法有可能加宽特权者与无权者之间的鸿沟。Fit to Tweet的所有者赖安·海耶斯(Ryan Hayes)说,那些理解这些算法工作原理的人,了解如何能够最有效地利用它们的人,将会成为算法的受益者。然而,那些没有接受过太多教育、可用资源有限的人会被远远落在后面。

海耶斯表示:“25年前,我们谈论的‘数字鸿沟’是指那些家中有电脑和家中没电脑的人之间的差距。而10年后,与那些使用传感器、强大AI以及可连接到大量数据的人相比,没有这些设备和服务或不知道如何使用它们的人的生活将完全不同。这种鸿沟会自我延续,那些更少能力的人在很多方面显得更为脆弱。”

虽然算法带来的潜在后果越来越得到广泛认可,但这些工具依然被广泛使用。许多领导人(包括美国前总统奥巴马)都在敦促对算法加强监督,增大透明度,因为算法已经影响到民众的日常生活。美国马里兰大学计算机科学教授本·施奈德曼(Ben Shneiderman)表示,为了最小化降低算法的危险,它们必须能够理解普通用户和专家用户。

施奈德曼说:“精心设计的算法可增强人的能力,但它们必须是可理解的、可预测的以及可控的。这意味着,它们的设计必须保持透明,以便用户能够理解使用它们的影响,它们必须接受持续评估,以便批评家评估它们的偏见和错误。”

微软首席研究员乔纳森·格鲁丁(Jonathan Grudin)说,如果我们能够利用算法的力量,不允许它们延续不公正或非人性特征,我们很可能从这些技术奇迹中获益。他表示:“算法不在控制中,人们创造和调整它们。可是,对于某人来说是积极的影响,对于他人来说就可能是负面影响。为此,我们需要继续努力理解和调节平衡。我乐观地认为,随着技术使用带来的巨大潜力增强,我认为算法的总体趋势是能带来积极影响。”

声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号