侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其它机器人
订阅
纠错
加入自媒体

谷歌利用AI抵御网络暴民 《纽约时报》成首站

2016-12-22 14:11
flinay
关注

谷歌有一个雄心勃勃的计划,那就是使用人工智能来删除侮辱性评论以及抵御网络暴民。虽然目前的技术无法应对这样的挑战,但是它有助于完善那些已经非常规范的互联网社区。

人类已经破坏了互联网。网络欺凌、骚扰性评论、社会羞辱和令人反感的言论像瘟疫一样在诸如Twitter和Reddit等网站蔓延,尤其是当你碰巧引起了错误的关注的时候更是如此。

提供在线服务的公司则处在被人们指控漠视骚扰性言论和压制言论自由中间。但是,现在谷歌认为,可以使用人工智能来减少这种数字化评论带来的悲剧。该公司的技术孵化器Jigsaw(其前身为谷歌智库Google Ideas)正打算通过一款自动化程序Conversation AI来识别并删除数字骚扰信息。

正如Jigsaw负责人Jared Cohen所说,“我想利用我们拥有的最好的技术去处理那些引战帖和非正当战术(这些非正当手段使得那些敌对声音占据了不相称的比例),并且尽我们所能来提供一个公平的环境”。

谷歌此举彰显了其果敢的一面,而且这项计划与Jigsaw之前的工作有所差异。Jigsaw之前的工作包括推出Project Shield(免费的开放式DDoS拦截服务),旨在保护新闻网站和促进言论自由的网站免受拒绝服务的攻击。Jigsaw的另一项成果Password Alert是一个Chrome插件,旨在确保用户密码安全,免受网络钓鱼攻击。

这些都曾是主要的技术挑战,但引战帖和网络暴民俨然也已成为一个社会学问题。

Conversation AI是谷歌“moonshot”项目中最成功的项目之一,是“Google Brain”的一个分支。一方面,Conversation AI已经通过大规模神经网络为机器学习领域带来了革命性的发展,同时也使得谷歌具有更多的优势,例如在图像识别领域比人类更加熟练。但对于在线辱骂性言论,Conversation AI却无能为力。

虽然Jigsaw的目标是“打击网络暴民的崛起”,但是该程序本身目前却太过温和,因此目前Jigsaw离成为一个合格的项目还有一段距离。Conversation AI将会主要用于简化社区审查过程(这一过程目前主要由人类完成),因此即使无法根除那些糟糕的网络行为,它也可以为一些网站积累更多更好的言论。

暗示性言论的检测

数月之后,Jigsaw将会率先将Conversation AI应用在《纽约时报》网站上,以帮助该公司管理其在线评论。目前,《纽约时报》主几乎要审查每一条发布在其网站上的评论。

而现在,Conversation AI正在阅读其中的1800万条评论,并从中学习如何检测被拒绝的评论,包括没有实质性内容的评论、偏离主题的评论、垃圾内容、具有煽动性、攻击性的评论、包含淫秽信息的评论等。

1  2  下一页>  
声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号