侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其它机器人
订阅
纠错
加入自媒体

第四范式首席科学家杨强教授:未来人工智能会让二流科学家失业

2016-09-13 05:56
人在旅途20
关注

  所以,迁移学习在最近的一个进展就是,通过深度学习发现不同隐含层有不同的迁移能力,比如说,在音频上偏高层就比较容易迁移;视频上偏低层比较容易迁移,但每一层能迁移的知识和量不一样。这样我们对迁移能力就能有了定量认识,又往前走了一步。这只是一个很好的研究方向。但是迁移学习目前比较难的一点,是衡量两个领域之间的距离。过去的研究,学者们只是靠纯统计的方法。而现在,有了深度学习以后,就可以把在不同层次的特征拿过来,发现不同层次的距离是不一样的,而利用这些不同的「知识点」来理解迁移学习的能力。这一点是一个新的突破口。

  机器之心:最近有一项关于用迁移学习研究非洲贫困的案例,斯坦福研究者回避了其他收集成本过高的指标,而是使用卫星图像获取的灯光信息来判断贫困程度,您如何看待里面的技术,以及此项研究本身涉及的意义呢?

  杨强:是的,这是个很有趣的案例。在这个案例里,灯光就变成了一个不变量。它能反映贫富,又能反映路段,只要预训练灯光,就可以把这段知识迁移到那段去,这是一个很好的例子。但有特别需要说明的一点是,这是其中一种迁移学习的手段,叫传递式迁移,是说从a到b到c三个领域的传递,这个链条可以任意的长,从1到N。其实我们日常中都在用这种方式,比如学生第一学期上的课和最后一个学期上的课就可以看成一个迁移链条,上完这门课再上下一门,很多知识就可以被迁移和应用,新东西学起来就觉得容易,课程一个个过来就可以毕业了。我们人类已经在使用这种方式——把一个难的问题分解成一系列问题。

  机器之心:目前迁移学习的研究成果在哪些领域应用的比较好?

  杨强:迁移学习在好几个领域都能发挥作用,比如说电商上面的推荐,你做了一个领域的推荐模型,当出现一个新的领域时,就可以迁移过去,这两个领域有区别,但有些是共通的。

  第一个应用的例子是推荐系统里的一个非常棘手的问题,就是「冷启动」。就是说,在没有任何用户数据的情况下,我们如何能够让系统推荐的结果还不错?一个做法是,可以从一个类似的领域迁移过来。第二个是「个性化」:每个人都希望在手机上了解我们的智能助手,「懂我」的意思就是已经基于你的需求进行个性化了。使用迁移学习就可以利用你的数据从一个通用模型迁移到你的个人模型。第三应用领域是小数据,大家都知道大数据可以用深度学习做,但大数据的获取只有少数大公司才能做到,而大部分公司是没有这个资源的,他们只有小数据,有个办法就是从大数据获得的模型往小数据迁移。第四个是可以用在隐私方面,我们如果能把一个大数据的模型实现本地化。这样,就没有必要去把本地隐私的数据上传到云端,而个人隐私就可以获得保护,我觉得这是解决隐私问题最有效的一个方式,如果迁移学习能解决的话,那加密、利用随机扰乱等技术来保护隐私的办法都不用做了,因为这些方法对模型的效果影响很大。

  机器之心:关于隐私,您在2015年发了一篇关于差分隐私(Differential Privacy)的文章。随着您刚才提到的「个性化人工智能」的推进,敏感数据的隐私问题日渐受到更多关注。您能基于当时那篇文章讲解一下吗?

  杨强:这是当时在华为诺亚方舟实验室和上海联通合作的一个项目。我们在电信数据的挖掘上,发现数据挖掘中一个很受追捧的概念就是「差分隐私」技术。这个概念在学术界很流行,但我们发现在工业上,它的应用却很少。这个算法在实际问题中用不了的原因,是它没有考虑一个重要因素:一方面要保护隐私,另一方面要保证模型的表现不下降。如果保护的多,那模型的效果就会下降的就特别多,而这种效果的下降是可以用钱来衡量的。而隐私如果也能换成钱,那么,就可以在这两者间做一个权衡。但是,从来没有人这么做过。所以我们当时写了一篇论文来指出了这一点。也就是,过去大家一味的去关心隐私其实是一种偏颇,而隐私的问题应该把效果和价值来综合来考虑。差分隐私在学术界是一种很优秀的做法,但可能不适合工业界,因为在工业界需要从效果总体上进行权衡。

  机器之心:迁移学习可以实现「举一反三」(和人类智能类似),这好像与我们要实现的人工智能终极目标最为相似,那如果接下来人工智能要取得突破,迁移学习会成为其中最关键的路径吗?

  杨强:迁移学习只是路径之一,应该说,更重要的是表达学习,即学习知识的表达。迁移是知识表达的一个试金石:如果表达找的好,那就迁移的好,深度学习是表达的一个路径,但不是唯一路径。如果要把知识表达进行分解的话,其中的迁移能力是特别重要的,比如能做比喻学习(learning by analogy)等。

  关于人工智能行业

  机器之心:您在大企业研究院(华为诺亚方舟、微信联合实验室)、高校(HKUST)和创业公司(第四范式)进行研究,这些机构在研发方法和目标上有何异同?

  杨强:在工业界应该是应用研究,更多着眼把一个技术实用化以产生价值,而这个技术最好今天就解决问题;大学是长远的,更理论化的研究,目标比较高远,大学的研究所应该做明天要做的事情。现在我看到一个现象是,公司有实验室在做大学的事情,大学有实验室做公司的事情,我预计这些很难成功。因为他们都在做别人应该做的事情。如果公司做纯高校的事情一定长久不了,他们要产生价值,公司无法去养这么多学者。

<上一页  1  2  3  4  5  下一页>  
声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

机器人 猎头职位 更多
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号