侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其它机器人
当前位置:

OFweek机器人网

服务机器人

正文

【解析】深度学习的启示 为什么它不能解决全部AI问题

导读: 近年来,深度学习技术在图像分类、物体检测与识别乃至“看图作文(Image Captioning)”等诸多计算机视觉任务上均取得了巨大成功。本文首先探讨了深度学习的成功带给我们的一些启示,然后对相关开放问题进行讨论。所述仅为个人粗浅看法,不当之处请读者斧正。

  近年来,深度学习技术在图像分类、物体检测与识别乃至“看图作文(Image Captioning)”等诸多计算机视觉任务上均取得了巨大成功。本文首先探讨了深度学习的成功带给我们的一些启示,然后对相关开放问题进行讨论。所述仅为个人粗浅看法,不当之处请读者斧正。

  深度学习成功的启示

  深度学习的成功不仅仅带来了人工智能相关技术的快速进步,解决了许多过去被认为难以解决的难题,更重要的它是给我们带来了思想观念的变革,个人以为主要体现在以下几个方面。

  1、优化方法的变革是开启深度学习复兴之门的钥匙

  回顾自2006年(所谓深度学习元年)以来深度学习的十年大发展,我们必须首先注意到优化方法不断进步的重要作用。需要注意的是,深度学习并非全新的技术方法,而是上世纪80年代出现的多层神经网络的复兴。CV领域现在炙手可热的深度模型(如深度卷积神经网络DCNN)在上个世纪八十年代就已经基本成型,当时未能普及的原因很多,其中之一是长期缺少有效地优化多层网络的高效方法,特别是对多层神经网络进行初始化的有效方法。

  从这个意义上讲,Hinton等人2006年的主要贡献是开创了无监督的、分层预训练多层神经网络的先河,从而使众多研究者重拾了对多层神经网络的信心。

  但实际上最近三年来DCNN的繁荣与无监督、分层预训练并无多大关系,而更多的与优化方法或者有利于优化的技巧有关,如Mini-BatchSGD、ReLU激活函数、BatchNormalization、ResNet中的shortcut等,特别是其中处理梯度消失问题的手段,对DCNN网络不断加深、性能不断提升功不可没。

  2、从经验驱动的人造特征范式到数据驱动的表示学习范式

  在深度学习兴起之前,专家知识和经验驱动的AI范式主宰了语音处理、计算机视觉和模式识别等众多领域很多年,特别是在信息表示和特征设计方面,过去大量依赖人工,严重影响了智能处理技术的有效性和通用性。深度学习彻底颠覆了这种“人造特征”的范式,开启了数据驱动的“表示学习”范式。具体体现在两点:

  1)所谓的经验和知识也在数据中,在数据量足够大时无需显式的经验或知识的嵌入,直接从数据中可以学到;

  2)可以直接从原始信号开始学习表示,而无需人为转换到某个所谓“更好”的空间再进行学习。数据驱动的表示学习范式使得研发人员无需根据经验和知识针对不同问题设计不用的处理流程,从而大大提高了AI算法的通用性,也大大降低了解决新问题的难度。

1  2  3  4  下一页>  
声明: 本文由入驻维科号的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

我来说两句

(共0条评论,0人参与)

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

OFweek品牌展厅

365天全天候线上展厅

我要展示 >
  • 机器人
  • 机器视觉
  • 伺服
  • 猎头职位
更多
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号