侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其他机器人
当前位置:

OFweek机器人网

服务机器人

正文

谷歌对AI风险的讨论更加实际

导读: 近些年来,硅谷常常发出这样的声音,虽然这个问题或多或少与现在仍然简单的机器人和时常出现小故障的智能助理画风不合(AI灾难预言者说与他意见一致的人越来越多)。一些人工智能专家也相信这些关于人工智能的未来存在风险的推断,认为超级智能软件将会对这个领域造成伤害。

  针对应家用机器人等智能机器的安全问题,谷歌列出五项尚未解决的挑战,机器会因过于智能和强大威胁到某个人的生命甚至全人类的生存吗?

  近些年来,硅谷常常发出这样的声音,虽然这个问题或多或少与现在仍然简单的机器人和时常出现小故障的智能助理画风不合(AI灾难预言者说与他意见一致的人越来越多)。一些人工智能专家也相信这些关于人工智能的未来存在风险的推断,认为超级智能软件将会对这个领域造成伤害。

  谷歌,这个用巨额投资人工智能的企业,正在努力找到一种折衷的方式。今天发布的一篇新论文描述了为使未来的智能软件更安全,研究者应该调研的五个问题。谷歌研究人员ChrisOlah写了一篇讨论该论文的博文,他说,谷歌正向大家展示,应该如何让有关AI安全的讨论更加实际和有成效。

  “之前大多数讨论都是非常假设性和投机性的,”他写道,“我们相信,有必要更加关注真正的机器学习研究,开始研发实用的方法,让工程AI系统的运作更安全更可靠。”

  以清洁机器人为例,Olah阐释了以上五条看法中的几个看法。一个关注点是,要防止系统以欺骗的方式实现目标。比如,清洁机器人可能会发现,将污渍藏起来不用打扫也能满足程序要求。

  另一个问题是,如何让机器人安全地探索新环境。比如,一个清洁机器人应该能够尝试用新的方式使用清洁工具,同时不会选择挨着插座的湿拖把。

  论文中,Olah与谷歌同事DarioAmodei合著完成了这五个问题的描述,贡献者还包括其他的谷歌同事,斯坦福大学,加利福尼亚大学,伯克利大学,OpenAI(由特斯拉CEO和连环创业家马斯克联合创立并参与部分投资)的研究人员等。

  曾将人工智能的研发比作“召唤恶魔”的马斯克,将创造“安全的AI”为OpenAI的创立目标之一(怎样建立一个有道德的AI?)。

  谷歌也曾承诺,会保证人工智能软件不产生非预期结果。本月该公司发布了关于此话题的第一篇研究论文,由伦敦的DeepMind集团发布。DeepMind的领导者DemisHassabis还曾成立了道德委员会来讨论AI的风险,虽然委员会成员仍未披露(谷歌计划如何解决人工智能问题)。

  AllenInstituteforAI(艾伦人工智能研究所)的CEOOrenEtzioni对谷歌这篇论文中的列出的方法表示欢迎:他曾对AI风险的讨论表示过批评,认为这种问题太模糊,科学家和工程师参与后带来的实际效果不大。但是他说,谷歌列出的场景比较具体,可以进行真正的研究,虽然这些实验是否会有应用价值还不清楚。

  “正确的人问了正确的问题。”Etzioni说,“至于正确的答案,时间会告诉我们。”
 

声明: 本文由入驻OFweek公众平台的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

我来说两句

(共0条评论,0人参与)

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

OFweek品牌展厅

365天全天候线上展厅

我要展示 >
  • 机器人
  • 机器视觉
  • 伺服
  • 猎头职位
更多
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号