侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其他机器人
当前位置:

OFweek机器人网

系统软件

正文

“堂吉诃德”系统:通过讲故事来教机器人价值观

导读: “堂吉诃德”系统通过训练机器人阅读故事的方法来教导它们“价值校准”,让机器人读故事来学习事件可以接受的后果,并理解要在人类社会中获得成功应当怎样表现。

  机器人是否会有不道德的行为或者是选择伤害人类呢?人工智能(AI)的快速发展步伐提升了我们的这种担忧。一些人呼吁禁止机器人技术的研究;其他人则呼吁更多地研究理解怎样对人工智能进行限制。 但是如果没有成为人类的“用户说明书”, 机器人又怎样来学习伦理行为呢?

  美国佐治亚理工学院、交互计算分院的研究人员Mark Riedl 和 Brent Harrison 认为,答案在于“堂吉诃德”系统— — 在亚利桑那州凤凰城 (2016 年2 月 12-17日) 的AAAI(美国人工智能学会)第16次会议上公布。“堂吉诃德”系统通过训练机器人阅读故事的方法来教导它们“价值校准”,让机器人读故事来学习事件可以接受的后果,并理解要在人类社会中获得成功应当怎样表现。

  “不同文化背景里的故事集,用寓言、 小说和其他文学形式的正确和不正确行为示例,来教导孩子做出社会认可的举止行为。” Riedl说,他是副教授和娱乐智能实验室主任。“我们认为机器人对故事的理解可以让它们减少精神病患者出现的行为,并且强化它们“不要伤人”的选择,同时达到期望的任务目标。

  配图说明:研究学者Mark Riedl 和 Brent Harrison 的“堂吉诃德”系统教导机器人在与人互动时候表现为正派角色,并且这是把伦理价值观系统构建进入到新型人工智能的巨大努力的一部分。版权:佐治亚理工学院

  “堂吉诃德”系统是一种通过对社交中恰当行为给予奖励,使得人工智能的目标与人类价值观一致的一种校准方法。它是建立在Riedl教授之前的一个研究——“天方夜谭”系统,的基础上的。“天方夜谭”系统展示了人工智能如何通过在互联网上面的众包模式故事情节,来汇集得出正确的行动后果。

1  2  下一页>  
声明: 本文由入驻OFweek公众平台的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

我来说两句

(共0条评论,0人参与)

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

OFweek品牌展厅

365天全天候线上展厅

我要展示 >
  • 机器人
  • 机器视觉
  • 伺服
  • 猎头职位
更多
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号