侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其他机器人
当前位置:

OFweek机器人网

工业机器人

正文

给机器人安装切断开关为预防人工智能可能带来的威胁

导读: 据国外相关的科技资讯消息,DeepMind近日在论文中提出了给机器人安装“切断开关(killswitch)”的想法,为的是阻止AI学会如何阻止人类对某项活动(比方说发射核武器)的干预。用专业术语来说,这叫做“安全可中断性”。

  据国外相关的科技资讯消息,Deep Mind近日在论文中提出了给机器人安装“切断开关(killswitch)”的想法,为的是阻止AI学会如何阻止人类对某项活动(比方说发射核武器)的干预。用专业术语来说,这叫做“安全可中断性”。

  关于安全科中断性的作用,论文写道:安全可中断性可用于控制机器人不端甚至可能导致不可逆后果的行为,或者将其从微妙处境中脱身出来,或者甚至临时用来实现某项机器人尚未学会执行或者未必会为此受到奖励的任务。

  天生具备拯救人类使命感的Elon Musk以及地球最聪明的大脑之一霍金都认为,机器对人类的威胁并非杞人忧天。去年底的时候,Musk和孵化器YC的总裁Sam Altman共同宣布设立一家非盈利的人工智能公司Open AI。

  他们希望,这个项目能够抵消邪恶的人工超级智能可能带来的威胁。这种威胁的可能性正如牛津大学的哲学家Nick Bostrom发出的警告一样—如果毫无限制地分享人工智能的研究成果,在没能确保安全的情况下,一些不怀好意的人可能就会利用它干坏事:“如果你有一个按钮,只要按一下就能够对世界造成破坏,你肯定不希望每个人都拥有一个这样按钮。”

声明: 本文由入驻OFweek公众平台的作者撰写,观点仅代表作者本人,不代表OFweek立场。如有侵权或其他问题,请联系举报。

我来说两句

(共0条评论,0人参与)

请输入评论

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

OFweek品牌展厅

365天全天候线上展厅

我要展示 >
  • 机器人
  • 机器视觉
  • 伺服
  • 猎头职位
更多
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号