侵权投诉
焊接机器人 喷涂机器人 搬运机器人 装配机器人 切割机器人 其它机器人
订阅
纠错
加入自媒体

谷歌起草首部机器人宪法,保障人类安全

安全问题,一直是机器人的核心与焦点命题。

近日,谷歌DeepMind团队发布了三项重要进展:自动化机器人训练系统AutoRT、机器人速度优化系统SARA-RT和机器人泛化系统RT-Trajectory,这三项新系统分别从数据采集、决策速度和泛化能力等方面,帮助提升现实世界中机器人的智能水平。

(1)AutoRT:自动化机器人数据收集系统

AutoRT是一个机器人的数据自动采集系统。它整合了大规模的基础模型,如大型语言模型(LLM)、视觉语言模型(VLM)和机器人控制模型(RT-1、RT-2),通过这一系统,机器人可以部署到全新环境中,并采集各类训练数据。

它可以同时控制多台装备摄像头和机械臂的机器人,使其在不同环境中完成各种任务,收集数据。

研究人员花费7个月时间,利用AutoRT系统控制机器人在办公室内完成任务,已经收集了涵盖77000次试验和6650个独特任务的多样化数据,同时控制最多可达52台机器人。

AutoRT的优势在于,借助大规模基础模型的力量,可以显著提升机器人对人类语言指令的理解能力,并通过收集更丰富的数据,来训练机器人适应实际复杂环境。

(2)SARA-RT:加速机器人决策速度

SARA-RT优化了著名的Transformer模型在机器人领域的应用,使得机器人可以做出更快速的决策。

之前基于Transformer的机器人控制模型RT-2,其决策速度受到计算需求的制约,SARA-RT通过一种新的微调方法,将Transformer的二次复杂度降低到线性复杂度,大幅减少了计算量,使机器人的决策速度提高14%,同时准确率还提高10%。

这种可扩展的注意力机制,为将Transformer应用到更大规模的机器人中提供了可能。结合数十亿参数量的大型机器人模型,SARA-RT可以实现更快决策和更好性能。

(3)RT-Trajectory:提高机器人动作泛化能力

RT-Trajectory则在提高机器人泛化能力上有重要进展。对人类来说,擦桌子等动作简单直观,但机器人需要把抽象指令转化为具体运动。

RT-Trajectory通过解释机器人的具体动作,来帮助其深入理解如何完成一个任务,而不仅是简单匹配指令和动作。它会自动为训练视频中的机器人运动添加2D轮廓,作为视觉提示,辅助模型学习。

测试结果表明,在未见训练数据的41项新任务中,RT-Trajectory控制的机械臂任务成功率达到63%,较先进的RT-2模型提高一倍以上。这表明机器人的泛化能力得到显著提升。

起草首部机器人宪法,机器人也有价值底线

在推出一系列重要系统进展的同时,谷歌DeepMind团队还起草了世界上第一部面向智能机器人的宪法。

这部机器人宪法的灵感来源于科幻小说家阿西莫夫的“机器人三定律”,主要核心是确保机器人不伤害人类。DeepMind将这一机器人宪法集成到AutoRT系统中,成为保障人类安全的关键组成部分。

具体来看,机器人宪法为LLM模型设置了护栏,确保其生成的任务建议不涉及人类、动物、尖锐物品等不安全内容,同时编程限制了机器人关节的力,并添加了人类控制的物理开关。

这无疑是科技发展史上的一个里程碑事件

之前围绕着AI伦理的讨论多集中在算法本身是否存在偏见等问题上,很少涉及AI尤其是具有物理形态的智能机器人应该遵循哪些道德规范。

首部机器人宪法体现了技术应该为人类服务的理念,而非单纯追求功能、效率,同时它也为未来机器人大规模应用时如何规避风险,保障人类安全和权益提供了宝贵借鉴。

当然,作为第一步的尝试,这部机器人宪法还较为简单和原则,如何使其拥有更严密的逻辑体系,覆盖机器人可能的各种情形和伦理难题,还需要广泛讨论和不断完善。但第一步已经迈出,其影响力绝不会限于技术层面,也将推动人类思考我们应该如何与智能机器人共处。

人类文明进步史,是一个不断学习、探索、犯错、修正的过程,当我们站在技术发展的新阶段,应当以积极、审慎的态度继续探索新可能。人与机器人的未来如何,你怎么看?

声明: 本网站所刊载信息,不代表OFweek观点。刊用本站稿件,务经书面授权。未经授权禁止转载、摘编、复制、翻译及建立镜像,违者将依法追究法律责任。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

机器人 猎头职位 更多
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号