谷歌起草首部机器人宪法,保障人类安全
安全问题,一直是机器人的核心与焦点命题。
近日,谷歌DeepMind团队发布了三项重要进展:自动化机器人训练系统AutoRT、机器人速度优化系统SARA-RT和机器人泛化系统RT-Trajectory,这三项新系统分别从数据采集、决策速度和泛化能力等方面,帮助提升现实世界中机器人的智能水平。
(1)AutoRT:自动化机器人数据收集系统
AutoRT是一个机器人的数据自动采集系统。它整合了大规模的基础模型,如大型语言模型(LLM)、视觉语言模型(VLM)和机器人控制模型(RT-1、RT-2),通过这一系统,机器人可以部署到全新环境中,并采集各类训练数据。
它可以同时控制多台装备摄像头和机械臂的机器人,使其在不同环境中完成各种任务,收集数据。
研究人员花费7个月时间,利用AutoRT系统控制机器人在办公室内完成任务,已经收集了涵盖77000次试验和6650个独特任务的多样化数据,同时控制最多可达52台机器人。
AutoRT的优势在于,借助大规模基础模型的力量,可以显著提升机器人对人类语言指令的理解能力,并通过收集更丰富的数据,来训练机器人适应实际复杂环境。
(2)SARA-RT:加速机器人决策速度
SARA-RT优化了著名的Transformer模型在机器人领域的应用,使得机器人可以做出更快速的决策。
之前基于Transformer的机器人控制模型RT-2,其决策速度受到计算需求的制约,SARA-RT通过一种新的微调方法,将Transformer的二次复杂度降低到线性复杂度,大幅减少了计算量,使机器人的决策速度提高14%,同时准确率还提高10%。
这种可扩展的注意力机制,为将Transformer应用到更大规模的机器人中提供了可能。结合数十亿参数量的大型机器人模型,SARA-RT可以实现更快决策和更好性能。
(3)RT-Trajectory:提高机器人动作泛化能力
RT-Trajectory则在提高机器人泛化能力上有重要进展。对人类来说,擦桌子等动作简单直观,但机器人需要把抽象指令转化为具体运动。
RT-Trajectory通过解释机器人的具体动作,来帮助其深入理解如何完成一个任务,而不仅是简单匹配指令和动作。它会自动为训练视频中的机器人运动添加2D轮廓,作为视觉提示,辅助模型学习。
测试结果表明,在未见训练数据的41项新任务中,RT-Trajectory控制的机械臂任务成功率达到63%,较先进的RT-2模型提高一倍以上。这表明机器人的泛化能力得到显著提升。
起草首部机器人宪法,机器人也有价值底线
在推出一系列重要系统进展的同时,谷歌DeepMind团队还起草了世界上第一部面向智能机器人的宪法。
这部机器人宪法的灵感来源于科幻小说家阿西莫夫的“机器人三定律”,主要核心是确保机器人不伤害人类。DeepMind将这一机器人宪法集成到AutoRT系统中,成为保障人类安全的关键组成部分。
具体来看,机器人宪法为LLM模型设置了护栏,确保其生成的任务建议不涉及人类、动物、尖锐物品等不安全内容,同时编程限制了机器人关节的力,并添加了人类控制的物理开关。
这无疑是科技发展史上的一个里程碑事件
之前围绕着AI伦理的讨论多集中在算法本身是否存在偏见等问题上,很少涉及AI尤其是具有物理形态的智能机器人应该遵循哪些道德规范。
首部机器人宪法体现了技术应该为人类服务的理念,而非单纯追求功能、效率,同时它也为未来机器人大规模应用时如何规避风险,保障人类安全和权益提供了宝贵借鉴。
当然,作为第一步的尝试,这部机器人宪法还较为简单和原则,如何使其拥有更严密的逻辑体系,覆盖机器人可能的各种情形和伦理难题,还需要广泛讨论和不断完善。但第一步已经迈出,其影响力绝不会限于技术层面,也将推动人类思考我们应该如何与智能机器人共处。
人类文明进步史,是一个不断学习、探索、犯错、修正的过程,当我们站在技术发展的新阶段,应当以积极、审慎的态度继续探索新可能。人与机器人的未来如何,你怎么看?
图片新闻
最新活动更多
-
【云逛展】立即查看>> 泰科电子线上工博会,沉浸式VR观展体验
-
10月15-16日火热报名>> 2024视觉感知技术在半导体与印刷包装创新大会
-
即日-12.26火热报名中>> OFweek2024中国智造CIO在线峰会
-
限时免费下载立即下载 >>> 2024“机器人+”行业应用创新发展蓝皮书
-
即日-2025.8.1立即下载>> 《2024智能制造产业高端化、智能化、绿色化发展蓝皮书》
-
精彩回顾立即查看>> 【有奖试用】爱德克IDEC-九大王牌安全产品
推荐专题
发表评论
请输入评论内容...
请输入评论/评论长度6~500个字
暂无评论
暂无评论