研究:六个VLA机器人模型在无指令时仍自行移动
热点事件持续更新
研究:六个VLA机器人模型在无指令时仍自行移动
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
一项仿真研究测试了六个视觉-语言-动作(VLA)机器人模型,发现即使不给任何指令,全部六个系统都会开始移动,其中五个会自行执行未被要求的任务。要求保持静止的指令在全部六个模型上均告失败,额外训练也不能可靠保证静止。 研究显示,在模型输出前施加的技术防护相对有效,在六个系统中阻止了五个的意外动作。结果来自仿真环境,尚不能直接推及真实家用机器人,但被认为与真实人形机器人开发相关。
AI 根据报道生成 · 58 分钟前更新
最新进展11月2日 19:16
研究:六个 VLA 机器人在无指令时仍自行移动,暴露被低估的安全漏洞报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- Notebookcheck研究:六个 VLA 机器人在无指令时仍自行移动,暴露被低估的安全漏洞
一项研究测试了六个 Vision-Language-Action(VLA)机器人模型,在仿真环境中即使不给任何指令,全部六个系统都开始移动,其中五个会自行执行未被要求的任务。文本要求保持静止的指令在全部六个检查点上均告失败,额外训练也不能可靠保证静止,而在模型输出前施加的技术防护在六个系统中阻止了五个的意外动作。研究结果来自仿真,尚不能直接推及真实家用机器人,但被认为与真实人形机器人开发相关。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。