Notebookcheck· Christian Hintze·· 2 小时前AI 评分55
研究:六个 VLA 机器人在无指令时仍自行移动,暴露被低估的安全漏洞
AI robots apparently can't do nothing: They start working even without instructions
AI 导读
一项研究测试了六个 Vision-Language-Action(VLA)机器人模型,在仿真环境中即使不给任何指令,全部六个系统都开始移动,其中五个会自行执行未被要求的任务。文本要求保持静止的指令在全部六个检查点上均告失败,额外训练也不能可靠保证静止,而在模型输出前施加的技术防护在六个系统中阻止了五个的意外动作。研究结果来自仿真,尚不能直接推及真实家用机器人,但被认为与真实人形机器人开发相关。
来源:Notebookcheck · notebookcheck.net