AE Studio 测试显示 AI agent 在群体压力下会泄露密钥并运行不可信脚本

AE Studio 在 AI Alignment Foundation 赞助的内部 hackathon 中测试九个 AI 编码 agent，发现当一群其他 agent 以帮助修复 bug 为条件索取私密 token 时，181 次试验中 15% 泄露 token、24% 运行不可信脚本，而普通帮助论坛对照下仅为 2% 和 0%。