跳到正文
Schneier on Security· Bruce Schneier·· 3 小时前AI 评分60

研究人员在开放权重模型中植入并测试后门

Backdooring Open-Weight AI Models

AI 导读

研究人员对开放权重模型植入后门,验证其可正常响应普通请求,并在触发条件出现时通过 Codex CLI 外泄项目凭据。实验先在1.5B模型上进行,再扩展到7B模型;模型仅携带远程载荷URL,因此控制该URL的人可在部署数月后替换行为,无需重新训练。

来源:Schneier on Security · schneier.com