Circuit Breaker Labs用仿真用户开展AI安全红队测试
Circuit Breaker Labs以模拟不同年龄、背景、语言和文化用户的AI代理，对模型进行红队测试，排查危险及心理伤害互动。其专有评分方法可生成可审计、可解释的分数，每日运行数万至数十万次模拟交互。该初创公司目前聚焦AI教练、日记和心理健康支持等高风险应用，团队仅有5人。
#安全
#安全
今日 1 条TechCrunchAI 评分4747
开源中国资讯AI 评分5252 开源 Zentrola：团队如何管理 Codex、Claude Code 的 API Key 与模型权限
作者开源了 Zentrola，用于探索团队管理 Codex 和 Claude Code 配置与权限的方法。材料提出 API Key 分发、模型权限、离职撤权及上游故障通知等问题，但未提供具体功能与实现细节。
Simon WillisonAI 评分3838 Photo Scrubber：本地人脸模糊与元数据移除实验工具
Photo Scrubber 可识别照片中的人脸并自动模糊，目标是避免分享陌生人可辨识面孔的图像。工具由 GPT-6 Astra 构建，采用编译为 WebAssembly 的 Google MediaPipe C++ 库和 BlazeFace 人脸检测模型。
Cloudflare Blog精选AI 评分7070 Cloudflare 介绍用 AI 工具 CryptoLabe 推进后量子迁移
Cloudflare 正开发内部工具 CryptoLabe，以两阶段扫描发现代码中的密码学用法、评估迁移分类，并生成面向产品经理和工程师的报告。该工具依托 Workers、Durable Objects、Workflows、AI Gateway 等组件，但仍在演进，尚未提供客户使用；Cloudflare 也强调扫描结果需由相关工程师复核，公开的提示词只是起点。
推荐理由：披露 CryptoLabe 的分阶段扫描、分类、编排与人工复核方法，并说明缺少 ground-truth 数据集和完整覆盖，可供团队设计后量子迁移盘点流程时参考。
Google Research Blog精选AI 评分6666 Google提出结合密码协议与TEE的零信任私人分析方案
Google提出一种面向私人分析的新型安全聚合方案，将单次消息的密码协议与可信执行环境结合，用于在保护原始设备数据的同时获取汇总洞察。Google表示，该方案已用于评估AI系统在Pixel Recorder中的表现，Android SafetyCore也将利用相关指标改进分类器，同时保持用户内容仅留在设备上。
推荐理由：文章说明了零信任聚合如何结合新型密码协议与TEE，并说明其在SafetyCore中的具体评估用途，便于团队理解大设备规模隐私分析与安全设计的取舍。
Mozilla Hacks精选AI 评分6161 Mozilla 将快照模糊测试用于 Firefox 的 IPC 安全测试
Mozilla 宣布已在生产环境运行多种用于 IPC 的快照模糊测试目标，以发现和修复 IPC 层中的潜在问题。该方法源自 2021 年实验原型，后来发展为开源工具 Nyx，旨在解决 IPC 接口依赖完整浏览器且错误使用会触发重启所带来的测试延迟。
推荐理由：文章说明 Mozilla 已将基于快照回滚的 IPC 模糊测试投入生产，介绍其应对浏览器重启延迟与隔离测试困难的技术路径，并披露已发现和修复多项潜在问题，对安全测试实践有参考价值。