Circuit Breaker Labs用仿真用户开展AI安全红队测试

Circuit Breaker Labs以模拟不同年龄、背景、语言和文化用户的AI代理，对模型进行红队测试，排查危险及心理伤害互动。其专有评分方法可生成可审计、可解释的分数，每日运行数万至数十万次模拟交互。该初创公司目前聚焦AI教练、日记和心理健康支持等高风险应用，团队仅有5人。