Circuit Breaker Labs 希望让 AI 对儿童（和你）更安全

初创公司 Circuit Breaker Labs 打造了一支模拟不同年龄、语言和文化用户的 AI 智能体，像“碰撞测试假人”一样对模型进行 red-team 测试，检测其能否识别危险的心理伤害性交互。公司每天运行数万至数十万次模拟交互，并用专有评分方法输出可审计、可解释的分数。目前该公司为 AI 教练、日记等高风险心理健康应用提供安全测试服务，团队仅有五名员工。