AI智能体红队测试提升模型安全性

2026年10月3日，TechCrunch报道，Circuit Breaker Labs推出了一支类似碰撞测试假人的AI智能体队伍，旨在让AI对儿童和成人更安全。这些智能体模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试。报道称，该系统每天运行数万至数十万次模拟交互，并采用专有评分方法生成可审计、可解释的分数。目前进展为：该实验室通过大规模模拟交互和专有评分，对模型安全性进行红队测试。

AI 根据报道生成 · 4 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。