Goodfire推出低成本AI智能体内部监控器

Goodfire 发布了一种监控 AI 智能体的新方案：通过探针读取模型内部激活信号，而不是让第二个模型逐字审查输出，该公司称这种方式成本更低。该监控器已在 Baseten 上线，供其客户使用。 Baseten 客户可自行选择监控哪些风险，包括攻击性黑客行为、化学与生物武器滥用以及奖励黑客；也可决定自动响应方式：记录事件、提交人工审核，或直接拒绝该请求。

AI 根据报道生成 · 56 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。