我们亟需实时监控 AI 智能体的行动

发生了什么

Madhulika Srikumar 和 Claire Leibowicz 认为，对 AI 智能体进行实时监督，需要可观测性记录，而当前框架无法可靠地生成这类记录。她们对四种广泛使用的智能体框架进行研究后发现，这些框架在持久化智能体身份和记录人工审批方面存在缺口。她们呼吁采集涵盖人工干预以及权限和记忆变更的遥测数据，同时强调一些问题仍未解决：思维链是否反映了实际决策过程，以及智能体的置信度能否得到可靠测量。

接下来读什么

• 今日还有哪些重要变化Google DeepMind 发布 Gemini 4 Carbon，具备网络安全和长时程能力

这件事到目前为止

Madhulika Srikumar 和 Claire Leibowicz 认为，AI 智能体需要更完善的行动记录，以支持实时监督。她们对四种广泛使用的智能体框架进行研究后发现，这些框架在持久化智能体身份和记录人工审批方面存在不足。 她们呼吁开发者和部署者记录人工干预以及对智能体权限和记忆的更改，以便监督者追踪发生了什么。她们还强调，关于如何解读智能体行为，仍有未解的问题：思维链是否反映了智能体实际的决策过程，以及能否可靠地衡量其置信度。