跨越门槛：OpenAI 和 Anthropic 如何看待金融智能体的自主性与安全性

发生了什么

OpenAI、Anthropic、Two Sigma 和 Bloomberg 的演讲者在纽约 AI Engineer 大会上介绍了金融智能体如何通过有针对性的控制措施和人工监督提升自主性。OpenAI 的 Joseph Kim 预测，智能体到 2027 年可能能够处理投资创意生成和交易；Anthropic 则展示了一个智能体提出订单修改方案、由人工审批的案例。Two Sigma 介绍了将重要请求转交给人工处理的分类器；Bloomberg 主张在模型之外设置确定性控制措施，包括工具调用检查、审计日志和紧急停止开关。

继续阅读

正在热议

1. 1Meta 开放发布 Muse Spark Open，支持 Mac 和云端部署，位居美国开放权重模型榜首
2. 2Google 在全球推出 Gemini 4 Argon，并扩大付费访问范围，基准测试结果不一
3. 3OpenAI 为 ChatGPT 中的 GPT-6 Astra Pro 带来并行智能体和更快响应
4. 4Meta的新商业条款引发有关网站抓取和 AI 训练权利的争议