阅读
工具
关于
Anthropic 将与 Gray Swan 合作举办提示注入竞赛，Boris Cherny 宣布了这一消息。Gray Swan 此前宣布举办这项挑战赛，奖金为 30 万美元，并获得多家前沿实验室的支持。 Gray Swan 将这项 AI 红队挑战赛命名为“间接提示注入：黑”，并将 Anthropic、Meta、Google DeepMind、Reflection AI 等前沿实验室列为合作伙伴或赞助方。Cherny 表示，过去几年 Anthropic 在 Claude 模型的提示注入防护方面取得了显著进展；他同时指出，随着智能体承担的任务越来越多，整个行业解决这一问题也变得愈发紧迫。
AI 根据报道生成 · 1 天前更新
沿着报道，了解事件的不同侧面。
过去几周里吸引我们关注的六个项目： 一个由 Opus 5.5 制作的野火分析原型，可绘制火势随时间蔓延的情况并追踪热点区域。
过去几年里，我们在 Claude 模型的提示注入问题上取得了显著进展。随着智能体承担的任务越来越多，整个行业亟须解决这一问题。 非常期待与 Gray Swan 合作举办这场竞赛。迫不及待想看看你们会有哪些发现！ @GraySwanAI 宣布推出名为“间接提示注入：黑”的 AI 红队挑战赛，奖金总额为 300,000 美元。该挑战赛由 Anthropic、Meta、Google DeepMind、Reflection AI 及其他前沿实验室赞助商共同合作举办。Cherny 表示，Anthropic 在 Claude 模型的提示注入问题上取得了显著进展，而整个行业亟须解决这一问题。
Boris Cherny表示，Anthropic正与Gray Swan合作举办提示注入竞赛。Gray Swan宣布，这项竞赛奖金为300,000美元，并有多家前沿实验室赞助商。 Cherny表示，过去几年Claude模型在应对提示注入方面取得了显著进展。随着智能体承担的任务越来越多，整个行业亟需解决这一问题。 https://twitter.com/grayswanai/status/2110746350983737460
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。
