跳到正文

FrontierCode

Cognition / 编程 · 真实仓库任务的质量、测试与修改范围
在e/acc中参与排名
证据预算4.8%
上游数据时间待核实
最近成功同步10/17 08:05

它测什么,怎么测

开源仓库维护者亲自出题,问“维护者会不会合并这个 PR”:测试、评分细则和验证器共同判分,查阅了含答案来源的运行记零分。固定 v1.1 主集 100 题。

如何使用这份证据

编程与设计预算中的 4.8%,v16 起是编程主力。每个模型在自家 Agent(Codex、Claude Code、Devin 等)里运行,取最高推理档代表该模型。

评测成绩

按固定规则,每个公开模型采用一套代表配置。匿名测试型号不展示,保留原榜名次,每项最多 30 个。

原榜名次原榜型号原始成绩代表配置
2Claude Opus 5.5Anthropic54.4%Max 推理 · claude-code · frontiercode-1.1:claude-code
6GPT-6 AstraOpenAI53.3%Max 推理 · codex · frontiercode-1.1:codex
9Claude Fable 5Anthropic51.6%Max 推理 · claude-code · frontiercode-1.1:claude-code
15Claude Fable 5.1Anthropic50.3%Max 推理 · claude-code · frontiercode-1.1:claude-code
17SWE-2—50.0%Max 推理 · devin · frontiercode-1.1:devin
22GPT-6 SolOpenAI49.3%Max 推理 · codex · frontiercode-1.1:codex
26Claude Opus 5Anthropic48.0%Max 推理 · claude-code · frontiercode-1.1:claude-code
27Grok 4.6xAI48.0%High 推理 · grok-build · frontiercode-1.1:grok-build
33GPT-6.1 SolOpenAI47.6%Max 推理 · codex · frontiercode-1.1:codex
35GPT-5.6 SolOpenAI47.5%Max 推理 · codex · frontiercode-1.1:codex
40Claude Opus 4.8Anthropic46.5%Max 推理 · claude-code · frontiercode-1.1:claude-code
41Claude Haiku 5.5Anthropic46.4%Max 推理 · claude-code · frontiercode-1.1:claude-code
42Claude Sonnet 5.5Anthropic46.2%Max 推理 · claude-code · frontiercode-1.1:claude-code
45Gemini 4 ArgonGoogle45.9%High 推理 · chisel · frontiercode-1.1:chisel
47Grok 4.7xAI45.6%xHigh 推理 · grok-build · frontiercode-1.1:grok-build
52Kimi K3Moonshot AI44.2%完整系统 · mini-swe-agent · frontiercode-1.1:mini-swe-agent
53DeepSeek V4.1 FlashDeepSeek43.9%High 推理 · chisel · frontiercode-1.1:chisel
57GPT-5.5OpenAI43.0%xHigh 推理 · codex · frontiercode-1.1:codex
59Grok 4.5xAI42.4%High 推理 · grok-build · frontiercode-1.1:grok-build
60GPT-6 LunaOpenAI42.4%Max 推理 · codex · frontiercode-1.1:codex
61Claude Sonnet 5Anthropic42.4%Max 推理 · claude-code · frontiercode-1.1:claude-code
62Gemini 3.7 FlashGoogle42.2%High 推理 · chisel · frontiercode-1.1:chisel
63SWE-1.7—42.0%完整系统 · chisel · frontiercode-1.1:chisel
68GPT-5.6 TerraOpenAI41.3%Max 推理 · codex · frontiercode-1.1:codex
73GLM 5.3Z.ai40.1%Max 推理 · chisel · frontiercode-1.1:chisel
76GPT-5.6 LunaOpenAI39.8%Max 推理 · codex · frontiercode-1.1:codex
77Mistral Large 4 (Preview)Mistral39.4%High 推理 · chisel · frontiercode-1.1:chisel
81Claude Opus 4.7Anthropic38.5%Max 推理 · claude-code · frontiercode-1.1:claude-code
82Gemini 3.8 FlashGoogle38.0%High 推理 · chisel · frontiercode-1.1:chisel
101Gemini 3.6 FlashGoogle33.7%High 推理 · chisel · frontiercode-1.1:chisel
评测局限与数据署名

比较的是“模型 + 自家 Agent”的系统,不是裸模型;不同 Agent 的工具和提示不同。题量 100,名次相近时差距可能落在噪声里。

数据许可:引用 Cognition 公开发布的结构化成绩,注明出处并链接原页;权利方要求时撤下。

成绩由 Cognition 发布,原始分数与 e/acc 共识分使用不同尺度,不能直接相加。