AI Model Benchmark

vendor reported
Models
149
Rows
678
Last updated
2026-09-22

AI model benchmark union table

Model filters

149 / 149 model columns

Benchmark filters

678 / 678 benchmark rows

Benchmark
Canonical namevariant · original source
OpenAI
Anthropic
Google
xAI
Meta
DeepSeek
Z.ai
Moonshot AI
MiniMax
Qwen
6 Sol
2026-09-22
6 Luna
2026-09-22
6 Astra
2026-09-03
5.6 Sol
2026-07-09
5.6 Terra
2026-07-09
5.6 Luna
2026-07-09
5.5 Pro
2026-04-23
5.5
2026-04-23
5.4 nano
2026-03-17
5.4 mini
2026-03-17
5.4 Pro
2026-03-05
5.4
2026-03-05
5.3 Spark
2026-02-12
5.3 Codex
2026-02-05
5.2 Codex
2025-12-18
5.2 Pro
2025-12-11
5.2 Think
2025-12-11
5.1 C-Max
2025-11-19
5.1 Codex
2025-11-13
5.1 Think
2025-11-12
5 Codex
2025-09-15
5 Pro
2025-08-07
5 nano
2025-08-07
5 mini
2025-08-07
5
2025-08-07
codex-1
2025-05-16
o4-mini
2025-04-16
o3
2025-04-16
4.1 nano
2025-04-14
4.1 mini
2025-04-14
4.1
2025-04-14
4.5
2025-02-27
o3-mini
2025-01-31
o1
2024-12-05
o1-mini
2024-09-12
o1-preview
2024-09-12
4o mini
2024-07-18
4o
2024-05-13
4 Turbo
2023-11-06
4
2023-03-14
3.5
2022-11-30
Instruct 175B
2022-01-27
Codex 12B
2021-07-07
GPT-3
2020-05-28
GPT-2
2019-11-05
GPT
2018-06-11
Opus 5.5
2026-09-22
Fable 5.1
2026-09-01
Mythos 5.1
2026-09-01
Opus 5
2026-07-24
Sonnet 5
2026-06-30
Mythos 5
2026-06-09
Fable 5
2026-06-09
Opus 4.8
2026-05-28
Opus 4.7
2026-04-16
Mythos Prev.
2026-04-07
Sonnet 4.6
2026-02-17
Opus 4.6
2026-02-05
Opus 4.5
2025-11-24
Haiku 4.5
2025-10-15
Sonnet 4.5
2025-09-29
Opus 4.1
2025-08-05
Opus 4
2025-05-22
Sonnet 4
2025-05-22
Sonnet 3.7
2025-02-24
Haiku 3.5
2024-10-22
Sonnet 3.5 v2
2024-10-22
Sonnet 3.5
2024-06-20
Haiku 3
2024-03-13
Opus 3
2024-03-04
Sonnet 3
2024-03-04
Claude 2.1
2023-11-21
Instant 1.2
2023-08-09
Claude 2
2023-07-11
Claude 1.3
2023-05-11
Instant 1.1
2023-05-11
3.8 Flash
2026-09-02
3.7 Flash
2026-08-13
3.6 Flash
2026-07-21
3.5 Flash
2026-05-19
3.1 Pro
2026-02-19
3.1 Deep Think
2026-02-12
3 Flash
2025-12-17
3 Deep Think
2025-12-04
3 Pro
2025-11-18
2.5 Deep Think
2025-08-01
2.5 Pro
2025-06-17
2.0 Flash
2025-02-05
1.5 Pro 002
2024-09-24
1.0 Ultra
2023-12-06
Grok 4.7
2026-09-21
Grok 4.6
2026-08-12
Grok 4.5
2026-07-16
4.1 Fast
2025-11-19
4.1 Think
2025-11-17
Grok 4.1
2025-11-17
4 Fast
2025-09-19
4 Heavy
2025-07-09
Grok 4
2025-07-09
3 Think
2025-02-19
Grok 3
2025-02-19
Grok-2
2024-08-13
Grok-1.5V
2024-04-12
Grok-1.5
2024-03-28
Grok-1
2023-11-03
Spark 1.3
2026-09-02
Spark 1.2
2026-08-05
Spark 1.1
2026-07-09
Spark Contemp.
2026-04-08
Spark 1.0
2026-04-08
4 Maverick
2025-04-05
4 Scout
2025-04-05
3.3 70B
2024-12-06
3.2 90B V
2024-09-25
3.1 405B
2024-07-23
3 70B
2024-04-18
2 70B
2023-07-18
1 65B
2023-02-24
V4 Flash Vision
2026-08-21
V4 Pro GA
2026-08-13
V4 Flash GA
2026-07-31
V4 Pro
2026-04-24
V4 Flash
2026-04-24
V3.2 Think
2025-12-01
V3.2 Speciale
2025-12-01
V3.2 Exp
2025-09-29
5.3 Flash
2026-08-26
GLM-5.3
2026-08-14
GLM-5.2
2026-06-16
GLM-5.1
2026-04-07
GLM-5
2026-02-12
GLM-4.7
2025-12-22
Kimi K3
2026-07-16
K2.7 Code
2026-06-11
K2.6
2026-04-14
K2.5
2026-01-30
K2 Thinking
2025-11-04
K2 0905
2025-09-03
K2 0711
2025-07-11
M3
2026-06-01
M2.7
2026-03-18
M2.5
2026-02-12
M2.1
2025-12-23
M2
2025-10-22
3.8 Flash Next
2026-08-26
3.8 27B
2026-08-14
3.8 Max
2026-08-12
3.6 27B
2026-04-24
3.6 35B A3B
2026-04-24
Official AI model benchmark results by model and benchmark
Professional work 50

(release-page harness · version not disclosed)

——————————————————————————————————————————————————————64.4%adaptive · high—————55.3%effort n/d————————————————————————————————————————————————————————————————————————————————————————

(v1.1)

———————60%xhigh——61.5%xhigh56%xhigh—54%xhigh——59.5%xhigh————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

(v2)

————————————————————————————————————————————————————56.31%adaptive · max53.9%adaptive · max51.5%adaptive · max—————————————————————61.4%effort n/d59%effort n/d—57.9%effort n/d43%effort n/d—42.6%effort n/d————————————————————————57.2%adaptive · xhigh————————————————————————54.4%adaptive · max————————————————
GDPvalpublic1

(ties allowed · wins or ties)

——————82.3%xhigh84.9%xhigh——82%xhigh83%xhigh—70.9%xhigh—74.1%xhigh70.9%xhigh————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
GDPvalpublic1

(ties allowed · clear wins)

———————————————60%xhigh49.8%xhigh————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
GDPvalpublic1

(no ties)

———————————————67.6%xhigh61%xhigh————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
GDPval-AApublic4

(Artificial Analysis Elo)

————————————————————————————————————————————————————1,932effort n/d1,890adaptive · max1,753adaptive · max—1,633adaptive · max——————————————————————1,656effort n/d1,314adaptive · high—1,204effort n/d—1,195adaptive · high————————————————————————1,444effort n/d——————————————————————————————1,495effort n/d————————
Investment Banking Modeling Tasksinternal1

(Internal)

——————88.6%xhigh88.5%xhigh——83.6%xhigh87.3%xhigh—79.3%xhigh—71.7%xhigh68.4%xhigh——59.1%xhigh—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
OfficeQApartial2

(Full)

———————————68.1%xhigh—65.1%xhigh——63.1%xhigh—————————————————————————————78.9%adaptive · max80.2%effort n/d—78.1%effort n/d—79%effort n/d——86.3%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————
OfficeQApartial5

(Pro)

———————54.1%xhigh———53.2%xhigh——————————————————————————————————67.7%adaptive · max69%effort n/d—66.9%effort n/d—67.1%effort n/d57.9%effort n/d—80.6%adaptive · max————————————————————————————————————63.2%adaptive · high——————————————————————————————————62.4%adaptive · max—————63.3%adaptive · max————————————————

(score · full/overall)

56.4%max50.9%max59.3%best effort*53.6%xhigh50.4%max50.3%max—46.9%xhigh————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————51.2%effort n/d42.9%effort n/d52.4%effort n/d——
———1,747.8effort n/d1,593effort n/d1,591.8effort n/d—1,493.7effort n/d———————————————————————————————————————1,853adaptive · max1,853shared · adaptive · max1,824adaptive · max1,618adaptive · max—1,723adaptive · max———————————————————————1,545effort n/d1,482effort n/d1,422effort n/d1,349effort n/d965effort n/d——————————1,753adaptive · high1,526adaptive · high————————————1,754adaptive · max1,631adaptive · xhigh1,381adaptive · xhigh—————————————1,554adaptive · max1,395adaptive · max———1,773adaptive · max1,769adaptive · max————1,686adaptive · max————————————————
Management Consulting Tasksinternal1

(Internal)

———43.2%effort n/d37.2%effort n/d35.4%effort n/d—31.3%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Big Finance Benchinternal1
———53%effort n/d51%effort n/d36%effort n/d—49%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
———58.9max55effort n/d51.2effort n/d—54.8effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
——61.2best effort*60.9best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
AA-Briefcasepartial3
———————————————————————————————————————————————1,694adaptive · max1,694shared · adaptive · max1,685adaptive · max——1,572effort n/d——————————————————————————————————————1,577adaptive · high1,313adaptive · high———————————————————————————————————————1,548adaptive · max————————————————

(Full Public Set)

———————————————————————————————————————————————19.1%adaptive · max——8.9%adaptive · max16.9%adaptive · max————————————————————————10%effort n/d8.8%effort n/d———————————————————————————————————————————————————————————————————————

(Harvey's Held-Out Set)

——————————————————————————————————————————————8.3%adaptive · max16.7%adaptive · xhigh——5.8%adaptive · max—13.3%effort n/d————————————————————————————————————————————————————————————————————————————————————————————————
————————————————————————————————————————————————————————————————————————————————33.5%adaptive · high———18.4%adaptive · high——————57.5%adaptive · high47.1%adaptive · high———————————————————————————————————————41%adaptive · max—27.9%effort n/d——————————————

(August 2026 snapshot)

—————————————————————————————————————————————————————————————————————————————56effort n/d52effort n/d————————————61adaptive · high56adaptive · high————————————————————————————————————————————————————————

(Artificial Analysis leaderboard)

——————————————————————————————————————————————91.2%adaptive · max93.3%adaptive · xhigh—————————————————————————————90.7%effort n/d85.1%effort n/d————————————15.8%adaptive · high12.9%adaptive · high———————————————————————————————————————94.6%adaptive · max————————————————

(November 2025 · Elo)

——————————————————————————————————————————————————————————————————————————————————————————————1,483effort n/d1,465no thinking · effort n/d—————————————————————————————————————————————————————

(February 2025 · Elo)

————————————————————————————————————————————————————————————————————————————————————————————————————1,402no thinking · effort n/d————————————————————————————————————————————————
Agentic IF Indexinternal1

(Meta internal composite)

—————————————————————————————————————————————————————————————————————————————————————————————————————————57.8adaptive · max46.2adaptive · xhigh——————————————————————————————————————————
ResearchRubricspartial1
————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————76.2%adaptive · max————————————————
JobBenchpartial3
—————————————————————————————————————————————————————————————————————————————————————————————————————————64.9%adaptive · max61.6%adaptive · xhigh54.7%adaptive · xhigh————————————————————————54.3%adaptive · max———————————55.7%effort n/d33.4%effort n/d53.4%effort n/d——
SpreadsheetBench 2partial1
————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————34.8%adaptive · max————————————————
CorpFin v2partial1
————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————71.6%adaptive · max————————————————
Legal Research Benchpartial1
————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————44.2%adaptive · max————————————————
CoWorkBenchpartial1
————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————73.9%effort n/d70.7%effort n/d74.8%effort n/d——
WorkSpaceBenchpartial1
——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————67.7%effort n/d——

(v1.1 · 87 tasks · average of 3)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————70.2%effort n/d——

(pass rate · full/overall)

—————————————————————————————————————————————————————————————————————————————26.3%effort n/d24.2%effort n/d———————————————————————————————————————27.3%adaptive · max25.7%adaptive · max25.2%adaptive · max16.5%adaptive · max15.8%adaptive · max———26.3%adaptive · max28.5%adaptive · max————28.3%adaptive · max———————————24.3%effort n/d20.4%effort n/d27%effort n/d——
$OneMillion-Benchpartial1

(expert score)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————52.5effort n/d——
PLawBenchpartial1
——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————73.2%effort n/d——
PRBench-Legalpartial1
——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————57.6%effort n/d——
PRBench-Financepartial1
——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————58.3%effort n/d——
MEWCinternal1

(179 Excel competition problems · 2021–2026)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————74.4%effort n/d———————
GDPval-MMinternal1

(pairwise average win rate)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————59%effort n/d———————
Finance Modelinginternal1

(expert rubrics · average of 3)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————21.6%effort n/d———————
Kimi Claw 24/7 Benchinternal1

(17 scenarios · 610 evaluation points · averaged over 3 runs)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————46.9%effort n/d42.9%effort n/d——————————————
Claw Evalinternal1

(v1.1 · pass^3)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————62.3%effort n/d——————————————
Claw Evalinternal1

(v1.1 · pass@3)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————80.9%effort n/d——————————————
SkillsBenchpartial1

(self-contained 78-task subset · OpenCode · avg@5)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————48.2%effort n/d28.7%effort n/d
MM Clawinternal1

(OpenClaw-derived task set · end-to-end accuracy)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————62.7%effort n/d————————
AA-Briefcasepartial2

(v1.1 · September 2026 snapshot)

——————————————————————————————————————————————1,822adaptive · max1,678adaptive · max—1,673adaptive · max————————————————————————————————————————1,657xhigh——————————————————————————————————————————————————————————
GDPvalpartial1

(September 2026 snapshot · Elo · version not stated)

——————————————————————————————————————————————————————————————————————————————————————————1,695xhigh——————————————————————————————————————————————————————————

(September 2026 launch · split not stated)

——————————————————————————————————————————————————————————————————————————————————————————19.6%xhigh——————————————————————————————————————————————————————————
——————————————————————————————————————————————1,846adaptive · max1,735adaptive · max—1,708adaptive · max———————————————————————————————————————————————————————————————————————————————————————————————————
Coding 96
Codeforcespartial2

(simulated contestant Elo)

————————————————————————————————2,036medium1,673effort n/d1,650effort n/d1,258effort n/d—808effort n/d—————————————————————————————————————————————————————————————————————————————————————2,386effort n/d2,701effort n/d————————————————————————
HumanEvalpublic5

(0-shot · pass@1)

——————————————————————————99.3%high88.4%high————97.6%effort n/d—92.4%effort n/d92.4%effort n/d87.2%effort n/d91%effort n/d88.2%effort n/d67%effort n/d48.1%effort n/d—28.8%effort n/d——————————————————————88.1%effort n/d93.7%effort n/d—75.9%effort n/d84.9%effort n/d73%effort n/d—58.7%effort n/d71.2%effort n/d56%effort n/d52.8%effort n/d—————————————74.4%no thinking · effort n/d—————————————74.1%no thinking · effort n/d63.2%no thinking · effort n/d———————88.4%no thinking · effort n/d—89%no thinking · effort n/d81.7%no thinking · effort n/d—————————————————————————————————

(full 500 · pass@1)

—————————————————77.9%xhigh73.7%high76.3%high74.5%high——————————38%best effort*—————33.2%effort n/d———————————96%adaptive · max85.2%adaptive · max95.5%adaptive · max95%adaptive · max88.6%adaptive · max87.6%adaptive · max93.9%adaptive · max79.6%adaptive · max80.8%adaptive · max80.9%no thinking · high73.3%adaptive · max77.2%high74.5%high72.5%effort n/d72.7%effort n/d—40.6%effort n/d49%effort n/d33.4%effort n/d7.2%effort n/d22.2%effort n/d——————————80.6%adaptive · high—78%effort n/d—76.2%effort n/d—59.6%effort n/d21.4%no thinking · effort n/d22.3%no thinking · effort n/d————————————————————77.4%effort n/d———————————80.6%adaptive · max79%adaptive · max73.1%effort n/d—67.8%effort n/d————77.8%effort n/d73.8%effort n/d——80.2%effort n/d76.8%no thinking · effort n/d71.3%effort n/d69.2%no thinking · effort n/d65.8%no thinking · effort n/d——80.2%effort n/d74%effort n/d69.4%effort n/d———77.2%effort n/d73.4%effort n/d

(full 500 · parallel test-time compute)

————————————————————————————————————————————————————————————82%adaptive · max—79.4%max80.2%max——————————————————————67.2%effort n/d34.2%no thinking · effort n/d34.2%no thinking · effort n/d————————————————————————————————————————————————————————————

(489-task subset · single attempt)

————————————————————————————————————————————————————————————————63.7%high————————————————————————————————————————————————————————————————————————————————————

(489-task subset · parallel test-time compute)

————————————————————————————————————————————————————————————————70.3%max————————————————————————————————————————————————————————————————————————————————————

(OpenAI 477-task subset)

——————————————————————54.7%high71%high74.9%high72.1%medium68.1%high69.1%high—23.6%high54.6%high——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

(diff editing format)

——————————————————————48.4%high71.6%high88%high—58.2%high79.6%high6.2%high31.6%high52.9%high———————————————————————————————————————————————————————82.2%effort n/d21.3%no thinking · effort n/d16.9%no thinking · effort n/d————————————————————————————————————————————————————————————

(v1 · Claude Code harness)

—————————————————————————————————————————————————————————————43.3%effort n/d43.2%effort n/d35.5%effort n/d———————————————————————————————————————————————————————————————————————————————46.3%effort n/d—————
———————82.7%xhigh46.3%xhigh60%xhigh—75.1%xhigh58.4%effort n/d77.3%xhigh64%xhigh—62.2%xhigh58.1%xhigh52.8%high————38.2%high——————————————————————————————69.4%no thinking · effort n/d82%adaptive · max59.1%no thinking · max65.4%adaptive · max59.3%high41%effort n/d50%effort n/d———————————————————68.5%adaptive · high—47.6%effort n/d—56.9%adaptive · high—32.6%effort n/d——————————————————————59%effort n/d———————————67.9%adaptive · max56.9%adaptive · max46.4%effort n/d—————63.5%effort n/d56.2%effort n/d41%effort n/d——66.7%effort n/d50.8%no thinking · effort n/d————57%effort n/d51.7%effort n/d47.9%effort n/d30%effort n/d———59.3%effort n/d51.5%effort n/d
SWE-Lancerpublic1

(IC Diamond · percent earned)

—————————————81.4%xhigh76%xhigh—74.6%xhigh——69.7%xhigh———————————32.6%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
SWE-Lancerpublic1

(IC SWE)

—————————————————79.9%effort n/d66.3%effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Expert-SWEinternal1

(Internal)

———————73.1%xhigh———68.5%xhigh—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
———80max77.4effort n/d74.6effort n/d—76.4effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
———64.6%effort n/d63.4%effort n/d62.7%effort n/d—58.6%xhigh52.4%xhigh54.4%xhigh—57.7%xhigh—56.8%xhigh56.4%xhigh—55.6%xhigh——50.8%xhigh———45.7%high——————————————————————89.9%adaptive · max81.2%adaptive · max81.2%shared · adaptive · max79.2%adaptive · max63.2%adaptive · max80.3%adaptive · max80%adaptive · max69.2%adaptive · xhigh64.3%adaptive · max77.8%adaptive · max—53.4%adaptive · max52%no thinking · high———————————————————58.7%effort n/d55.1%effort n/d54.2%adaptive · high—49.6%effort n/d—43.3%adaptive · high———————64.7%effort n/d——————————————61.5%adaptive · xhigh—52.4%effort n/d———————————55.4%adaptive · max52.6%adaptive · max—————62.1%adaptive · max58.4%effort n/d————58.6%effort n/d50.7%no thinking · effort n/d———59%effort n/d56.22%effort n/d55.4%effort n/d——62.5%effort n/d61.7%effort n/d67.7%effort n/d53.5%effort n/d49.5%effort n/d
——————————————————————————————————————————————93.9%adaptive · max89.1%adaptive · max89.1%shared · adaptive · max89.5%adaptive · max78.3%adaptive · max92.2%adaptive · max86.6%adaptive · max84.4%adaptive · max80.5%adaptive · max87.3%adaptive · max75.9%adaptive · max77.83%adaptive · max76.2%no thinking · high——————————————————————————————————————————————————————————————76.2%adaptive · max73.3%adaptive · max70.2%effort n/d—57.9%effort n/d————73.3%effort n/d66.7%effort n/d——76.7%effort n/d73%no thinking · effort n/d61.1%effort n/d55.9%no thinking · effort n/d47.3%no thinking · effort n/d—76.5%effort n/d74.1%effort n/d72.5%effort n/d56.5%effort n/d81%effort n/d——71.3%effort n/d67.2%effort n/d
——————————————————————————————————————————————61.4%adaptive · max54.7%adaptive · max54.7%shared · adaptive · max59.4%adaptive · max28.1%adaptive · max54.9%adaptive · max54.1%adaptive · max38.4%adaptive · max34.5%adaptive · max59%adaptive · max—————————————————————————————————————————————————————————————————————————————————————————————
68.8%max66.6%max74.1%best effort*72.7%effort n/d69.6%effort n/d62.2%max—67%effort n/d——————————————————————————————————————74.2%adaptive · max67.4%adaptive · max—68.8%adaptive · max——————————————————————————73.7%adaptive · high65.3%adaptive · high48.6%adaptive · high37%adaptive · medium12%best effort*—————————71%high67%adaptive · xhigh54%adaptive · high————————————75.4%adaptive · max55%adaptive · xhigh53.3%adaptive · xhigh——————————59.3%adaptive · max62.7%adaptive · max54.4%adaptive · max12.8%adaptive · max7.3%adaptive · max———63.4%adaptive · max66.9%adaptive · max46.2%adaptive · max———67.5%adaptive · max———————————58.7%effort n/d42.2%effort n/d56.6%effort n/d——
———88.8%effort n/d87.4%effort n/d84.7%effort n/d—85.6%effort n/d——————————————————————————————————————————80.4%adaptive · xhigh88%adaptive · high84.3%adaptive · high74.6%adaptive · high66.1%effort n/d—————————————————————89.4%effort n/d85.8%effort n/d78%effort n/d76.2%effort n/d73.8%effort n/d—58%effort n/d—————————83.3%effort n/d————————————88.8%adaptive · max82.9%adaptive · xhigh80%adaptive · xhigh——————————83.9%adaptive · max87.9%adaptive · max82.7%adaptive · max72.1%adaptive · max61.8%adaptive · max———84.3%adaptive · max88.2%adaptive · max81%adaptive · max———88.3%adaptive · max——————66%effort n/d—————73%effort n/d86.6%effort n/d——

(multi-agent · 4 agents)

———91.9%ultra—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
——57.9%best effort*37.3%best effort*——————————————————————————————————————————66.4%adaptive · xhigh55.8%adaptive · max60.9%adaptive · max52.3%adaptive · max—45%adaptive · max42%adaptive · max———————————————————————19.1%best effort*11.2%best effort*————————————38%xhigh——————————————————————————————————————————————————————————

(Main)

49.3%max42.4%max53.3%best effort*47.5%best effort*—39.8%max————————————————————————————————————————54.6%adaptive · medium52.8%adaptive · low—53.4%adaptive · medium——53.5%adaptive · xhigh————————————————————————43.6%effort n/d34.4%effort n/d——————————————————————————————————————————————————————————————————————

(Extended · score)

——64.5%best effort*60.6%best effort*——————————————————————————————————————————65.3%adaptive · medium63.6%adaptive · medium—63.6%best effort*——64.9%adaptive · xhigh——————————————————————————————————————61.3%adaptive · high56.6%adaptive · high————————————————————————————————————————————————————————
——————————————————————————————————————————————————38.8%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————————
FrontierCodepartial1

(Diamond subset · score · mean@5)

————————————————————————————————————————————————————29.3%adaptive · xhigh————————————————————————————————————————————————————————————————————————————————————————————————
—————————————————————————————————————————————————43.3%adaptive · max———————————————————————————————————————————————————————————————————————————————————————————————————
———————————————————————————————————————————————73.4%adaptive · max—70%adaptive · max——70.5%adaptive · max——————————————————————————————————————70.8%adaptive · xhigh66.7%adaptive · high————————————————————————————————————————————————————————
Database Migration Tasksinternal1

(Internal)

——63.9%best effort*42.7%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
——67best effort*65.1best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

(2025-01-01–2025-05-01 · pass@1)

—————————————————————————————————————————————————————————————————————————————————————87.6%adaptive · ultra74.2%effort n/d29.1%no thinking · effort n/d29.7%no thinking · effort n/d——————————————————————————————————————————84.9%effort n/d——89.6%effort n/d85%effort n/d83.1%effort n/d———————91.9%effort n/d90.3%effort n/d—83.9%effort n/d80.4%effort n/d

(Elo)

————————————————————————————————————————————————————————————————————————————————2,887adaptive · high—2,316effort n/d—2,439effort n/d—1,775effort n/d——————————————————————————————————————————————————————————————
SciCodepublic3
————————————————————————————————————————————————————————————————————————————————59%adaptive · high———56%adaptive · high———————————————————————————————————————————————58.7%adaptive · max—52.2%effort n/d48.7%effort n/d44.8%effort n/d————44.4%effort n/d41%effort n/d36%effort n/d—————
Code Arenapublic1

(Web development · Elo)

—————————————————————————————————————————————————————————————————————————————1,588effort n/d1,538effort n/d——————————————————————————————————————————————————————————————————————
—————————————————————————————————————————————————————————————————————————————14.9%best effort*5.4%best effort*————————————26%adaptive · high15.7%adaptive · high——————————————————————————————————28.3%adaptive · max—————————————————————
Natural2Codepartial1

(0-shot · chat preamble)

—————————————————————————————————————————————————————————————————————————————————————————74.9%no thinking · effort n/d———————————————————————————————————————————————————————————
Codeforcespublic1

(no tools · Elo)

—————————————————————————————————————————————————————————————————————————————————3,455adaptive · ultra———————————————————————————————————————————————————————————————————
APEX-SWEpartial1
———————————————————————————————————————————————————————————————————————————————————————————56.4%adaptive · high53.6%adaptive · high————————————————————————————————————————————————————————
————————————————————————————————————————————————————————————————————————————————————————————62%effort n/d————————————————————————————————————————————————————————

(xAI launch snapshot · resolution rate (pass@1))

————————————————————————————————————————————————————————————————————————————————————————————29%effort n/d————————————————————————————————————————————————————————

(2025-01-01–2025-05-01 · no tools · pass@1)

————————————————————————————————————————————————————————————————————————————————————————————————80%effort n/d—79%effort n/d——————————————————————————————————————————————————

(2025-01-01–2025-05-01 · Python · pass@1)

——————————————————————————————————————————————————————————————————————————————————————————————————79.3%effort n/d——————————————————————————————————————————————————

(2025-01-01–2025-05-01 · Python · parallel test-time compute)

—————————————————————————————————————————————————————————————————————————————————————————————————79.4%adaptive · ultra———————————————————————————————————————————————————

(2024-10-01–2025-02-01 · Grok 3 Think · consensus@64)

———————————————————————————————————————————————————————————————————————————————————————————————————79.4%adaptive · max—————————————————————————————————————————————————

(2024-10-01–2025-02-01 · Grok 3 Think · pass@1)

———————————————————————————————————————————————————————————————————————————————————————————————————70.6%effort n/d—————————————————————————————————————————————————

(2024-10-01–2025-02-01 · Grok 3 non-reasoning)

————————————————————————————————————————————————————————————————————————————————————————————————————57%no thinking · effort n/d————————————————————————————————————————————————
HumanEvalpublic1

(pass@1 · Grok-2 launch · shots n/d)

—————————————————————————————————————————————————————————————————————————————————————————————————————88.4%no thinking · effort n/d———————————————————————————————————————————————

(2024-10-01–2025-02-01 · 0-shot · Meta)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————43.4%no thinking · effort n/d32.8%no thinking · effort n/d—————————————————————————————————————

(base · 0-shot · pass@1)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————87.6%no thinking · effort n/d————————————————————————————————————
MBPP+public1

(base · 0-shot · pass@1)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————88.6%no thinking · effort n/d——————————————————————————————————

(0-shot · pass@1)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————75.2%no thinking · effort n/d——————————————————————————————————

(0-shot · pass@1)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————65.7%no thinking · effort n/d——————————————————————————————————
Code aggregatepartial1

(HumanEval + MBPP average · Meta model card)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————37.5%no thinking · effort n/d30.7%no thinking · effort n/d———————————————————————————————

(2025 Q2 · C++ · pass@1 · average of 4)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————80%effort n/d———————————————————————————————————————
Meta Internal Coding Benchinternal1

(440 tasks · percent resolved · 2 attempts)

——————————————————————————————————————————————————————————————————————————————————————————————————————————70.6%adaptive · xhigh68.3%adaptive · xhigh—————————————————————————————————————————

(Muse Code · 5 attempts · no external internet)

——————————————————————————————————————————————————————————————————————————————————————————————————————————64.8%adaptive · xhigh——————————————————————————————————————————

(public 124 · mini-swe-agent · rubric pass@1)

—————————————————————————————————————————————————————————————————————————————————————————————————————————59.4%adaptive · max———————————————————————————————————————————

(2024-08–2025-04 · pass@1-COT)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————83.3%effort n/d88.7%effort n/d————————————————————————
IOI 2025public1

(official rules · no tools · overall points)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————492effort n/d————————————————————————

(official rules · no tools · problems solved)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————10effort n/d————————————————————————
——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————57.7%adaptive · max61.5%adaptive · max54.2%adaptive · max38.5%adaptive · max39.4%adaptive · max———56.3%adaptive · max58%adaptive · max48.9%adaptive · max42.7%effort n/d——————————39.8%effort n/d———48.1%effort n/d42.3%effort n/d55.9%effort n/d36.2%effort n/d29.4%effort n/d
————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————63.7%adaptive · max———77.8%adaptive · max53.6%effort n/d48.3%effort n/d——————————————

(dominance score)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————78.1%adaptive · max74.4%adaptive · max———81.2%adaptive · max—————————————73.5%effort n/d——
SWE-Marathonpartial1

(H20-calibrated pre-v1.1 branch · 2026-07-09)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————42%adaptive · max————————————————
Kimi Code Bench 2.0internal1
————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————72.9%adaptive · max62%effort n/d50.9%effort n/d——————————————
QwenSWEBenchinternal1
—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————79%effort n/d80.7%effort n/d——
QwenQoderBenchinternal1
——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————58.4%effort n/d——
QwenReactBenchinternal1

(Elo)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————1,724effort n/d——
QwenSVGBenchinternal1

(Elo)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————1,713effort n/d——
————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————41.9%effort n/d33.5%no thinking · effort n/d——52.7%effort n/d51.3%effort n/d49.4%effort n/d36.2%effort n/d—————
VIBE-Prointernal1

(average)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————55.6%effort n/d54.2%effort n/d———————

(pass@1-CoT · window not disclosed)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————93.5%adaptive · max91.6%adaptive · max——————————————————————————
Codeforcespartial1

(14 Div. 1 contests · 2025-05–2025-11 · simulated rating)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————3,206adaptive · max3,052adaptive · max——————————————————————————

(DeepSeek V3.2-Exp card · version and window not stated)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————74.1%effort n/d———————————————————————
Codeforcespartial1

(DeepSeek V3.2-Exp card · rating protocol not stated)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————2,121effort n/d———————————————————————

(DeepSeek V3.2-Exp card · editing format not stated)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————74.5%effort n/d———————————————————————

(MiniMax comparison tables · version and window not stated)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————81%effort n/d83%effort n/d—————

(DeepSeek V3.2-Exp card · version unstated)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————37.7%effort n/d———————————————————————
———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————33.3%effort n/d—————————————————

(Abundant AI evaluation · 1M context)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————13%adaptive · max————————————————————

(Almost Solved · ≥95% of behavioral tests)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————19%adaptive · max—————————————————————

(v1.1 · resolution rate)

———————————————————————————————————————————————————————————————————————————————————————————31.9%adaptive · high———————————————————————————————————42.5%adaptive · max—————————————————————
OJ-Benchpartial1

(language not stated · pass@1)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————27.1%no thinking · effort n/d——————————
OJ-Benchpartial1

(Python · pass@1)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————60.6%effort n/d——————————————
OJ-Benchpartial1

(C++ · pass@1)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————57.4%effort n/d48.7%effort n/d————————————

(v1 · Terminus-2 · simulated JSON tools)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————47.1%effort n/d44.5%no thinking · effort n/d———————————
Terminal-Benchpartial1

(v1 · Kimi in-house harness)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————30%no thinking · effort n/d——————————
AceBenchpartial1
——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————76.5%no thinking · effort n/d——————————

(2024-08–2025-05 · pass@1)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————53.7%no thinking · effort n/d——————————
MultiPL-Epublic1

(pass@1)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————85.7%no thinking · effort n/d——————————
QwenWebBenchinternal1

(bilingual frontend · Elo)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————1,487effort n/d—
SWE-fficiencyinternal1
———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————34.8%effort n/d—————————

(Hard · Blackwell sm_120)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————28.8%effort n/d—————————
VIBEinternal1

(Visual & Interactive Benchmark · average of 5 subsets)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————88.6%effort n/d——————
——————————————————————————————————————————————57.8%adaptive · max51.8%adaptive · max—46.6%adaptive · max————————————————————————————————————————46.3%xhigh——————————————————————————————————————————————————————————
——————————————————————————————————————————————62.3%adaptive · max56.3%adaptive · max—52%adaptive · max——48%adaptive · max————————————————————————————————————————————————————————————————————————————————————————————————

(166 golden tasks · hidden-test pass rate · mini-swe-agent · no time limit)

——————————————————————————————————————————————91.2%adaptive · max87.6%effort n/d—85.4%effort n/d——86.3%effort n/d————————————————————————————————————————————————————————————————————————————————————————————————
Science & health 56
——————————36.7%xhigh33%xhigh————25.2%xhigh————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
GeneBenchpartial1
——————33.2%xhigh25%xhigh——25.6%xhigh19%xhigh—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
BixBenchpublic2
———————80.5%xhigh———74%xhigh———————————————————————————————————————————————————————————————————————————————93.8%adaptive · high—————————————————————————————————————————————————————————
——64.6%best effort*22.4%best effort*——————————————————————————————————————————58.7%adaptive · max52.6%adaptive · max52.6%shared · adaptive · max29%adaptive · max——24.7%adaptive · max————————————————————————————————————————————————————————————————————————————————————————————————

(lower-cost setting · effort not named)

——61.1%effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
GeneBench Propartial1
——37.1%best effort*32.3%best effort*23.3%effort n/d10.8%effort n/d—12%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
LifeSciBenchpartial1
——60.3%best effort*59.9%effort n/d56%effort n/d51.2%effort n/d—50.4%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
MedChemBenchinternal1

(Internal)

——49.3%best effort*47.4%best effort*35%effort n/d30.4%effort n/d—35.5%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
———————49.5%effort n/d——————————————————————————————————————65.6%adaptive · max62.1%adaptive · max62.1%shared · adaptive · max59.8%adaptive · max57.8%adaptive · max66%adaptive · max63.3%adaptive · max——————————————————————————————————————————————————————59.3%adaptive · xhigh—————————————————————————————————————————

(length-adjusted · unclipped · GPT-5.4 grader)

60.8%effort n/d60.8%effort n/d64.7%effort n/d60.5%effort n/d57.7%effort n/d55.7%effort n/d—51.8%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

(Human Solvable)

——————————————————————————————————————————————89.3%adaptive · max—90.3%effort n/d91.4%adaptive · max84.9%adaptive · max90.1%effort n/d————————————————————————88.8%effort n/d87.1%effort n/d80.6%effort n/d——————————————————————————————————————————————————————————————————————

(Human Difficult)

——————————————————————————————————————————————50%adaptive · max—44.1%effort n/d51.8%adaptive · max39.4%adaptive · max44.7%effort n/d————————————————————————56.5%effort n/d43.5%effort n/d41.2%effort n/d——————————————————————————————————————————————————————————————————————

(Verified)

——————————————————————————————————————————————72%adaptive · max—77.6%effort n/d71.7%adaptive · max68.9%adaptive · max69.2%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————
——————————————————————————————————————————————61.2%adaptive · max—61.9%effort n/d60.5%adaptive · max56.5%adaptive · max59.3%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————
ProteinGympublic1

(Hard · rank correlation)

————————————————————————————————————————————————49.3%effort n/d47.7%effort n/d36.6%effort n/d45.8%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————
Protein Designinternal1

(Sequence Generation)

——————————————————————————————————————————————60.2%adaptive · max—46%effort n/d42.4%adaptive · max20.2%adaptive · max40.4%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————
Protein Designinternal1

(Library Ranking)

————————————————————————————————————————————————49.3%effort n/d48%effort n/d41.3%effort n/d48.2%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————
Organic Chemistryinternal1

(v2)

————————————————————————————————————————————————69.2%effort n/d65.7%effort n/d43.7%effort n/d64.3%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————
Protocolsinternal1

(Troubleshooting)

——————————————————————————————————————————————73.7%adaptive · max—70.2%effort n/d68.9%adaptive · max49.9%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————————
Protocolspartial1

(Understanding · no external network)

————————————————————————————————————————————————77.2%effort n/d80%effort n/d60.5%effort n/d69.7%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————
LABBench2public1

(macro-average across 11 subtasks)

————————————————————————————————————————————————————————————————————————————86.2%effort n/d82.1%effort n/d76.1%effort n/d——————————————————————————————————————————————————————————————————————
PhysicsFinalsinternal1

(0-shot)

—————————————————————————————————————————————————————————————————————————————————————————41%no thinking · effort n/d———————————————————————————————————————————————————————————

(theory)

—————————————————————————————————————————————————————————————————————————————————87.7%adaptive · ultra———————————————————————————————————————————————————————————————————

(condensed matter theory)

—————————————————————————————————————————————————————————————————————————————————50.5%adaptive · ultra———————————————————————————————————————————————————————————————————

(theory)

—————————————————————————————————————————————————————————————————————————————————82.8%adaptive · ultra———————————————————————————————————————————————————————————————————

(1,000-item subset · GPT-4.1-genai judge · Meta)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————42.8%effort n/d———————————————————————————————————————
MedXpertQApublic1

(Text · 2,450 questions · gpt-oss-120b answer parser)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————52.6%effort n/d———————————————————————————————————————
MedXpertQApublic1

(Multimodal · 2,000 questions · gpt-oss-120b answer parser)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————78.4%effort n/d———————————————————————————————————————
IPhO 2025public1

(theory · Contemplating mode · human graded · average of 3)

————————————————————————————————————————————————————————————————————————————————————————————————————————————82.6%adaptive · ultra————————————————————————————————————————

(Contemplating mode · average of 8)

————————————————————————————————————————————————————————————————————————————————————————————————————————————38.3%adaptive · ultra————————————————————————————————————————
————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————58%effort n/d—————————60.2%effort n/d——

(length-adjusted)

53.2%effort n/d54.5%effort n/d58.3%effort n/d57%effort n/d57%effort n/d55.8%effort n/d—56.5%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

(length-adjusted)

30.1%effort n/d31.4%effort n/d36.6%effort n/d33.1%effort n/d32.7%effort n/d32%effort n/d—31.5%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

(length-adjusted)

96.2%effort n/d95.9%effort n/d95.5%effort n/d95.5%effort n/d95.1%effort n/d95.1%effort n/d—95.6%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
AAV Capsid Packaging Predictioninternal1

(Spearman correlation)

0.53effort n/d—0.53effort n/d0.53effort n/d———0.53effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Hard-negative protein binding predictioninternal1

(pass@4)

——0%effort n/d7.6%effort n/d——0%effort n/d1.5%effort n/d———3.5%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
DNA sequence design for transcription factor bindinginternal1

(pass@1 win rate vs Ledidi)

——11.27%effort n/d13.7%effort n/d——16.5%effort n/d13.82%effort n/d———12.82%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
LAB-Benchpublic1

(practical MCQ · accuracy)

———————————————————————————————————————————————————————————————————————————————————————————80.7%adaptive · high—————————————————————————————————————————————————————————
ProtocolQApublic1

(open-ended · accuracy · SpaceXAI harness)

———————————————————————————————————————————————————————————————————————————————————————————79.6%adaptive · high—————————————————————————————————————————————————————————
LatchBio Biosafetypartial1

(September 2026 launch · reported score)

——————————————————————————————————————————————————————————————————————————————————————————62.4%effort n/d——————————————————————————————————————————————————————————

(scoring protocol not disclosed · xAI September 2026)

——————————————————————————————————————————————————————————————————————————————————————————56.7%xhigh——————————————————————————————————————————————————————————

(length-adjusted (GPT-5.5 system card method) · Claude Opus 4.8 grader)

——————————————————————————————————————————————60.6%adaptive · max60%adaptive · max—57.8%adaptive · max58.7%adaptive · max—60.4%adaptive · max————————————————————————————————————————————————————————————————————————————————————————————————

(multimodal · 350 questions · accuracy)

——————————————————————————————————————————————59%effort n/d—58%effort n/d55%effort n/d—59%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————
Protein Designinternal1

(Library Ranking · revised 83-problem set)

——————————————————————————————————————————————56%adaptive · max—56.9%adaptive · max53.5%adaptive · max44%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————————
Protocolspartial1

(Understanding (V2) · 119-problem Benchling held-out set)

——————————————————————————————————————————————69%adaptive · max—69.6%adaptive · max71.8%adaptive · max58.9%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————————
Morphology-to-molecule matchinginternal1

(Axiom Bio liver in-vitro assay)

——————————————————————————————————————————————34%adaptive · max—25.8%adaptive · max25%adaptive · max6.8%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————————
Medicinal chemistryinternal1

(ADME property ranking · 504 questions · no tools)

——————————————————————————————————————————————63.5%adaptive · max—57.7%adaptive · max57.9%adaptive · max41.3%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————————
De novo protein binder designinternal1

(15 targets · 24-hour GPU sandbox)

——————————————————————————————————————————————82.6%adaptive · max—79.1%adaptive · max78.9%adaptive · max72.6%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————————
Biomedical image analysisinternal1

(91 competition cases · normalized to best published result)

——————————————————————————————————————————————71.4%adaptive · max—67.1%adaptive · max61%adaptive · max42.3%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————————
Multimodal Troubleshooting Virologyinternal1

(pass@1 · OpenAI Preparedness)

50.6%effort n/d49.1%effort n/d55.78%effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
ProtocolQApublic1

(open-ended · pass@1 · OpenAI Preparedness)

44.4%effort n/d34.9%effort n/d41.36%effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Tacit Knowledge and Troubleshootinginternal1

(cons@32 · OpenAI Preparedness)

79.2%effort n/d69.2%effort n/d63.33%effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
TroubleshootingBenchinternal1

(pass@1 · OpenAI Preparedness)

45.3%effort n/d38.6%effort n/d48.44%effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
SHP2 Protein Function Predictioninternal1

(mean R²)

0.27effort n/d—0.4effort n/d0.3effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Coronavirus–ACE2 Cell-Entry Screeninternal1

(composite score)

0.46effort n/d—0.42effort n/d0.43effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Phage–plasmid Co-evolutioninternal1

(negative log-likelihood · lower is better)

12.9effort n/d—13.13effort n/d11.35effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Computer use 72

(Python tool)

————————————————86.3%xhigh——64.2%xhigh—————————————————————————————————87.9%adaptive · max87.6%adaptive · max——————————————————————————————————————————————————————84.1%effort n/d———————————————————————————————————————
BrowseComppublic1

(single-agent · Anthropic 2026 compaction harness)

—————————————————————————————————————————————————————84.3%adaptive · max79.8%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————

(Anthropic May 2026 zoom fix · 128K/turn)

———————————————————————————————————————————————————85%adaptive · max85%effort n/d83.4%adaptive · max82.8%adaptive · max——————————————————————————————————————————————————————————————————————————————————————————————
———62.6%effort n/d50.2%effort n/d45.6%effort n/d—47.5%effort n/d—————————————————————————————————————————70.6%adaptive · max———————————————————————————47.9%effort n/d33.8%effort n/d—————————————————————————————————————————————————————58.3%adaptive · max———————————52.3%effort n/d————

(v2026.08.08 · offline set · partial score)

64.4%max52.7%max73.5%max66.2%max—52.7%max———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

(Aug 2026 tasks · partial)

———————————————————————————————————————————————77.9%adaptive · max77.9%shared · adaptive · max75.4%adaptive · max——72.9%adaptive · max————————————————————————————————————————————————————————————————————————————————————————————————

(Aug 2026 tasks · strict)

———————————————————————————————————————————————41.7%adaptive · max41.7%shared · adaptive · max39.6%adaptive · max——36.1%adaptive · max————————————————————————————————————————————————————————————————————————————————————————————————
———————78.7%xhigh39%xhigh72.1%xhigh—75%xhigh—74%xhigh38.2%xhigh—47.3%xhigh——————42%high——————————————————————————81.2%adaptive · max———78%adaptive · max79.6%adaptive · max72.5%adaptive · max72.7%adaptive · max66.3%high50.7%effort n/d61.4%effort n/d—————————————————83%effort n/d78.4%effort n/d76.2%effort n/d—65.1%effort n/d————————————————————————80.8%adaptive · xhigh————————————————————————84.8%adaptive · max——————70.06%effort n/d—————84.3%effort n/d———
BrowseComppublic2

(single-agent)

——91.5%best effort*90.4%effort n/d87.5%effort n/d83.3%effort n/d90.1%xhigh84.4%xhigh——89.3%xhigh82.7%xhigh—77.3%xhigh—77.9%xhigh65.8%xhigh——50.8%xhigh—————————————————————————————90.8%adaptive · max84.7%adaptive · max88%adaptive · max——79.3%no thinking · max——————————————————————————————————————————————————————————————————————————————————————————————
BrowseComppublic2

(multi-agent)

———92.2%ultra——————————————————————————————————————————————86.6%adaptive · max93.3%adaptive · max—88.5%adaptive · max———————————————————————————————————————————————————————————————————————————————————————————————

(no tools)

——92.7%best effort*76.9%best effort*—————————————————————————————————————————————————82.3%adaptive · max79.5%adaptive · max———————————————————————————69.1%effort n/d—72.7%effort n/d—11.4%effort n/d——————————————————————————————————————————————————————————————
BenchCADpublic1
———70.6%effort n/d62.3%effort n/d63.1%effort n/d—44.4%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
BenchCADpublic1

(python tool)

———83.4%effort n/d78.2%effort n/d73.9%effort n/d—55.8%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
BenchCADpublic1

(with tools · geometric overlap)

——95.9%best effort*83.3%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

(1 − OMR-NED)

——0.84best effort*0.19best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Design Tasksinternal1

(Internal)

——50%best effort*47.4%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Data Science Tasksinternal1

(Internal)

——40.9%best effort*30.5%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
BrowseComppublic1

(Deep Research · Search + Python + Browse)

————————————————————————————————————————————————————————————————————————————————85.9%adaptive · high———59.2%adaptive · high————————————————————————————————————————————————————————————————

(pre-2026-08-08 patch · partial score · batched tool calls)

————————————————————————————————————————————————————————————————————————————59%effort n/d50.6%effort n/d———————————————————————————————————————————————————————————————————————

(Reka · pass@1)

—————————————————————————————————————————————————————————————————————————————————————————————63.9%effort n/d——66%effort n/d—58%effort n/d—37%no thinking · effort n/d————————————————————————————————————————————————
FRAMESpublic1

(xAI agent-tools harness)

—————————————————————————————————————————————————————————————————————————————————————————————87.6%effort n/d———————————————————————————————————————————————————————
X Browseinternal1

(xAI internal)

—————————————————————————————————————————————————————————————————————————————————————————————56.3%effort n/d——58%effort n/d—53.2%effort n/d—20.8%no thinking · effort n/d————————————————————————————————————————————————
BrowseComppublic1

(xAI search-agent harness · pass@1)

————————————————————————————————————————————————————————————————————————————————————————————————44.9%effort n/d—43%effort n/d——————————————————————————————————————————————————
SimpleQApublic1

(xAI search-agent harness · pass@1)

————————————————————————————————————————————————————————————————————————————————————————————————95%effort n/d—94%effort n/d—82%no thinking · effort n/d————————————————————————————————————————————————

(xAI search-agent harness · pass@1)

————————————————————————————————————————————————————————————————————————————————————————————————51.2%effort n/d—45%effort n/d—10.8%no thinking · effort n/d————————————————————————————————————————————————
X Bench Deepsearch (zh)internal1

(xAI internal · pass@1)

————————————————————————————————————————————————————————————————————————————————————————————————74%effort n/d—66%effort n/d—27%no thinking · effort n/d————————————————————————————————————————————————

(September 2025 · Elo)

————————————————————————————————————————————————————————————————————————————————————————————————1,163effort n/d————————————————————————————————————————————————————

(Muse Spark 1.1 report · partial · without code execution)

———————————————————————————————————————————————————————————————————————————————————————————————————————————47.3%adaptive · xhigh—————————————————————————————————————————

(Muse Spark 1.1 report · binary · without code execution)

———————————————————————————————————————————————————————————————————————————————————————————————————————————14.2%adaptive · xhigh—————————————————————————————————————————

(Meta Sep 2026 comparison · partial · v08.08 except Spark 1.2 v06.24)

—————————————————————————————————————————————————————————————————————————————————————————————————————————66.9%adaptive · max47.6%adaptive · xhigh——————————————————————————————————————————

(Meta Sep 2026 comparison · binary · v08.08 except Spark 1.2 v06.24)

—————————————————————————————————————————————————————————————————————————————————————————————————————————32%adaptive · max17.9%adaptive · xhigh——————————————————————————————————————————
BrowseComppublic1

(DeepSeek V3.2-Exp agent · configuration not disclosed)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————40.1%effort n/d———————————————————————
BrowseComppublic1

(DeepSeek V3.2 agent · no context management)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————51.4%effort n/d—————————————————————————
BrowseComppublic1

(DeepSeek V3.2 agent · context management)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————67.6%effort n/d—————————————————————————

(DeepSeek V3.2 search-agent harness)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————65%effort n/d—47.9%effort n/d———————————————————————
DeepSearchQApartial2

(F1)

—————————————————————————————————————————————————————————————————————————————————————————————————————————90.3 F1adaptive · max85.9 F1adaptive · xhigh84.9 F1adaptive · xhigh—74.8 F1effort n/d——————————————————————95 F1adaptive · max—92.5 F1effort n/d——————————————
BrowseComppublic1

(Kimi agent · context compaction at 300K)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————91.2%adaptive · max————————————————
SaaS-Benchpartial1
————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————60.1%adaptive · max————————————————

(public 95 · average of 3)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————75.1%effort n/d——
WideSearchpartial1

(Qwen-Agent · average item-F1 over 4 runs)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————81.9 F1effort n/d—60.1 F1effort n/d
BrowseComppublic1

(WebExplorer · discard history after 30% context)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————76.3%effort n/d62%effort n/d56.9%effort n/d—————
WideSearchpartial1

(WebExplorer harness)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————70.3%effort n/d———————
RISEinternal1

(WebExplorer + Playwright)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————50.2%effort n/d———————
SimpleQApublic1

(DeepSeek V3.2-Exp agentic tool-use harness)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————97.1%effort n/d———————————————————————
BrowseComppublic1

(DeepSeek V4 card · pass@1)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————83.4%adaptive · max73.2%adaptive · max——————————————————————————
BrowseComppublic1

(Z.ai agent · no context management)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————68%effort n/d62%effort n/d52%effort n/d—————————————————
BrowseComppublic1

(Z.ai agent · context management)

—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————79.3%effort n/d75.9%effort n/d67.5%effort n/d—————————————————

(Z.ai search-agent harness)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————72.7%effort n/d66.6%effort n/d—————————————————
BrowseComppublic1

(Kimi search agent · no context management)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————60.6%effort n/d—————————————
BrowseComppublic1

(Kimi search agent · discard-all context management)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————83.2%effort n/d74.9%effort n/d60.2%effort n/d————————————
BrowseComppublic1

(Kimi Agent Swarm)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————86.3%effort n/d78.4%effort n/d—————————————

(Kimi search-agent harness · avg@4)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————62.3%effort n/d————————————
DeepSearchQApartial2

(accuracy)

———————————————————————————————————————————————————————————————————————————————————————————81.6%adaptive · high——————————————————————————————————————————83%effort n/d77.1%effort n/d—————————————
WideSearchpartial1

(item-F1 · hide-tool-result context management)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————80.8 F1effort n/d72.7 F1effort n/d—————————————
WideSearchpartial1

(item-F1 · Agent Swarm)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————79 F1effort n/d—————————————
FinSearchComppartial1

(T3 · avg@4)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————47.4%effort n/d————————————
FinSearchComppartial1

(T2 & T3 average)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————67.8%effort n/d—————————————
Seal-0partial1
———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————57.4%effort n/d56.3%effort n/d————————————
FRAMESpublic1

(Kimi agentic search harness)

————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————87%effort n/d————————————
BrowseComppublic1

(WebExplorer agent framework)

——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————47.4%effort n/d44%effort n/d—————

(WebExplorer agent framework)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————48.5%effort n/d—————
GAIApublic1

(text-only 103-sample validation set)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————75.7%effort n/d—————
———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————72%effort n/d—————

(DOM + screenshot interaction)

———————————67.3%xhigh————65.4%xhigh——————————————————————————————————————————————————————————————————————————————————————————69%adaptive · xhigh—————————————————————————————————————————

(screenshot-only observations)

———————————92.8%xhigh—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Factuality (Hallucination)internal1

(SpaceXAI internal · hallucination rate · lower is better)

———————————————————————————————————————————————————————————————————————————————————————————1.7%adaptive · high—————————————————————————————————————————————————————————

(Sep 10, 2026 tasks · partial · Anthropic retained-screenshot harness)

——————————————————————————————————————————————81.8%adaptive · max80.7%adaptive · max—74%adaptive · max———————————————————————————————————————————————————————————————————————————————————————————————————

(Sep 10, 2026 tasks · strict · Anthropic retained-screenshot harness)

——————————————————————————————————————————————48.7%adaptive · max42.8%adaptive · max—37.2%adaptive · max———————————————————————————————————————————————————————————————————————————————————————————————————
BenchCADpublic1

(Vision2Code · 1,000-file subset · 256px views · voxel IoU · no tools)

——————————————————————————————————————————————73%adaptive · max60.6%adaptive · max—49.7%adaptive · max———————————————————————————————————————————————————————————————————————————————————————————————————
BenchCADpublic1

(Vision2Code · 1,000-file subset · 256px views · voxel IoU · container + image crop tool)

——————————————————————————————————————————————96.2%adaptive · max92.6%adaptive · max—89.9%adaptive · max———————————————————————————————————————————————————————————————————————————————————————————————————
DRACOpublic1

(Anthropic harness · Claude Opus 4.6 judge · 980k-token budget)

——————————————————————————————————————————————87.4%adaptive · max87.7%adaptive · max—88.3%adaptive · max———————————————————————————————————————————————————————————————————————————————————————————————————
WANDRpublic1

(offline search and fetch · soft F1 · 980k-token budget)

——————————————————————————————————————————————72.3%adaptive · max68.7%adaptive · max—67.2%adaptive · max———————————————————————————————————————————————————————————————————————————————————————————————————
Cybersecurity 34
Capture-the-Flag Challengespartial1
———96.7%effort n/d91.8%effort n/d85.2%effort n/d—88.1%xhigh———83.7%xhigh—77.6%xhigh67.4%xhigh——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
SEC-Bench Propartial1
———71.2%effort n/d57.7%effort n/d48.9%effort n/d—45.8%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
SEC-Bench Propartial1

(multi-agent · 4 agents)

———74.3%ultra—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
ExploitBenchpartial2
———73.5%effort n/d52.9%effort n/d33.2%effort n/d—47.9%effort n/d———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————54.4%adaptive · max—————————————————————
ExploitGympartial1

(6-hour cap)

———33.7%effort n/d23.2%effort n/d12.4%effort n/d———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

(mean capability flags · plain arm)

——————————————————————————————————————————————13.99effort n/d—11.8effort n/d————————————————————————————————————————————————————————————————————————————————————————————————————

(mean capability flags · AutoNudge arm)

——————————————————————————————————————————————14.15effort n/d—12.56effort n/d10.61effort n/d4.24effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————

(Full ACEs · count out of 410 runs)

——————————————————————————————————————————————301effort n/d—218effort n/d109effort n/d1effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————
OSS-Fuzzinternal1

(top-score targets · count)

————————————————————————————————————————————————17effort n/d————————————————————————————————————————————————————————————————————————————————————————————————————
OSS-Fuzzinternal1

(vulnerability identification · score > 0)

————————————————————————————————————————————————78.7%effort n/d79.4%effort n/d—80%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————
Firefox 147 Exploitationinternal1

(full working exploits · 250 trials)

————————————————————————————————————————————————98%effort n/d52.4%effort n/d—88.4%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————
ExploitBenchpartial1

(without production safeguards · OpenAI Sep 2026)

81.7%max43.4%max100%best effort*78.5%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
ExploitGympartial1

(without production safeguards · no 6-hour limit)

22.1%best effort*11.6%best effort*42.4%best effort*30.3%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
ExploitBenchinternal1

(Internal Port · June–August 2026)

——39%best effort*5.5%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
SRE-Benchpublic1

(single attempt)

——88%best effort*55.9%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
SRE-Benchpublic1

(within 4 attempts)

——99.2%best effort*68.7%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
SEC-Bench Propartial1

(OpenAI Sep 2026 settings)

66.3%best effort*34.2%best effort*85.4%best effort*79.1%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
ExploitGympublic1

(completed tasks out of 869 · 2-hour cap · Z.ai timing)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————105adaptive · max—————————————————————
ExploitGympublic1

(completed tasks out of 869 · 6-hour cap · Z.ai timing)

———————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————130adaptive · max—————————————————————
CyberGympublic5
———————81.8%xhigh———79%xhigh———————————————————————————————————————————————————————————————————————————————79.7%adaptive · high——————————————————————————75.3%adaptive · max83.3%adaptive · max76.7%adaptive · max52.7%adaptive · max38.7%adaptive · max————84.5%adaptive · max—68.7%effort n/d43.2%effort n/d————41.3%effort n/d—————————————
ExploitGympartial1

(2-hour cap)

———24.9%effort n/d———15.1%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
UK AISI CTF expert-level tasksinternal1
———95%effort n/d———85%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
CVE-Benchpublic1

(reward · safeguards off)

———————————————————————————————————————————————————————————————————————————————————————————39.8%adaptive · high—————————————————————————————————————————————————————————
SecureCodeReviewinternal1

(SpaceXAI internal · reward)

———————————————————————————————————————————————————————————————————————————————————————————58.7%adaptive · high—————————————————————————————————————————————————————————
HackerBench v0.3internal1

(risky dual-use prompt compliance · lower is better)

——————————————————————————————————————————————————————————————————————————————————————————3.3%effort n/d——————————————————————————————————————————————————————————
CyScenarioBenchinternal1

(10-challenge subset · overall solve rate · safeguards off)

——————————————————————————————————————————————67.6%effort n/d—61.7%effort n/d53%effort n/d———————————————————————————————————————————————————————————————————————————————————————————————————

(control-flow hijacks · count · 831 OSS-Fuzz entrypoints)

——————————————————————————————————————————————106effort n/d—81effort n/d66effort n/d3effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————
ExploitGympublic1

(intended-vulnerability exploits out of 869 · mitigations disabled · 6-hour budget · Anthropic)

——————————————————————————————————————————————300effort n/d—264effort n/d191effort n/d51effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————
ExploitGympublic1

(intended-vulnerability exploits out of 869 · mitigations disabled · 2-hour budget · Anthropic)

——————————————————————————————————————————————289effort n/d—203effort n/d171effort n/d25effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————
FrontierCyberinternal1

(Irregular evaluation · challenges solved out of 226)

——86effort n/d34effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
CyScenarioBenchinternal1

(Irregular evaluation · average success rate · OpenAI Sep 2026)

——59%effort n/d27%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Irregular Atomic Challengesinternal1

(challenges solved out of 22)

——20effort n/d——————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
ExploitBenchinternal1

(Internal Port · June–August 2026 · attack-surface setting not stated)

5.5%best effort*0%best effort*31.5%best effort*3.5%best effort*—————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
Sandbox Benchinternal1

(22 CTF-style targets · success rate)

4.5%effort n/d4.5%effort n/d45.5%effort n/d4.5%effort n/d—————————————————————————————————————————————————————————————————————————————————————————————————————