WhatsMyLLM English

指纹库更新记录

指纹库是一个带版本号的数据包。每个结果都标明它所依据的版本,每个版本都记录在这里:包含什么,改了什么。 没有任何东西会自动发布;每个版本都须通过明确记录的准入规则,并披露短回复比较、逐个结果和跨渠道证据的变化。

当前版本:v2026.10.3,24 个模型,下载一次 407 KB,之后走缓存。

版本

v2026.10.3

24 个模型,864 条已记录回复。

按 Owner 确认的上游优先来源规则,从 ModelTrace 6cd4a8f 新增 Claude Haiku 5.5。指纹库现含 24 个模型、864 条录入回复。上游已有的 18 个模型使用固定提交的原始数据,其余 6 个保留既有数据。上游主分支尚无 GPT-6.1 Sol,因此继续保留本站既有样本。评分、题目、输入检查和判定阈值不变;之前 7 个库 URL 保持原始字节。

以 v2026.10.2 为基线,唯一未通过的是旧模型三回复 CV 不下降规则:GPT-6 Astra 从 9/12→8/12。披露该回归后,Owner 再次确认上游优先。本次精确例外已记录,评估结果仍保留为未通过。库内错误 Clear 在 1/2/3 条回复下从 4/1/0→4/0/0;相同 1,932 个移除模型案例从 233→229,新增模型的 84 个案例另计 0 个错误 Clear。模拟随机输入保持 0 个 Clear。

共有 184 处结果变化。Haiku 5.5 在 1/2/3 条回复下的 CV 为 36/36、36/36 和 12/12。仅报告的单回复变化:Opus 4.7 为 34/36→35/36,GPT-5.4 为 29/36→30/36,Astra 为 24/36→25/36,GPT-6.1 Sol 为 21/36→20/36。旧模型双回复 CV 计数不变。

既有 5 组独立留出数据在 API 和 chat 粘贴路径上的逐条结果均不变。GPT-6.1 Sol 保持单回复 5/9、合并组 1/3 的 top-1,均为 0 个 Clear。Haiku 的 36 条录入回复覆盖全部 36 个模板、12 个环境;没有独立 Haiku 留出数据,也没有首次采集可用率。其录入回放通过两种输入路径,但这不是独立验证。

之前 612 条上游数据逐字节一致;仅新增 2026-10-09 采集并声明来自 OAIPro 的 36 条 Haiku 回复。对涉及 Haiku 的 30,438 对样本筛查,发现 0 个共享的 12 数片段。这不认证身份或独立生成。没有执行新的模型调用。

采用上游 ModelTrace 6cd4a8f 于 2026-10-09 经声明的 OAIPro 中转采集的 36 条回复。1/2/3 条回复交叉验证分别为 36/36、36/36、12/12;没有独立留出数据或首次可用率。尽管 Astra 三回复 CV 从 9/12→8/12,v2026.10.3 仍按 Owner 确认的上游优先决定收录。来源为声明信息,并非独立认证。

一/二回复 CV 变化(仅报告)

模型回复数旧库本库
claude-opus-4-7134/3635/36
gpt-5.4129/3630/36
gpt-6-astra124/3625/36
gpt-6.1-sol121/3620/36

跨渠道 Clear(仅报告)

回复数旧库本库
147/7247/72
252/7253/72
319/2419/24
全部结果变化案例 (184)
测试类型/回复数模型案例题目Top-1:旧 → 新判定:旧 → 新错误 Clear:旧 → 新
库内留出 / 1gpt-5.6-solquery-01gpt-5.6-sol → gpt-5.6-sol弱匹配/证据不足 → Clear0 → 0
库内留出 / 1gpt-6.1-solquery-01gpt-6.1-sol → gpt-5.6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
库内留出 / 1gpt-5.4query-03gpt-6-astra → gpt-5.4接近候选 → 弱匹配/证据不足0 → 0
库内留出 / 1gpt-5.5query-03gpt-5.5 → gpt-5.5弱匹配/证据不足 → 接近候选0 → 0
库内留出 / 1gemini-3.8-flash@openrouter:google-vertexquery-03gemini-3.8-flash@openrouter:google-vertex → gemini-3.8-flash@openrouter:google-vertex弱匹配/证据不足 → Clear0 → 0
库内留出 / 1qwen3.8-max-0902@openrouter:alibabaquery-03qwen3.8-max-0902@openrouter:alibaba → qwen3.8-max-0902@openrouter:alibaba接近候选 → Clear0 → 0
库内留出 / 1gpt-6.1-solquery-03gpt-6-astra → gpt-6-astra弱匹配/证据不足 → 接近候选0 → 0
库内留出 / 1claude-opus-4-8query-05claude-opus-4-8 → claude-opus-4-8接近候选 → Clear0 → 0
库内留出 / 1gpt-6-solquery-05gpt-6-sol → gpt-6-sol弱匹配/证据不足 → Clear0 → 0
库内留出 / 1gpt-5.5query-06gpt-5.5 → gpt-5.5弱匹配/证据不足 → 接近候选0 → 0
库内留出 / 1claude-sonnet-5query-06claude-sonnet-5 → claude-sonnet-5接近候选 → Clear0 → 0
库内留出 / 1gpt-6-astraquery-08gpt-6.1-sol → gpt-6-astra弱匹配/证据不足 → 弱匹配/证据不足0 → 0
库内留出 / 1gpt-6-lunaquery-11gpt-6-luna → gpt-6-luna弱匹配/证据不足 → Clear0 → 0
库内留出 / 1qwen3.8-max-0902@openrouter:alibabaquery-12qwen3.8-max-0902@openrouter:alibaba → qwen3.8-max-0902@openrouter:alibaba弱匹配/证据不足 → 接近候选0 → 0
库内留出 / 1claude-opus-4-7query-14claude-opus-4-8 → claude-opus-4-7接近候选 → 接近候选0 → 0
库内留出 / 1deepseek-v4-pro-0813@openrouter:deepseekquery-14deepseek-v4-pro-0813@openrouter:deepseek → deepseek-v4-pro-0813@openrouter:deepseek接近候选 → 弱匹配/证据不足0 → 0
库内留出 / 1qwen3.8-max-0902@openrouter:alibabaquery-17qwen3.8-max-0902@openrouter:alibaba → qwen3.8-max-0902@openrouter:alibaba接近候选 → Clear0 → 0
库内留出 / 1claude-opus-4-8query-22claude-opus-4-8 → claude-opus-4-8Clear → 接近候选0 → 0
库内留出 / 1qwen3.8-max-0902@openrouter:alibabaquery-22qwen3.8-max-0902@openrouter:alibaba → qwen3.8-max-0902@openrouter:alibaba接近候选 → 弱匹配/证据不足0 → 0
库内留出 / 1gpt-5.6-solquery-24gpt-5.4 → gpt-6.1-sol接近候选 → 弱匹配/证据不足0 → 0
库内留出 / 1gpt-6.1-solquery-24gpt-6.1-sol → gpt-6.1-sol弱匹配/证据不足 → 接近候选0 → 0
库内留出 / 1gpt-6-solquery-25gpt-6-sol → gpt-6-sol弱匹配/证据不足 → 接近候选0 → 0
库内留出 / 1gpt-5.6-solquery-29gpt-5.6-sol → gpt-5.6-solClear → 接近候选0 → 0
库内留出 / 1qwen3.8-max-0902@openrouter:alibabaquery-31qwen3.8-max-0902@openrouter:alibaba → qwen3.8-max-0902@openrouter:alibaba接近候选 → 弱匹配/证据不足0 → 0
库内留出 / 1gpt-6-solquery-32gpt-6-sol → gpt-6-solClear → 接近候选0 → 0
库内留出 / 2gpt-5.6-solquery-01, query-03gpt-5.6-sol → gpt-5.6-sol弱匹配/证据不足 → 接近候选0 → 0
库内留出 / 2qwen3.8-max-0902@openrouter:alibabaquery-04, query-05qwen3.8-max-0902@openrouter:alibaba → qwen3.8-max-0902@openrouter:alibabaClear → 弱匹配/证据不足0 → 0
库内留出 / 2gpt-5.5query-10, query-11gpt-5.5 → gpt-5.5弱匹配/证据不足 → 接近候选0 → 0
库内留出 / 2gpt-5.4query-10, query-12gpt-5.4 → gpt-5.4Clear → 接近候选0 → 0
库内留出 / 2claude-opus-4-7query-10, query-12claude-opus-4-7 → claude-opus-4-7接近候选 → Clear0 → 0
库内留出 / 2gpt-5.4query-13, query-15gpt-5.4 → gpt-5.4弱匹配/证据不足 → 接近候选0 → 0
库内留出 / 2gpt-6-astraquery-16, query-18gpt-6.1-sol → gpt-6.1-solClear → 接近候选1 → 0
库内留出 / 2gpt-5.4query-19, query-20gpt-5.4 → gpt-5.4接近候选 → Clear0 → 0
库内留出 / 2claude-opus-4-8query-23, query-24claude-opus-4-8 → claude-opus-4-8Clear → 接近候选0 → 0
库内留出 / 2gpt-6-solquery-25, query-27gpt-6-sol → gpt-6-solClear → 接近候选0 → 0
库内留出 / 2gemini-3.8-flash@openrouter:google-vertexquery-31, query-32gemini-3.8-flash@openrouter:google-vertex → gemini-3.8-flash@openrouter:google-vertexClear → 弱匹配/证据不足0 → 0
库内留出 / 2claude-opus-4-7query-31, query-33claude-opus-4-7 → claude-opus-4-7接近候选 → Clear0 → 0
库内留出 / 3gpt-6-astraquery-01, query-02, query-03gpt-6-astra → gpt-6.1-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
库内留出 / 3gpt-5.6-solquery-05, query-04, query-06gpt-5.6-sol → gpt-5.6-sol弱匹配/证据不足 → Clear0 → 0
库内留出 / 3claude-sonnet-5query-05, query-04, query-06claude-sonnet-5 → claude-sonnet-5接近候选 → Clear0 → 0
库内留出 / 3qwen3.8-max-0902@openrouter:alibabaquery-07, query-08, query-09qwen3.8-max-0902@openrouter:alibaba → qwen3.8-max-0902@openrouter:alibabaClear → 弱匹配/证据不足0 → 0
库内留出 / 3deepseek-v4-pro-0813@openrouter:deepseekquery-16, query-17, query-18deepseek-v4-pro-0813@openrouter:deepseek → deepseek-v4-pro-0813@openrouter:deepseekClear → 弱匹配/证据不足0 → 0
库内留出 / 3gpt-5.6-solquery-23, query-24, query-22gpt-5.6-sol → gpt-5.6-solClear → 接近候选0 → 0
库内留出 / 3claude-opus-4-7query-22, query-23, query-24claude-opus-4-7 → claude-opus-4-7接近候选 → Clear0 → 0
移除真实模型 / 1gpt-5.4query-18gpt-5.6-terra → gpt-5.6-terra弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1gpt-5.4query-31claude-opus-5-5 → claude-opus-5-5Clear → 弱匹配/证据不足1 → 0
移除真实模型 / 1gpt-5.4query-33gpt-5.6-terra → gpt-5.6-terra弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1gpt-5.5query-30gpt-6-sol → gpt-6-sol弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 3gpt-5.5query-19, query-20, query-21gpt-6-sol → gpt-6-sol弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1gpt-5.6-solquery-31gpt-5.5 → deepseek-v4-pro-0813@openrouter:deepseek弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2gpt-5.6-solquery-04, query-06gpt-6.1-sol → gpt-6-luna弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2gpt-5.6-solquery-35, query-36gpt-6-sol → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 3gpt-5.6-solquery-13, query-14, query-15gpt-6-sol → gpt-6-sol弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1gpt-5.6-terraquery-12gpt-6-sol → gpt-6-sol弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1gpt-5.6-terraquery-20gpt-6-luna → gpt-6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1gpt-5.6-terraquery-29gpt-5.6-sol → gpt-6.1-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2gpt-5.6-terraquery-14, query-15gpt-5.6-luna → gpt-6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2gpt-5.6-terraquery-29, query-30gpt-6.1-sol → gpt-5.6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2gpt-5.6-terraquery-34, query-36gpt-6-sol → gpt-6-astra弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 3gpt-5.6-terraquery-13, query-14, query-15gpt-5.6-sol → gpt-6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1gpt-5.6-lunaquery-02gpt-6-luna → gpt-6-luna弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1gpt-5.6-lunaquery-10gpt-5.5 → gpt-5.5接近候选 → 弱匹配/证据不足0 → 0
移除真实模型 / 1gpt-5.6-lunaquery-17gpt-5.6-terra → gpt-5.6-terra弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 2gpt-5.6-lunaquery-10, query-12gpt-6-luna → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2gpt-5.6-lunaquery-19, query-20gpt-6-luna → gpt-6-luna弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 2gpt-5.6-lunaquery-22, query-23gpt-6-luna → gpt-6-luna弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 2gpt-5.6-lunaquery-26, query-27gpt-5.6-sol → gpt-6-luna弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 3gpt-5.6-lunaquery-22, query-23, query-24gpt-6-luna → gpt-6-luna弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1gpt-6-astraquery-15gpt-6.1-sol → gpt-6.1-sol弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1gpt-6-astraquery-34gpt-6.1-sol → gpt-6.1-sol弱匹配/证据不足 → Clear0 → 1
移除真实模型 / 2gpt-6-astraquery-01, query-02gpt-6.1-sol → gpt-6.1-sol弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1claude-haiku-4-5-20251001query-09gemini-3.8-flash@openrouter:google-vertex → claude-sonnet-4-6弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1claude-haiku-4-5-20251001query-35claude-sonnet-4-6 → claude-opus-4-7弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-haiku-4-5-20251001query-07, query-08claude-sonnet-4-6 → claude-opus-4-7弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-haiku-4-5-20251001query-29, query-30gemini-3.8-flash@openrouter:google-vertex → claude-sonnet-4-6弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 3claude-haiku-4-5-20251001query-25, query-26, query-27kimi-k2.6@cloudflare → claude-sonnet-4-6弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1claude-sonnet-4-6query-03gpt-5.6-terra → claude-opus-4-6弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1claude-sonnet-4-6query-11claude-haiku-4-5-20251001 → claude-opus-4-6弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1claude-sonnet-5query-08claude-opus-5 → claude-opus-4-8接近候选 → 接近候选0 → 0
移除真实模型 / 1claude-sonnet-5query-35claude-opus-4-8 → claude-opus-4-8Clear → 接近候选1 → 0
移除真实模型 / 2claude-sonnet-5query-16, query-18claude-opus-4-7 → claude-opus-4-8弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-sonnet-5query-29, query-30claude-fable-5-1@claude-code → claude-opus-4-8弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 2claude-opus-4-6query-31, query-32claude-opus-5-5 → gpt-5.6-luna弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 3claude-opus-4-6query-22, query-23, query-24claude-opus-5-5 → claude-sonnet-4-6弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1claude-opus-4-7query-36claude-opus-4-8 → claude-opus-5接近候选 → 接近候选0 → 0
移除真实模型 / 2claude-opus-4-7query-04, query-05claude-opus-4-8 → claude-opus-4-8接近候选 → Clear0 → 1
移除真实模型 / 2claude-opus-4-7query-16, query-18claude-opus-4-8 → claude-opus-4-8接近候选 → Clear0 → 1
移除真实模型 / 2claude-opus-4-7query-19, query-20claude-opus-4-8 → claude-opus-4-8Clear → 接近候选1 → 0
移除真实模型 / 2claude-opus-4-7query-25, query-26claude-opus-4-8 → claude-opus-4-8Clear → 接近候选1 → 0
移除真实模型 / 1claude-opus-4-8query-17claude-opus-4-7 → claude-sonnet-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-opus-4-8query-25, query-26claude-opus-5 → claude-sonnet-5接近候选 → 接近候选0 → 0
移除真实模型 / 1claude-opus-5query-29claude-opus-4-8 → claude-opus-4-8Clear → 接近候选1 → 0
移除真实模型 / 2claude-opus-5query-11, query-12claude-opus-4-8 → claude-opus-4-8Clear → 接近候选1 → 0
移除真实模型 / 2claude-opus-5query-23, query-24claude-opus-4-8 → claude-opus-4-7接近候选 → 接近候选0 → 0
移除真实模型 / 2claude-opus-5query-26, query-27claude-opus-4-8 → claude-opus-4-8接近候选 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-opus-5query-28, query-30claude-opus-4-8 → claude-opus-4-8Clear → 接近候选1 → 0
移除真实模型 / 3claude-opus-5query-28, query-29, query-30claude-opus-4-8 → claude-opus-4-8Clear → 接近候选1 → 0
移除真实模型 / 1claude-fable-5-1@claude-codequery-02claude-opus-5 → claude-sonnet-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1claude-fable-5-1@claude-codequery-14claude-opus-5 → claude-opus-4-8弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-fable-5-1@claude-codequery-28, query-29qwen3.8-max-0902@openrouter:alibaba → gpt-6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-fable-5-1@claude-codequery-31, query-32claude-opus-5-5 → gpt-6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-fable-5-1@claude-codequery-31, query-33claude-opus-5 → claude-sonnet-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-fable-5-1@claude-codequery-34, query-35qwen3.8-max-0902@openrouter:alibaba → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 3claude-fable-5-1@claude-codequery-34, query-35, query-36qwen3.8-max-0902@openrouter:alibaba → gpt-6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2kimi-k2.6@cloudflarequery-07, query-09claude-opus-5-5 → gpt-5.4弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 3kimi-k2.6@cloudflarequery-28, query-29, query-30claude-sonnet-4-6 → claude-opus-4-6弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1gemini-3.8-flash@openrouter:google-vertexquery-36deepseek-v4-pro-0813@openrouter:deepseek → deepseek-v4-pro-0813@openrouter:deepseek弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 3gemini-3.8-flash@openrouter:google-vertexquery-04, query-05, query-06claude-opus-5-5 → gpt-5.6-luna弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1deepseek-v4-pro-0813@openrouter:deepseekquery-30claude-opus-4-6 → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1deepseek-v4-pro-0813@openrouter:deepseekquery-36claude-sonnet-5 → claude-fable-5-1@claude-code弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2deepseek-v4-pro-0813@openrouter:deepseekquery-04, query-05qwen3.8-max-0902@openrouter:alibaba → claude-sonnet-4-6弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2deepseek-v4-pro-0813@openrouter:deepseekquery-04, query-06qwen3.8-max-0902@openrouter:alibaba → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2deepseek-v4-pro-0813@openrouter:deepseekquery-07, query-09qwen3.8-max-0902@openrouter:alibaba → gpt-6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 3deepseek-v4-pro-0813@openrouter:deepseekquery-07, query-08, query-09qwen3.8-max-0902@openrouter:alibaba → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1qwen3.8-max-0902@openrouter:alibabaquery-05claude-fable-5-1@claude-code → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1qwen3.8-max-0902@openrouter:alibabaquery-17claude-sonnet-5-5 → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1qwen3.8-max-0902@openrouter:alibabaquery-26gpt-5.6-sol → deepseek-v4-pro-0813@openrouter:deepseek弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1qwen3.8-max-0902@openrouter:alibabaquery-28gemini-3.8-flash@openrouter:google-vertex → deepseek-v4-pro-0813@openrouter:deepseek弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 1gpt-6-solquery-32gpt-6-astra → gpt-6-astra弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 2gpt-6-solquery-04, query-06deepseek-v4-pro-0813@openrouter:deepseek → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2gpt-6-solquery-10, query-12gpt-6.1-sol → gpt-6-astra弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2gpt-6-solquery-13, query-15gpt-5.6-sol → gpt-5.6-sol弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 2gpt-6-solquery-25, query-27gpt-6-astra → gpt-6-astra弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 2gpt-6-lunaquery-01, query-02gpt-5.5 → gpt-5.6-luna弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2gpt-6-lunaquery-13, query-14gpt-5.6-luna → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2gpt-6-lunaquery-16, query-18gpt-5.6-sol → gpt-5.6-luna弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 3gpt-6-lunaquery-13, query-14, query-15gpt-5.6-luna → gpt-5.6-luna弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1claude-opus-5-5query-12gpt-5.4 → gpt-5.4弱匹配/证据不足 → 接近候选0 → 0
移除真实模型 / 1claude-opus-5-5query-16gpt-5.4 → gpt-5.4弱匹配/证据不足 → Clear0 → 1
移除真实模型 / 2claude-opus-5-5query-10, query-11qwen3.8-max-0902@openrouter:alibaba → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-opus-5-5query-22, query-23claude-sonnet-5-5 → gpt-5.4弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-opus-5-5query-35, query-36gpt-5.4 → gpt-5.4弱匹配/证据不足 → Clear0 → 1
移除真实模型 / 1claude-sonnet-5-5query-18gemini-3.8-flash@openrouter:google-vertex → gemini-3.8-flash@openrouter:google-vertexClear → 弱匹配/证据不足1 → 0
移除真实模型 / 1claude-sonnet-5-5query-30qwen3.8-max-0902@openrouter:alibaba → gpt-6.1-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-sonnet-5-5query-04, query-05qwen3.8-max-0902@openrouter:alibaba → gpt-5.6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-sonnet-5-5query-04, query-06deepseek-v4-pro-0813@openrouter:deepseek → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-sonnet-5-5query-07, query-08gpt-6.1-sol → gpt-6-astra弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 2claude-sonnet-5-5query-22, query-23qwen3.8-max-0902@openrouter:alibaba → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
移除真实模型 / 3claude-sonnet-5-5query-16, query-17, query-18qwen3.8-max-0902@openrouter:alibaba → deepseek-v4-pro-0813@openrouter:deepseek弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-13claude-sonnet-5 → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-16qwen3.8-max-0902@openrouter:alibaba → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-29gpt-6-astra → gpt-5.6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-52gpt-5.6-sol → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-68gemini-3.8-flash@openrouter:google-vertex → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-122claude-opus-5-5 → qwen3.8-max-0902@openrouter:alibaba弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-124gpt-6-sol → gpt-6-astra弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-137gpt-5.4 → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-144claude-sonnet-5-5 → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-151claude-opus-5-5 → gpt-6-astra弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 1—random-1-156claude-sonnet-5 → deepseek-v4-pro-0813@openrouter:deepseek弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-3gpt-6.1-sol → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-43claude-opus-5-5 → gpt-6.1-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-47claude-opus-5-5 → gpt-5.6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-49claude-opus-5-5 → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-52gpt-5.6-sol → gpt-6-luna弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-74claude-opus-5-5 → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-77claude-sonnet-5-5 → gpt-5.6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-105claude-opus-5-5 → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-114claude-sonnet-5-5 → claude-opus-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-131qwen3.8-max-0902@openrouter:alibaba → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-136claude-opus-5-5 → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-168claude-opus-5-5 → gpt-5.6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-175qwen3.8-max-0902@openrouter:alibaba → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-186deepseek-v4-pro-0813@openrouter:deepseek → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 2—random-2-193gemini-3.8-flash@openrouter:google-vertex → gpt-6-astra弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-9gpt-5.6-luna → gpt-5.6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-21claude-opus-5-5 → claude-sonnet-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-31claude-sonnet-5-5 → gpt-5.4弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-47claude-opus-5-5 → gpt-5.5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-61qwen3.8-max-0902@openrouter:alibaba → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-68gemini-3.8-flash@openrouter:google-vertex → gpt-6.1-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-87gpt-6-astra → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-103gemini-3.8-flash@openrouter:google-vertex → claude-sonnet-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-107claude-opus-5-5 → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-112claude-opus-5-5 → deepseek-v4-pro-0813@openrouter:deepseek弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-119claude-opus-5-5 → gpt-5.6-sol弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-125claude-sonnet-5-5 → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-130gpt-6-astra → gpt-5.4弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-152gpt-6-sol → gpt-6-luna弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-156gpt-5.4 → claude-sonnet-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-170claude-opus-5-5 → gpt-6-astra弱匹配/证据不足 → 弱匹配/证据不足0 → 0
模拟随机 / 3—random-3-193gpt-5.6-luna → claude-haiku-5-5弱匹配/证据不足 → 弱匹配/证据不足0 → 0
跨渠道 / 1claude-sonnet-5query-18claude-fable-5-1@claude-code → claude-opus-4-6弱匹配/证据不足 → 弱匹配/证据不足0 → 0
跨渠道 / 2claude-sonnet-5query-23, query-24claude-sonnet-5 → claude-sonnet-5接近候选 → Clear0 → 0

v2026.10.2

在三条入库规则未通过后,按明确的 Owner 例外决定新增 GPT-6.1 Sol。指纹库现含 23 个模型、828 条录入回复。在已记录的采样条件下,该模型与 GPT-6 Astra 存在重叠;收录不代表已能可靠区分。评分、题目、输入检查和判定阈值不变,之前六个版本的库 URL 保持原始字节。

入库基线为 v2026.10.1。Owner 在看到退步后明确选择发布。1/2/3 回复的库内错误 Clear 从 2/0/0 增至 4/1/0,候选案例数为 828/828/276。GPT-6 Astra 三回复 CV 从 12/12 降至 9/12。在相同的 1,848 个移除模型案例上,错误 Clear 从 137 增至 180;新模型另外的 84 个案例另计 53 个错误 Clear。模拟随机输入仍为 0 个 Clear。这些是记录在案的例外,不是入库规则通过。

共有 396 处结果变化。在本站 23 模型库中,GPT-6.1 Sol 一/二/三回复 CV 为 21/36、22/36、6/12。Astra 单回复 CV 为 35/36→24/36、双回复为 36/36→25/36;Opus 4.7 和 GPT-5.6 Sol 单回复为 35/36→34/36;Fable 5.1 单回复提升 35/36→36/36。全部变化案例见下表。

9 条单独采集、从未参与拟合的留出回复:GPT-6.1 Sol 单回复 top-1 为 5/9,三回复组为 1/3,Clear 分别为 0/9、0/3。中文和英文 prose 组仍将 Astra 排第一,英文 JSON 组将 GPT-6.1 Sol 排第一。API 和 chat 粘贴路径一致。四个已有独立留出回复的模型,top-1 和 Clear 数保持不变,没有错误 Clear。

本站题目条件的交叉验证中,GPT-6.1 Sol 的 12 次运行是 0 次正确 Clear、9 次仅家族、3 次证据不足。扩大后的模型库首页结果为 56/69 次正确模型运行、0 次错误、9 次仅家族、4 次证据不足。证据弱时仍保留原核心第一名,用户声明不会改变排名。

2026-10-02 经官方 Codex CLI 0.159.1、现有 ChatGPT 登录、low 推理强度采集,每题一个全新的 ephemeral 进程。首次可用率为录入 35/36、留出 9/9。query-31 首次只返回四个数字,原件保留,使用同题同设置在新会话中补采一次。45 条选用回复中 33 条恰好符合请求数量,12 条不完全相同,均未裁剪或修复。发现两个共享的十二数片段,仅作诊断,不构成独立性证明。

Codex 自带与主机指令仍存在;题目 system 块经 developer instructions 传入。模型身份是 CLI 请求的选择,不是独立认证,也不声称与干净 API 请求等价。上游 PR #28 仍是独立的实验数据贡献,本站发布不代表上游已经合并或启用。能力分数 52 来自 Artificial Analysis v4.3.2 的 max 配置,不是本站指纹测量;OpenAI 标价为每百万 token 输入 $2、输出 $10。

本批 Codex CLI 样本与 GPT-6 Astra 的区分能力有限。新留出回复 top-1:单回复 5/9,三回复组 1/3;Clear:0/9、0/3。三条入库规则未通过,Owner 在披露这些退步后明确决定收录。模型名仍表示库内最近候选,不是经过认证的身份。

一/二回复 CV 变化(仅报告)

模型回复数旧库本库
claude-fable-5-1@claude-code135/3636/36
claude-opus-4-7135/3634/36
gpt-5.6-sol135/3634/36
gpt-6-astra135/3624/36
gpt-6-astra236/3625/36

跨渠道 Clear(仅报告)

回复数旧库本库
147/7247/72
252/7252/72
319/2419/24

共 396 处结果变化。完整列表保留在该版本的证据记录中,为控制本页体积此处不再展开。

v2026.10.1

新增 ModelTrace 提交 d4131b3 中的 Claude Sonnet 5.5:2026-09-30 经 OAIPro 中转采集的 36 条原始入库回复,覆盖 12 个环境。指纹库现含 22 个模型、792 条回复。之前的参考样本与已发布的五个版本库 URL 均保持原始字节。评分代码、挑战题目、输入检查和判定阈值均未修改。

相对已发布的 v2026.09.5,四条入库规则全部通过。1/2/3 条回复下的库内错误 Clear 保持 2/0/0,候选库案例数为 792/792/264。原有 21 个模型在各回复数下的交叉验证命中数全部不变,三回复均保持 12/12。在相同的 1,764 个移除模型案例上,错误 Clear 从 141 降至 136:新增 3 个,消除 8 个。Sonnet 5.5 另增 84 个移除模型案例,其中 1 个错误 Clear。模拟随机输入仍为 0 个 Clear。

共有 258 处结果变化。Sonnet 5.5 在一/二/三回复交叉验证中的 top-1 为 36/36、36/36、12/12。本站题目条件下,Sonnet 的 12 次运行均为正确 Clear;移除 Sonnet 后,12 次均为证据不足。这些是对上游入库数据的评估,不是独立留出测试,也不是实际使用准确率保证。

本站条件变化仅作报告,各模型 12 次运行:Opus 4.8 正确 Clear 为 7→5、Sonnet 5 为 10→9、GPT-6 Sol 为 6→5、GPT-5.6 Terra 为 11→12;DeepSeek 保持 4 个 Clear,另有 1 个仅家族结果变为证据不足。没有运行变为错误 Clear。首页正确模型运行数从 55/63 变为 58/66,错误数仍为 0;分母增加是因为 Sonnet 加入了模型库。

四个已有独立留出回复的模型,单回复 top-1 保持 8/9、9/9、8/9、9/9,三回复组 top-1 均保持 3/3,错误 Clear 均为 0。Kimi 单回复正确 Clear 为 5→6,DeepSeek 为 4→3;Gemini 与 Qwen 不变。

能力和价格来源于 2026-10-02 重新读取。Sonnet 5.5 的 Artificial Analysis v4.3.2 分数为 56,配置为 Adaptive Reasoning, Max Effort, Default Fallback;Anthropic 标价为每百万 token 输入 $2、输出 $10。GPT-6 Luna 的分数现为 38。指数已将 GPT-6 Sol 和 Sonnet 5 标为被取代,因此它们保留模型页和识别覆盖,但退出能力榜。

这 36 条回复来自 ModelTrace d4131b3,经 OAIPro 中转采集。使用上游入库数据进行本站题目条件评估,正确 Clear 为 12/12。未另外采集 Sonnet 5.5 留出回复;服务身份和独立生成属于声明的来源,并非已认证事实。

一/二回复 CV 变化(仅报告)

模型回复数旧库本库

跨渠道 Clear(仅报告)

回复数旧库本库
146/7247/72
251/7252/72
318/2419/24

共 258 处结果变化。完整列表保留在该版本的证据记录中,为控制本页体积此处不再展开。

v2026.09.5

新增 GPT-6 Sol、GPT-6 Luna 与 Claude Opus 5.5,直接采用上游 ModelTrace 指纹库(提交 55a2e4a,2026-09-23)发布的数据:两个 GPT 模型经官方 Codex 订阅采集,Claude Opus 5.5 经 OAIPro 中转采集。三个模型各有上游在 12 个题目环境下的 36 条入库回复,没有一条出错。我们没有为这三个模型自行采集回复,也没有单独的留出回复。评分代码、题目、输入检查与判定阈值均未修改,之前四个版本的库 URL 字节保持不变。

入库沿用 2026-09-18 的同一套四条规则,基线为已发布的 2026.09.4。本库有一条规则差 1 个案例未通过,由 Owner 明确决定收入。第 3 条规则(移除真实模型测试中的错误 Clear,在相同的 1,512 个案例上比较)从 131 变为 132(新增 21 个,消除 20 个)。其余三条均通过:库内错误 Clear 在 1/2/3 条回复下保持 2/0/0(随着三个新模型加入,样本数分别从 648→756、648→756、216→252);原有 18 个模型的三回复 CV 全部保持 12/12;模拟随机输入在 1/2/3 条回复下均保持 0 个 Clear。单独收入任一家族都能通过全部四条规则(只收 GPT-6 Sol 与 Luna:131→127;只收 Claude Opus 5.5:131→131),Owner 选择三个一起收入。三个新模型自身的 252 个移除模型案例衡量的是旧库对它们回复的处理,另计 9 个错误 Clear,单独报告。

相对旧库共有 858 处结果变化。原有模型的一/二回复 CV 变化(仅影响报告):GPT-5.4 一回复 33/36→29/36、二回复 36/36→35/36;GPT-5.5 35/36→34/36、GPT-6 Astra 36/36→35/36、DeepSeek V4 Pro 0813 34/36→33/36(均为一回复)下降;Claude Sonnet 4.6 一回复 34/36→36/36、GPT-5.6 Sol 一回复 34/36→35/36 上升。这些变化都不影响任何模型的三回复 CV。跨渠道 Clear 一回复 47/72→46/72、二回复 48/72→51/72,三回复保持 18/24。全部结果变化案例见下表。

三个新模型在上游自身回复上的交叉验证(每条回复评分时把它自己从库里拿掉;这不是留出测试):GPT-6 Sol 在 1/2/3 条回复下 top-1 为 33/36、36/36、12/12;GPT-6 Luna 与 Claude Opus 5.5 均为 36/36、36/36、12/12。在本站自身条件下(针对本站提供的三种题型之一回答三条,并应用判定),Claude Opus 5.5 在 12 次中 12 次被判为 Clear,GPT-6 Luna 8 次(1 次接近候选、3 次弱匹配),GPT-6 Sol 6 次(4 次接近候选、2 次弱匹配),没有错误 Clear。旧库对这三个模型全部拒绝判定,没有误判;其中 Claude Opus 5.5 在 12 次中有 11 次最接近 GPT-5.4,且全部为弱匹配。

本站条件下 Clear 次数有变化的原有模型(仅报告,每个 12 次):Claude Opus 4.7 11→10、Claude Opus 5 12→11、GPT-6 Astra 11→10、DeepSeek V4 Pro 0813 5→4、Qwen3.8 Max 0902 12→11。每一次变化都变成了接近候选或弱匹配,没有变成错误模型。全部模型合计,本站条件下判对的次数从 54 次中 48 次变为 63 次中 55 次,错误仍为 0。一组真实粘贴也有同样的变化:Owner 确认为 GPT-5.6 Sol 的三条 ChatGPT 回复(2026-09-15,本站 JSON 题目)由 GPT 家族内的接近候选变为弱匹配;最接近的仍是 GPT-5.6 Sol,新加入的 GPT-6 Sol 排第二。

已有单独留出回复的四个原有模型,用两个库分别重新评分这些已保存的回复:Kimi K2.6、Gemini 3.8 Flash、DeepSeek V4 Pro 0813 与 Qwen3.8 Max 0902 的单回复 top-1(8/9、9/9、8/9、9/9)和三个环境组结果(均为 3/3)与旧库相同,没有错误 Clear。Kimi 的单回复 Clear 从 4 次增加到 5 次,其余不变。

来源说明:上游的 GPT 数据来自官方 Codex 订阅,Claude 数据来自 OAIPro 中转,因此服务身份属于声明,不是独立认证。GPT-6 两个模型的数据记录了 Codex CLI 0.155.1 与低推理强度(reasoning effort low),上游更早的 GPT 数据没有记录这两项设置。新增数据按字节从上游两个参考文件末尾截取,文件前半部分(本库已有的 13 个上游模型)没有任何改动。

直接采用上游 ModelTrace 55a2e4a 发布的数据,我们没有自行采集回复或留出回复。在上游 36 条回复上交叉验证(不是留出测试),单回复 top-1:GPT-6 Sol 为 33/36,GPT-6 Luna 与 Claude Opus 5.5 为 36/36;三条回复时三者均为 12/12。v2026.09.5 由 Owner 决定收入,尽管入库第 3 条规则在 1,512 个移除模型案例上从 131 变为 132;全部变化见更新日志。

一/二回复 CV 变化(仅报告)

模型回复数旧库本库
claude-sonnet-4-6134/3636/36
deepseek-v4-pro-0813@openrouter:deepseek134/3633/36
gpt-5.4133/3629/36
gpt-5.5135/3634/36
gpt-5.6-sol134/3635/36
gpt-6-astra136/3635/36
gpt-5.4236/3635/36

跨渠道 Clear(仅报告)

回复数旧库本库
147/7246/72
248/7251/72
318/2418/24

共 858 处结果变化。完整列表保留在该版本的证据记录中,为控制本页体积此处不再展开。

v2026.09.4

新增 DeepSeek V4 Pro 0813 与 Qwen3.8 Max 0902,均经 OpenRouter 锁定供应商(deepseek、alibaba)采集,推理保持供应商默认设置,补全 token 上限 16,384。两者各有 36 条入库回复与 9 条针对本站题目单独采集的留出回复,全部正常收尾,零错误、零 token 耗尽。评分代码、题目、输入检查与判定阈值均未修改,之前三个版本的库 URL 字节保持不变。

入库沿用 2026-09-18 的同一套四条规则,基线为已发布的 2026.09.3:库内错误 Clear 在 1/2/3 条回复下保持 2/0/0(随着两个新模型加入,样本数分别从 576→648、576→648、192→216);原有 16 个模型的三回复 CV 全部保持 12/12;移除真实模型测试在相同的 1,344 个案例上,错误 Clear 从 138 降到 128(新增 12 个,消除 22 个);模拟随机输入在 1/2/3 条回复下均保持 0 个 Clear。两个新模型自身的 168 个移除模型案例衡量的是旧库对它们回复的处理,另计 3 个错误 Clear,单独报告,不计入该规则。

相对旧库共有 512 处结果变化。原有模型的一/二回复变化(仅影响报告,不影响任何模型的三回复 CV):Claude Sonnet 4.6 一回复 35/36→34/36、Claude Sonnet 5 一回复 32/36→31/36 下降,Claude Opus 4.8 二回复 36/36→35/36 下降;Claude Opus 4.8 一回复 29/36→30/36、GPT-5.6 Terra 一回复 35/36→36/36 上升。全部结果变化案例见下表。

针对本站九道题目的新留出回复,API 输入路径与 chat 分支结果一致:DeepSeek 单回复 top-1 由旧库的 0/9 提升到 8/9(Clear 1→4),三个环境组由 0/3 提升到 3/3(Clear 0→1)。Qwen 单回复 top-1 由 0/9 提升到 9/9,Clear 由 0 提升到 9 — 全部九条留出回复均为 Clear — 三个环境组由 0/3 提升到 3/3(Clear 0→3)。两个模型全部 90 条已保存回复(各 36 条入库 + 9 条留出)在页面自身输入检查的 api 和 chat 两条分支下均通过,没有一条会被拒绝。

本次替代了 WP5d 一轮被排除的尝试:DeepSeek 关闭思考后曾在自身 query-28 回复上被 Clear 判为错误模型,并出现 2,700 多个数字的循环输出;Qwen 的强制推理曾在大量请求中耗尽 8,192 token 上限。本轮推理保持供应商默认设置,并将上限提高到 16,384 token;两个模型的全部请求均以 stop 正常收尾,零错误。

采集器修复,仅涉及证据环节:被截断的分块 HTTP 响应(http.client.IncompleteRead,其基类是 HTTPException 而非 OSError 或 ValueError)此前不在 collect_common.py 的捕获异常元组内,导致一次截断响应使整批采集直接崩溃,而不是记为一次失败尝试。修复方式是把 http.client.HTTPException 加入捕获元组;采集器每次请求仍只发送一次 POST,未新增重试。修复后两个采集器测试套件已重新跑绿,随后才继续本批采集。

OpenRouter 本身也是中转:库 id 记录了锁定的供应商,每次请求都回读了生成记录,但这是声明的来源,不是对模型身份的独立认证。提供另一 DeepSeek 或 Qwen 构建的中转站可能不匹配。

针对本站九道题目的新留出回复,API 输入路径与 chat 分支结果一致:旧库两个模型的 top-1/Clear 均为 0/9、0/9;本库中 DeepSeek 单回复为 8/9、4/9,三个环境组为 3/3、1/3;Qwen 单回复为 9/9、9/9(全部回复均为 Clear),三个环境组为 3/3、3/3。经 OpenRouter 锁定服务供应商采集;身份属于声明的来源,不是独立认证。

一/二回复 CV 变化(仅报告)

模型回复数旧库本库
claude-opus-4-8129/3630/36
claude-sonnet-4-6135/3634/36
claude-sonnet-5132/3631/36
gpt-5.6-terra135/3636/36
claude-opus-4-8236/3635/36

跨渠道 Clear(仅报告)

回复数旧库本库
146/7247/72
246/7248/72
318/2418/24

共 512 处结果变化。完整列表保留在该版本的证据记录中,为控制本页体积此处不再展开。

v2026.09.3

新增经 OpenRouter 锁定 Google Vertex 采集的 Gemini 3.8 Flash:36 条入库回复,另有 9 条针对本站题目的留出回复。这是本库中第一个既非 GPT、Claude,也非开源权重的模型家族。评分代码、题目、输入检查与判定阈值均未修改,之前两个版本的库 URL 字节保持不变。

入库依据 2026-09-18 的四条规则:库内错误 Clear 在 1/2/3 条回复下保持 2/0/0;原有 15 个模型的三回复 CV 全部保持 12/12;移除真实模型测试在相同的 1,260 个案例上,错误 Clear 从 136 降到 129(新增 9 个,消除 16 个);模拟随机输入保持 0 个 Clear。Gemini 自身的 84 个移除模型案例衡量的是旧库对 Gemini 回复的处理,另计 9 个错误 Clear,单独报告,不计入该规则。

Gemini 3.8 Flash 在分组交叉验证中 1/2/3 条回复的结果为 35/36、36/36、12/12。原有模型的一/二回复变化:Claude Haiku 4.5 一回复 36/36→35/36,GPT-5.6 Sol 一回复 35/36→34/36;GPT-5.4 一回复 32/36→33/36、二回复 35/36→36/36。跨渠道 Clear 一回复 45→46、二回复 47→46。全部结果变化案例见下表。

针对本站九道题目的新留出回复:旧库在 9 条单回复和 3 个三回复组中均未命中 Gemini(0/9、0/3);本库命中 9/9 和 3/3,其中 Clear 为 7/9 和 3/3。每条回复都能通过页面的 API 输入路径和 chat 分支,两条路径对该模型结论一致。

本轮未入库:DeepSeek V4 Pro 0813(候选库中它自己的 query-28 回复被 Clear 判为 Claude Opus 4.6,违反规则一;关闭思考后还出现 2,700 多个数字的循环输出,三道题需要重试;36 条回复中有 11 条因少数超过 355 的数值在当时被页面的 API 路径拒绝)和 Qwen3.8 Max 0902(强制推理在 23 次入库尝试中有 6 次、9 次留出尝试中有 5 次耗尽 8,192 token 上限;采集另行继续)。两者仅作研究证据保留。

OpenRouter 本身也是中转:库 id 记录了锁定的供应商,每次请求都回读了生成记录,但这是声明的来源,不是对模型身份的独立认证。提供另一 Gemini 构建的中转站可能不匹配。

输入更新,2026-09-18,指纹库未变:由普通整数组成的 JSON 数组回复,不再因为少数数值超出 1 到 355 而被整条拒绝;这些数值会被忽略,与其他所有回复形式完全一致,不裁剪、不修复、不重新拆分任何数字。在 576 条已保存的入库回复中,这条规则曾拒绝来自七个 GPT 和 Claude 模型的 20 条回复;现在 20 条全部接受,结果与 chat 路径完全一致,每条最多忽略 4 个数值。含正负号、小数、指数、文字或嵌套项的数组仍被拒绝,格式损坏的数组以及全部 648 个模拟换行截断同样仍被拒绝。

针对本站九道题目的新留出回复:旧库 top-1/Clear 为 0/9、0/9;本库单回复为 9/9、7/9,三个环境组为 3/3、3/3。页面的 API 输入路径与 chat 分支均接受全部九条回复。经 OpenRouter 锁定 Google Vertex 采集;身份属于声明的来源,不是独立认证。

一/二回复 CV 变化(仅报告)

模型回复数旧库本库
claude-haiku-4-5-20251001136/3635/36
gpt-5.4132/3633/36
gpt-5.6-sol135/3634/36
gpt-5.4235/3636/36

跨渠道 Clear(仅报告)

回复数旧库本库
145/7246/72
247/7246/72
318/2418/24

共 340 处结果变化。完整列表保留在该版本的证据记录中,为控制本页体积此处不再展开。

v2026.09.2

新增由 Cloudflare Workers AI 托管的 Kimi K2.6,复用 9 月 17 日的 36 条入库回复与另行采集的 9 条留出回复。这是特定托管渠道的指纹,不是对各中转站实际模型身份的认证。评分代码、题目、输入检查与判定阈值均未修改,旧库 URL 的字节保持不变。

本版准入要求:库内模型在 1/2/3 条回复时的错误 Clear 数分别不增加;原模型三回复 CV 逐模型不下降;移除真实模型后的错误 Clear 总数不增加;随机输入 Clear 为零。一/二回复 CV 变化、逐个结果翻转及跨渠道变化在下方披露,不再暗中作为额外发布门槛。

原 14 个模型的三回复 CV top-1 均保持 12/12。Kimi 在 1/2/3 条回复时分别为 32/36、35/36、12/12。这是分组交叉验证结果,不是通用准确率承诺。

移除真实模型的测试中有 6 个新增错误 Clear、9 个消失案例,总数从 139 降到 136。下方完整的 186 个案例列出相同 3,120 次基线比较中所有 top-1 或判定变化;准入总数同时包含新增模型的测试案例。

另行保留的 Claude 三组回放中,top-1 均保持不变;Haiku 的 Clear 从 2/3 降为 1/3,Sonnet 保持 3/3,Opus 保持 0/3。历史原始采集和重试链路的保留意见仍然适用。

本版未收录 DeepSeek V4 Pro 0813:新 24k 输出上限请求及保持请求体不变的超时重试均返回 HTTP 408。未收录 GLM 5.3:完整回复长 25,348 字符,超过未修改的 20,000 字符输入上限。核验的 Workers AI 目录未发现符合范围的 Qwen 旗舰型号,未使用 30B 试点替代。

针对本站九道题目的新留出回复。发布时页面的 API 输入路径只接受 9 条原始回复中的 6/9:两条 JSON 数组回复含少数超过 355 的数值,另一条(query-17)混有多个代码块和说明文字。自 2026-09-18 输入更新起,这类数组与其他形式的回复一样读取,超出范围的数值被忽略,页面接受 8/9:top-1/Clear 为 8/9、5/9,三个环境组为 3/3、2/3,其中 JSON 组只用了三条中的两条。query-17 仍被拒绝。未修复或重新采集任何输入;三个题组不等于已证明独立或跨供应商覆盖。

一/二回复 CV 变化(仅报告)

模型回复数旧库本库
claude-opus-4-7134/3635/36
gpt-5.4133/3632/36
gpt-5.6-sol134/3635/36
gpt-5.4236/3635/36
gpt-5.6-sol235/3636/36

跨渠道 Clear(仅报告)

回复数旧库本库
146/7245/72
248/7247/72
318/2418/24

共 186 处结果变化。完整列表保留在该版本的证据记录中,为控制本页体积此处不再展开。

v2026.09.1

第一个公开指纹库。十三个模型继承自 ModelTrace(六个 GPT、七个 Claude,均经 API 渠道采集,标注为上游来源),另加经 Claude Code 采集的 Claude Fable 5.1,每道挑战一个独立会话。输入门槛与开放集判定随本版本一同上线。