Thinking Machines 发布 Inkling 2 Mini 模型

发布时间 2026-11-21
来源 Hacker首页帖子
字数 4,326 字
查看原文 反馈

智能总结

Thinking Machines 发布开放权重模型 Inkling 2 Mini,采用循环 Transformer 架构,每个 token 把中间层运行三次。

它是混合专家模型,总参数 26.4B、激活参数 3.4B,每 token 权重激活量 5.4B,内存占用约 20GB,可在笔记本本地离线运行。

在 Tinker 上试用 Hugging Face 模型卡

今天,我们发布 Inkling 2 Mini,这是一款快速、强大且小到可以在笔记本电脑上运行的模型。

Inkling 2 Mini 是一种循环 Transformer(looped transformer),对每个 token 都会把模型的中间层运行三次。这让模型能够进行更多推理,并以更少的 token 得出正确答案,尤其是在依赖推理质量的智能体编程等任务上。在 DeepSWE v1.1(48.2%)和 Vals Index v2.2(46.5%)等基准测试中,Inkling 2 Mini 领先于所有总参数量低于 100B 的开放权重模型。它的运行速度也快于性能相近的模型。

DeepSWE v1.1

已解决任务(%)

已解决任务(%)

SWE-bench Pro v2 Hard(51 项任务)

已解决任务(%)

已解决任务(%)

Inkling 2 Mini 是一个混合专家(Mixture-of-Experts)模型,总参数量 26.4B,激活参数量 3.4B,考虑到循环,每个 token 的权重激活量为 5.4B。循环让模型能够在不把推理过程写下来的情况下进行更长时间的推理,这对监控很重要:监控指的是我们通过阅读模型的思维链(chain of thought,CoT)来监督和理解模型行为的能力。

我们使用 Inkling 2 Mini 以及随它一同发布的一个用于研究的可变循环(variable-loop)变体,测量了循环对性能和可监控性的影响。可变循环模型的无 CoT 时间跨度(no-CoT time horizon)从单次运行的 16 秒提升到三次运行的 37 秒,其在串行推理基准上的表现一直提升到十次循环——是它训练时所用循环次数的两倍。模型的思维链随着循环次数增加而变短,但始终保持可读。随着循环增加,模型在智能体破坏(agentic sabotage)测试上的表现并没有上升趋势。

我们很高兴能向研究者提供首批采用循环架构的模型。可变循环模型被用于我们的可监控性实验,因为它可以在不同循环深度之间进行更清晰的比较。

Inkling 2 Mini 的大部分权重都以 NVFP4 原生训练和部署,最后四层使用 MXFP8。Inkling 2 Mini 的总内存占用约为 20GB,因此可以在消费级笔记本电脑和桌面 AI 计算机等本地设备上运行。我们的研究人员带着 Inkling 2 Mini 上了一趟航班,它在一台 MacBook Pro 上离线运行,并在几分钟内构建了一个可玩的飞行模拟器。

演示产物 MacBook Pro(M5 Pro,48GB)飞行模式打开视频:PlaneBench 飞行模拟器演示,屏幕内嵌手机视频0:0015×正在加载 Inkling 2 Mini 构建的飞行模拟器……要试用该飞行模拟器,请在桌面端打开此页面。

Inkling 2 Mini 以开放权重形式发布,今天已在 Tinker 上提供,用于推理和定制。

能力表现

Inkling 2 Mini 的优势与 Inkling 2 Small 一致:它最擅长长时程的智能体任务,在我们测量的多数任务上,是同尺寸开源权重模型中的最佳选择。

在 DeepSWE v1.1、SWE-bench Pro v2 等智能体编程基准上,Inkling 2 Mini 的得分领先于所有同类模型;在另一些基准上则仅次于 Qwen3.8-27B。在核函数优化基准 PMPP-Hard 上,它的成绩接近规模大得多的 Inkling 2 Small。

循环(looping)能提升模型的推理能力,但无法让权重存储更多事实——知识量主要取决于参数总量。Inkling 2 Mini 在事实性指标 AA-Omniscience 上的得分与同尺寸其他模型相当。通过研究可变循环模型,我们发现:长上下文基准(如 GraphWalks BFS 与 MRCR v2)的表现会随着循环次数增加而提升;但知识密集型基准(如 AA-Omniscience、SimpleQA Verified、SimpleVQA 和 WorldVQA)并不会因循环次数增加而改善。

Inkling 2 Mini 通过高效使用搜索与工具来弥补知识差距。在 BrowseComp、DeepSearchQA 和 MCP Atlas 上,它领先于同尺寸的开源权重模型;在结合搜索与工具使用的知识工作基准上也表现强劲。

Inkling 2 Mini Gemma 4 31B Muse Glimmer Qwen3.8-27B Nemotron 3.5 Super VL
模型信息
参数量(B)激活 / 总计 5.4/26.4 30.7/30.7 30.0/30.0 27.0/27.0 12.0/124.5
第三方指数
AA Index (v5.0) 20.1(本行最佳报告得分) 4.4 6.3 20.1(本行最佳报告得分) 13.6
Vals Index (v2.2) 46.5%(本行最佳报告得分) – – – 29.8%(本行第二佳报告得分)
编程与自动研究
FrontierCode v2.0(stirrup v0.2.1) 15.1%(本行最佳报告得分) 0.0% 1.5% 14.9%(本行第二佳报告得分) 6.1%
DeepSWE v1.1(mini-swe-agent v2.4.6) 48.2%(本行最佳报告得分) 0.3% 4.4% 42.2%(本行第二佳报告得分) 24.7%
Terminal Bench v4.0(mini-swe-agent v2.4.6) 5.6%(本行最佳报告得分) 0.0% 0.5% 5.6%(本行最佳报告得分) 0.0%
Terminal Bench v2.1(pi v0.83.0 中的 Inkling 2 Mini) 71.6%(本行第二佳报告得分) 43.4% 51.7% 73.0%(本行最佳报告得分) 60.7%
SWEBench Pro v2 (Hard)(mini-swe-agent v2.4.6) 77.9%(本行最佳报告得分) 14.2% 44.3% 73.8%(本行第二佳报告得分) 44.1%
SWEBench Multilingual(Inkling 2 Mini,仅 bash) 73.7%(本行最佳报告得分) 43.0% 66.9% 70.0%(本行第二佳报告得分) 67.7%
SWEBench Verified(仅 bash) 79.2%(本行最佳报告得分) 46.1% 76.0% 77.8%(本行第二佳报告得分) 71.1%
Vibe Code Bench v1.1(openhands (vals)) 77.9%(本行最佳报告得分) – – 64.9%(本行第二佳报告得分) 3.5%
PMPP-Hard(AUC,0–10h)(pi v0.83.0) 455.82(本行最佳报告得分) – – 262.50(本行第二佳报告得分) –
智能体搜索、工具使用与知识工作
BrowseComp(Inkling 2 Mini with compaction) 79.0%(本行最佳报告得分) 37.0% 63.9% 61.6% 78.9%(本行第二佳报告得分)
DeepSearchQA(Inkling 2 Mini with compaction) 85.3%(本行最佳报告得分) 61.7% 74.6% 79.7%(本行第二佳报告得分) 77.7%
MCP Atlas(Public) 82.7%(本行最佳报告得分) 54.2% 75.5% 77.3%(本行第二佳报告得分) 67.7%
AA-Briefcase v1.1 1263(本行第二佳报告得分) 369 478 1391(本行最佳报告得分) 999
GDPVal-AA v2.1 1319(本行第二佳报告得分) 627 792 1427(本行最佳报告得分) 1162
JobBench 49.6%(本行最佳报告得分) 8.2% 16.1% 33.4% 36.5%(本行第二佳报告得分)
AutomationBench-AA v1.0.6 41.8%(本行第二佳报告得分) 4.9% 6.8% 48.2%(本行最佳报告得分) 14.8%
EnterpriseOps-Gym 42.0%(本行第二佳报告得分) 28.4% 34.7% 44.2%(本行最佳报告得分) 28.1%
Vals Finance Index 50.1%(本行最佳报告得分) – – – 41.0%(本行第二佳报告得分)
AA-AnalystAgent 46.3%(本行最佳报告得分) – 20.0%(本行第二佳报告得分) – –
Diligence Bench(Best harness) 48.6%(本行最佳报告得分) – 40.9% 46.4%(本行第二佳报告得分) 45.0%
视觉理解与创作
GDP.pdf 16.8%(本行最佳报告得分) 6.0% 11.8% 16.4%(本行第二佳报告得分) 8.0%
PerceptionBench 57.5%(本行最佳报告得分) 40.7% 42.8% 52.4%(本行第二佳报告得分) 36.8%
MMMU Pro(Standard 10) 74.9%(本行第二佳报告得分) 73.4% 74.3% 76.3%(本行最佳报告得分) 72.3%
OmniDocBench v1.6 92.8%(本行最佳报告得分) 82.5% 90.4% 91.5%(本行第二佳报告得分) 77.9%
ScreenSpot Pro(原始 / 结合 Python) 76.5/87.7%(本行最佳报告得分) 5.9%/– 75.4%/–(本行第二佳报告得分) 57.6/78.9% 43.5%/–
Chartography(原始 / 结合 Python) 22.1/72.5%(本行最佳报告得分) 12.0/11.8% 17.4/25.1%(本行第二佳报告得分) 12.2/52.1% 9.7/29.3%
ZeroBench (main)(原始 / 结合 Python) 17.0/34.0%(本行最佳报告得分) 9.0/12.0% 9.0/17.0% 12.0%/–(本行第二佳报告得分) 11.0/12.0%
MuirBench 77.5%(本行第二佳报告得分) 72.3% 77.6%(本行最佳报告得分) 65.9% 72.7%
BVB 68.4%(本行第二佳报告得分) 47.0% 50.5% 70.7%(本行最佳报告得分) 52.1%
推理、知识与认识论
HLE-Diamond 15.2%(本行第二佳报告得分) 7.2% 9.1% 15.3%(本行最佳报告得分) 8.8%
CritPt v2(Full / Hard) 31.4/17.0%(本行最佳报告得分) –/4.0% –/7.0% 10.6/4.0% 36.9/13.5%(本行第二佳报告得分)
Apex 2025 34.4%(本行最佳报告得分) 5.2% 4.2% 18.8% 22.9%(本行第二佳报告得分)
ARC-AGI(v1 / v2) 84.5/49.3%(本行最佳报告得分) – – 87.5/42.4%(本行第二佳报告得分) 22.7/1.5%
LongBench v2 66.9%(本行最佳报告得分) 52.9% 33.1% 52.3% 62.1%(本行第二佳报告得分)
GraphWalks BFS(256K) …

正文超过 1 万字上限,本页为节选 · 查看原文