Thinking Machines Lab 推出首款開源模型 Inkling：定位自訂化的多模態 MoE 大語言模型
2026 年 7 月 15 日，前 OpenAI 首席技術官 Mira Murati 創立的 AI 新創公司 Thinking Machines Lab 正式發布了他們的首款產品——開權重（open-weights）多模態基礎模型 Inkling。這款採用混合專家（Mixture-of-Experts, MoE）架構的模型，定位為「適合自訂化」的通用模型，而非追求單一基準測試的最高分。
公司背景：從 OpenAI 到 Thinking Machines Lab
Thinking Machines Lab 成立於 2025 年 2 月，總部位於美國加州舊金山。創始團隊陣容堅強，包括前 OpenAI 研究副總裁 Barret Zoph、前 OpenAI VP Lilian Weng，以及 OpenAI 共同創辦人 John Schulman（此前短暫加入 Anthropic）。公司核心成員約 100 人（截至 2026 年），並聘請了來自 OpenAI、Meta AI、Mistral AI 等競爭對手的頂尖研究員與工程師。
在資金方面，Thinking Machines Lab 於 2025 年 7 月完成了由 Andreessen Horowitz (a16z) 領輪的早期融資，金額高達 20 億美元，估值達 120 億美元。投資方包括 Nvidia、AMD、Cisco 和 Jane Street Capital。值得一提的是，Mira Murati 的祖國阿爾巴尼亞政府也透過預算修正案投入了 1,000 萬美元。
此外，公司在 2026 年 3 月與 NVIDIA 簽署了戰略合作協議，部署高達 1 GW 的 Vera Rubin 運算容量。不過，人才流動也是其發展過程中的亮點——2026 年 1 月，共同創辦人 Barret Zoph 和 Luke Metz 重返 OpenAI；同年 10 月，Andrew Tulloch 被 Meta Superintelligence Labs 挖角。
Inkling 技術規格與架構
Inkling 是一款基於 Mixture-of-Experts (MoE) 架構的 Transformer 模型，主要技術參數如下：
| 項目 | 規格 |
|---|---|
| 總參數量 | 9750 億（975B） |
| 活躍參數量 | 410 億（41B） |
| 上下文視窗 | 最高 100 萬 tokens |
| 預訓練數據量 | 45 兆 tokens |
| 支援模態 | 文字、圖像、音訊、影片 |
| 授權協議 | Apache License |
在 MoE 設計上，Inkling 的架構大致遵循 DeepSeek-V3 的設計：每層包含 256 個路由專家（routed experts） 和 2 個共享專家（shared experts），每個 token 激活 6 個路由專家。模型採用基於 sigmoid 的路由器搭配無輔助損失（auxiliary-loss-free）的負載平衡偏置。
注意力機制方面，Inkling 以 5:1 的比例交錯使用滑動視窗（sliding-window）和全局（global）層，並配置 8 個 KV heads。位置編碼採用相對位置嵌入（Relative Positional Embedding），而非目前更廣泛使用的 RoPE，據稱在長序列外推上表現更佳。
訓練硬體方面，Inkling 完全在 NVIDIA GB300 NVL72 系統上完成預訓練。
強化學習與「可控思考」設計
Inkling 的後訓練（post-training）階段採用了大規模非同步強化學習（asynchronous RL），累積了超過 3,000 萬次 rollout。強化學習不僅提升了模型的推理能力，還觀察到一個有趣的「自然收縮」現象：隨著 RL 訓練推進，模型的思考鏈（chain of thought）變得更加精簡，自動省略了冠詞和連接詞等語法冗餘，但保持可讀性並達成相同的解答。
Inkling 的一大特色是可控思考效率（controllable thinking effort）。開發者可以透過調整系統訊息和每 token 成本來控制模型的「思考深度」，在效能與 token 消耗之間取得平衡。官方數據顯示，Inkling 在 Terminal Bench 2.1 上達到同等表現時，僅需 Nemotron 3 Ultra 約 三分之一的 token 消耗。
多模態能力：原生訓練的音訊與視覺
Inkling 的設計目標之一是作為「互動模型系統」（interaction models system）的背景推理引擎，該系統支援使用者以語音和視覺進行即時協作。為此，Inkling 從零開始訓練了音訊和視覺的多模態組件：
- 音訊輸入：採用 dMel spectrogram（Richard He Bai et al, 2024）將音訊轉換為梅爾頻譜圖
- 視覺輸入：使用 40x40 像素的 patch，透過四層 hMLP 進行編碼
- 架構特色：兩者均採用無編碼器（encoder-free）設計，經輕量嵌入層後與文字 token 共同處理
在音訊基準測試中，Inkling 表現優於多數開權重模型，但在閉源模型如 Gemini 3.1 Pro 和 Qwen3.5 Omni-Plus 面前仍有差距。視覺方面，Inkling 支援圖像理解、圖表解讀和數學視覺推理，並可透過 Python 工具進行縮放和裁切操作。
Benchmark 表現：廣度優先於極致深度
根據 Thinking Machines Lab 公布的數據，Inkling 在多個基準測試中展現了均衡的表現，但並非所有項目都名列前茅：
| 基準測試 | Inkling (effort=0.99) | GPT-5.6 Sol (max) | Claude Fable 5 (max) | Kimi K2.6 | Nemotron 3 Ultra |
|---|---|---|---|---|---|
| HLE text only | 29.7% | 47.2% | 53.3% | 35.9% | 26.6% |
| AIME 2026 | 97.1% | 99.9% | 99.9% | 96.4% | 94.2% |
| SWEBench Verified | 77.6% | 82.2% | 95.0% | 80.2% | 70.7% |
| GPQA Diamond | 87.2% | 94.1% | 92.6% | 91.1% | 86.7% |
| SimpleQA Verified | 43.9% | 71.6% | 68.3% | 38.7% | 32.4% |
官方承認，Inkling 「不是目前可用的最強大模型」。其定位是成為一個「廣義、均衡的基礎模型」，適合需要自訂化的場景，而非追求單一基準測試的最高分。這與 OpenAI（GPT-5.6 Sol）和 Anthropic（Claude Fable 5）的策略形成鮮明對比——後兩者專注於閉源模型的極致性能。
值得注意的是，在預測基准 ForecastBench 上，Inkling 的 Brier Index（無搜尋：61.1）與 Grok 4.3（61.1）和 Kimi K2.6（61.7）接近，優於 GPT-5.5（59.1），顯示其在預測校準方面的競爭力。
Inkling-Small：輕量預覽版
同時發布的還有 Inkling-Small 預覽版——一款總參數量 2,760 億、活躍參數量僅 120 億（vs. Inkling 的 410 億）的 MoE 模型。令人驚訝的是，在部分推理和智能任務上，Inkling-Small 的表現接近甚至超越了大版本的 Inkling，這歸功於預訓練數據和訓練配方的改進。
| 基準測試 | Inkling | Inkling-Small (Preview) |
|---|---|---|
| HLE text only | 29.7% | 29.6% |
| GPQA Diamond | 87.2% | 88.3% |
| IFBench | 79.8% | 83.4% |
| Audio MC | 56.6% | 49.6% |
Inkling-Small 預計將成為低延遲、低成本場景的首選，例如程式碼生成、LLM 評分和合成數據生成。其完整權重待測試完成後發布。
Tinker 平台與生態系整合
Inkling 的自訂化依賴 Thinking Machines Lab 於 2025 年 10 月推出的 Tinker API——一個雲端微調服務。開發者可以提交任務，由 Tinker 在內部叢集上執行分佈式訓練，讓研究人員專注於數據和演算法而非基礎設施。
Inkling 的權重已發布至 Hugging Face ，提供原始檢查點以及適用於 NVIDIA Blackwell 系統的 NVFP4 壓縮版本。此外，Thinking Machines Lab 與多個雲端平台建立了合作夥伴關係：
- API 服務：TogetherAI、Fireworks、Modal、Databricks、Baseten
- 推理支援：SGLang（RadixArk）、vLLM（Inferact）、TokenSpeed（Lightseek）、llama.cpp（Unsloth）
- 框架整合：Hugging Face transformers
為方便開發者上手，Thinking Machines Lab 還提供了 tinker-cookbook 和 tml-renderer 等開源工具。
安全與知識評估（Epistemics）
Inkling 在「知識評估」（epistemics）方面進行了專門訓練，涵蓋四個維度：校準性、指令遵循、抗審查性和安全性。
- 校準性：透過 RL 對真實世界已解決問題進行proper scoring rules訓練，使模型能準確表達自信程度
- 指令遵循：採用雙重自動評分器（rubric grader + claims grader），同時提升有用性並減少幻覺
- 抗審查性：在 Cognition 的 Propaganda and Censorship Eval 中表現出強大的非服從模式
安全基準測試方面，Inkling 在 FORTRESS（攻擊性）上達到 78.0%，優於 GLM 5.2（71.3%）、Kimi K2.6（65.6%）和 DeepSeek V4 Pro（36.0%），僅次於 Nemotron 3 Ultra（77.6%）。在 StrongREJECT 上達到 98.6%，與其他主流模型持平。
市場定位：美國開權重模型的競爭者
媒體普遍將 Inkling 視為美國對中國開權重模型的競爭對手。截至發布時，最具競爭力的開權重模型主要由中國公司開發（如 Qwen、Kimi K2.x 系列等）。Inkling 為需要本土選項的團隊提供了法律與供應鏈上的選擇。
然而，從 benchmark 數據來看，Inkling 在多數項目上仍落後於閉源頂級模型和中國的開權重模型。其核心優勢在於生態系整合、可自訂化、以及可控的思考效率。對於不需要極致性能、但重視資料隱私和客製化的企業（如醫療、法律等受監管行業），Inkling 提供了有吸引力的方案。
總結與展望
Thinking Machines Lab 以「構建延伸人類意志與判斷的 AI」為使命，Inkling 是其邁出的第一步。作為一款開權重多模態模型，Inkling 在效能與成本之間取得了獨特的平衡，其可控思考效率和強大的生態系整合是主要差異化優勢。
不過，面對 GPT-5.6、Claude Fable 和 Qwen 等強敵，Inkling 的 benchmark 表現僅屬「有競爭力」而非「領先」。公司也坦承這只是模型系列的開始，後續迭代將持續擴展規模與能力。對於開發者而言，Inkling 的最大價值或許不在於它現在有多強大，而在於它提供了多少自訂化的可能性——以及 Tinker 平台能否讓這些潛力真正落地。
參考資料
- Thinking Machines Lab — Introducing Inkling
- Wikipedia — Thinking Machines Lab
- VentureBeat — Thinking Machines open sources first multimodal language model
- Axios — Thinking Machines’ first model bets big on customization
- Reuters — AI startup Thinking Machines launches an open-weight AI model
- Layer3 Labs — Inkling Explained: Thinking Machines’ First Model