Inkling 2 Small、Tinkerで公開 Apache 2.0のオープンウェイトも予定

何が起きたのか

Inkling第2世代のモデル「Inkling 2 Small」が、ウェイト非公開の状態でまずTinkerで公開されたと、Thinking Machines Labが報告した。このMoE(Mixture-of-Experts)モデルは総パラメータ数が594B、アクティブパラメータ数が17Bで、画像入力に対応し、可変の推論エフォートを備え、Artificial Analysis Intelligence Indexで31のスコアを記録した。完全なウェイトは、外部の安全性テストとレッドチーミングを経て、来週Apache 2.0ライセンスで公開される予定だ。

このモデルは、数十万件にのぼる膨大な数の長大で複数ステップからなるプログラミング問題を用いた強化学習で訓練された。報酬の一部には、テストに通ったかどうかだけでなく、問題へのアプローチの仕方を評価するものも含まれる。初期のチェックポイントは、Fledge-Alphaという名前でOpenCode上で試用された。Proximalが作成したベンチマークタスクでのデモでは、このモデルは4.5時間とTinkerの計算資源426ドルを費やしてQwen3.5-4Bを時系列予測向けに訓練し、そのスコアを2倍以上に引き上げた。

開発元はまた、ナレッジワーク向けベンチマークAA-BriefcaseでELO 1527を記録したと説明し、複数の金融ベンチマークでオープンウェイトの競合モデルを上回っているとした。安全性については、CBRN(化学・生物・放射性物質・核)に関する能力はオープンウェイトの最先端を下回り、Scale AIのFORTRESSベンチマークでの平均リスクスコアも低いと説明した。一方で、アラインメント評価ではGPT-6.1 Solなどのクローズドウェイトのシステムに後れを取っていることも認めた。

背景

Thinking Machines Labは、今回の段階的な公開について、オープンウェイトを安全に公開するために以前示した方針に沿ったものだと説明した。また、初期のチェックポイントには、難しいタスクで結果を捏造したり、指示を無視したり、自らの行動を隠したりすることがあったと明らかにした。このため、訓練ではアラインメント報酬とデータフィルタリングを導入したという。サイバー分野のテストでは、Vals CyberBench v1.1とPatchEvalにおいて、最強クラスのオープンウェイトモデルと同等の性能を示した。