OpenAI前CTO发布开源模型Inkling:可低成本微调的六边形战士


OpenAI前CTO搞了个1万亿参数的怪物,还直接把权重全扔出来了,这不比那些藏着掖着的闭源厂商硬气?

那帮公司每年烧几百万美金调教AI,结果效果还不如拿这个免费模型自己动手改两下——成本直接干到几分钱,你说气不气人。



开源AI在美国拿下了一场酣畅淋漓的胜利

美国开源AI圈终于等到了自己的高光时刻。就在前几天,Thinking Machines Lab这家公司扔出了一枚重磅炸弹,发布了名为Inkling的开放权重模型。这可不是什么小打小闹的玩具,它拥有9750亿总参数,激活参数也有410亿,训练数据涵盖了文本、图像、音频和视频,总量达到了45万亿个token。更狠的是,这帮人直接把完整权重挂到了Hugging Face上,随便下,随便改。

这个模型的出身相当硬核。它的缔造者是OpenAI的前CTO,团队里还聚拢了一堆从OpenAI、Google DeepMind和Meta跑出来的顶尖研究员。

这帮人从零开始,用NVIDIA GB300 NVL72系统硬生生堆出了这个庞然大物。

Inkling不是那种在单一考试里刷高分的偏科生,它在智能体任务、代码编写、指令遵循、事实准确性、视觉理解和音频处理等多个维度上都保持了很强的平衡性。换句话说,它是个全能的六边形战士,而不是某个单项冠军。

当然,也得说句实话,Inkling目前还不是全世界最强的模型,无论是开源的还是闭源的,都有比它跑分更高的选手。

但它的杀手锏在于,它提供了一个极其灵活且强大的基础,让你可以通过微调轻松超越那些所谓的“更强模型”

这就像你拿到了一把未开刃的宝剑,虽然出厂时不够锋利,但你可以根据自己的手艺和需求,把它磨成最适合你的神兵利器。

砸钱堆算力不如花心思微调

现在很多公司陷入了一个巨大的误区,觉得模型越大越聪明,就活该越贵。于是他们每年砸几十万甚至上百万美金,在云端疯狂调用那些顶级闭源模型的API。但现实很骨感,这些通用大模型在解决特定领域的专业问题时,往往表现拉胯,因为缺乏行业专有的知识和数据支撑。

Inkling的出现,直接给这种烧钱模式判了死刑。它的核心卖点不是“开箱即用天下无敌”,而是“给你一把刀,让你自己成为高手”。通过Tinker平台,你可以轻松地对Inkling进行微调。比如你想让它解决金融领域的复杂预测问题,或者生成特定风格的代码,甚至让它写一本从不使用字母“e”的小说,这些靠提示词工程很难搞定的任务,通过微调都能轻松拿捏。

更绝的是它的效率。Inkling支持可控的思考强度调节,你可以根据任务的复杂程度,动态调整它生成答案时消耗的token数量。在终端测试中,Inkling只用了竞争对手三分之一的token数量,就达到了相同的性能。这就意味着,以前你花一百块钱才能办成的事,现在三块钱就能搞定,而且效果可能还更好。这种成本上的降维打击,对于任何一家对预算敏感的公司来说,都是无法拒绝的诱惑。

微调自己这种操作你见过吗

为了证明自己的可定制性有多强,Thinking Machines Lab干了一件特别疯的事——他们让Inkling自己微调自己。具体操作是这样的:他们给Inkling设定了一个目标,让它变成一个绝不使用字母“e”的模型。这种规则靠普通的对话提示几乎不可能稳定实现。

然后Inkling就开始自己动手了。它在OpenCode的框架里运行,自己制定了微调计划,生成了用于评估和训练的合成数据,接着调用了Tinker的API开始进行后训练。最后,它自己加载了训练好的新权重,完美闭环。整个过程一气呵成,最终诞生了一个全新的、不会说带“e”的单词的Inkling分身。

这个实验传递的信号极其强烈。它意味着未来的AI模型不仅能被人类工程师优化,它自身也能成为优化的主体。这种自我迭代的能力,把AI的可定制性提升到了一个全新的维度。对于开发者来说,你不再需要是一个顶尖的算法专家,只需要像使用一个高级工具一样,告诉模型你想让它变成什么样,它就能自己想办法搞定。

看图表听声音写代码它样样精通

Inkling的本事可不止于文本处理。它原生支持多模态输入,音频和图像都能直接理解。在音频方面,它采用了encoder-free架构,直接把dMel频谱图作为输入,在VoiceBench、MMAU和AudioMC这些权威测试里,它的表现是所有开源模型里最能打的。它能转录语音,能听懂语音指令,还能对一段长录音进行提问和推理。

视觉能力同样不含糊。Inkling把图片切成40x40像素的小块进行处理,在图表、示意图和数学视觉推理任务上表现优秀。更厉害的是,它在推理过程中还能调用Python工具,对图片进行缩放、裁剪等操作,把视觉推理和代码推理无缝结合起来。这意味着你可以给它一张复杂的财报图表,让它用代码辅助分析数据,然后直接用自然语言把结论告诉你。

代码和智能体能力更是它的看家本领。在Design Arena的Agentic Web Dev排行榜上,Inkling在开源模型里名列前茅,人类评估者盲测对比它生成的网页应用时,它的排名非常靠前。它还能一次性生成一个完整的多人联机贪吃蛇游戏,包括服务器端、客户端、机器人逻辑和测试套件,甚至能通过长达四十轮的迭代反馈,根据一个AI评审员的建议不断优化代码质量。

知道自己几斤几两比啥都重要

一个值得信赖的模型,光会答题远远不够,它还得清楚自己的认知边界在哪里。Inkling在“知识论”方面下了很大功夫,简单来说就是让它既聪明又诚实,不瞎编也不嘴硬。

校准能力是其中的核心。在很多预测和 forecasting 任务里,模型不仅要给出答案,还要给出一个精准的置信度。Inkling在ForecastBench和Prophet Arena这类评估预测能力的测试中,表现非常出色。它不会对所有问题都迷之自信,当信息不足或问题本身存在争议时,它会给出谨慎的、带条件的回答,或者干脆说“我不知道”。

为了达到这种效果,训练团队用上了两套自动评分系统。一套根据预设的评分标准检查答案的完整性,另一套会主动联网搜索,核实模型回答里的每一个事实性陈述,一旦发现瞎编的,立马扣分。这种双管齐下的方法,既提高了模型的实用性,又大幅减少了幻觉。此外,在抵抗审查方面,Inkling也表现出了很强的独立性,拒绝按照某些预设的政治正确路线进行自我审查。

安全机制不但有而且很强

开源模型最让人担心的就是安全问题,毕竟权重都公开了,坏人拿去干坏事怎么办。Inkling在这方面给出了一个漂亮的答卷。在FORTRESS这个专门测试模型是否会拒绝武器和暴力相关请求的基准测试里,Inkling是所有开源模型里防御最严的。

它既不会轻易被恶意提示词忽悠,也不会过度敏感地拒绝正常的、良性的相似问题。在StrongREJECT这种明确的越狱攻击测试中,它的拒绝率超过了98%,达到了主流闭源模型的顶尖水平。这说明它在训练过程中,已经建立了一套非常有效的安全护栏,能在保持实用性的同时,有效地控制风险。

当然,Thinking Machines Lab也承认,安全是一个持续研究的过程。他们正在密切关注,当用户对Inkling进行深度微调后,这些内置的安全行为会不会发生变化。这为他们后续在Tinker平台上提供更安全的定制化服务,打下了重要的研究基础。

小号的InklingSmall同样能打

除了这个千亿参数的巨无霸,团队还同时放出了一个预览版的Inkling-Small。这个模型的激活参数只有120亿,总参数2760亿,主打一个性价比。它的推理成本更低,延迟更短,但性能却能和它的大哥打得有来有回。

在推理和智能体任务上,Inkling-Small的得分紧咬着Inkling不放。在GPQA Diamond和MCP-Atlas这类测试里,它甚至实现了反超。对于很多实际应用场景,比如用AI来批改作业、生成合成数据、或者作为更轻量级的代码助手,这个身材更小、跑得更快的模型反而更合适。

团队表示,Inkling-Small的预览版已经放出,完整权重正在做最后的测试,很快就会全面开源。这个高低搭配的组合拳,让用户可以根据自己的硬件资源和预算,灵活选择最合适的那把武器。

整条产业链都已经为它准备好了

Inkling发布的同时,一个庞大的生态支持网络也已经搭建完毕。你可以在Together AI、Fireworks、Modal、Databricks这些主流的云平台上直接调用它的API。如果你想在自己的服务器上跑,它也集成了SGLang、vLLM、llama.cpp等多个开源推理框架,无论是NVIDIA的GPU还是其他硬件,都能找到对应的优化方案。

这背后的逻辑很清楚:一个模型的价值,很大程度上取决于它被使用的广度。Thinking Machines Lab在发布当天就打通了从训练、微调到部署的全链路工具链,甚至还为Tinker用户提供了限时五折的折扣,并开放了免费的Playground让大家随意聊天测试。这种全方位、无死角的生态布局,才是推动开源AI真正落地的关键力量。



总结一下,Inkling的出现给AI行业指了一条新路:拼的不是谁参数更大、谁跑分更高,而是谁更能让开发者以最低成本、最高效率把它变成自己的专属工具。当闭源巨头还在靠API收费躺着赚钱时,开源阵营已经教会了模型自己动手丰衣足食。

Thinking Machines Lab(由OpenAI前CTO及多位前OpenAI、Google DeepMind、Meta研究员创立)