OpenAI突然提前发布GPT-6,新模型采用超大规模预训练基底,直接弃用原定计划。
Anthropic的Fable 5.1进入最后冲刺;
DeepSeek的V4 GA版也箭在弦上。
大模型战场从百亿参数飙向万亿级别,各家巨头在算力、数据和训练策略上全面开火,一场无声的军备竞赛正在改写AI规则。
新基底让OpenAI临时改主意
OpenAI内部最近炸了锅。原本他们打算让GPT-5.6当5.x系列的收尾,然后慢慢过渡到GPT-6。但计划赶不上变化,新训练的基底模型表现超出预期,这帮人一拍桌子,决定把GPT-6发布时间往前猛拉。大概一个月后就能见到真身,甚至可能本月就空降。
这个新基底跟之前的Spud完全两码事。Spud是5.5和5.6用的底子,训练数据量大概4万亿token,已经大到普通人没法想象。但新基底在规模上直接跳了一级,具体数字没公布,但内部说法是显著更大。他们相信这套新东西能正面硬刚Fable 5,还有即将到来的Fable 5.1。
OpenAI这波操作等于自己推翻自己。最开始他们想着Spud这个架构还能再撑一代,熬到GPT-6出来再换。但实验数据摆在眼前,新基底的推理能力、多模态理解、代码生成全方面碾压。与其等,不如现在冲。公司内部士气高涨,所有人都觉得这把稳了。
Fable 5.1已经走到最后一步
Anthropic那边也没闲着。他们的Fable 5.1已经在管线里跑到后期阶段,业内预测未来几周就会正式亮相。这个时间点卡得很微妙,正好跟GPT-6的窗口撞上。
Fable系列一直以安全性和长上下文见长。5.1据说在复杂推理任务上又有突破,特别擅长那种需要多步思考的问题。比如你让它写一份市场分析报告,它不光能列数据,还能把行业趋势、竞争对手动作、潜在风险串起来讲清楚。
Anthropic的研发风格偏保守,他们喜欢把模型调教到万无一失才放出来。这也意味着5.1一旦发布,稳定性会很高。不像某些模型刚上线时漏洞百出,用户还得帮忙找bug。他们这次瞄准的竞争对手不光是OpenAI,还有谷歌那边的下一代产品。
两家的发布时间撞车,直接让年底变成AI圈的春节联欢。开发者们已经开始押注,赌谁先放出评测数据,赌谁的跑分更高。这种竞争对用户来说是好事,毕竟厂商卷得越凶,我们用得越爽。
DeepSeek的V4 GA即将空降
转过头看国内,DeepSeek正在为V4 GA版本的发布做最后准备。这个版本比之前的预览版更完善,训练稳定性、推理速度、多语言支持都有明显提升。
内部消息说V4的综合能力大概率持平甚至超过GLM-5.2。GLM系列一直以来都是国产模型里的尖子生,尤其在中文理解和生成上很有优势。DeepSeek如果能压过它,等于在国内第一梯队站稳了脚。
他们已经开始布局下一代更大规模的模型了。这个新项目直接对标参数高达2.7万亿的MiniMax Pro。注意,2.7万亿这个数字放在去年还是天方夜谭,现在已经被写进时间表里。DeepSeek的算力储备跟不跟得上,是个大问题,但他们显然下了血本。
V4 GA的发布策略也很激进。他们不搞限量内测那一套,上来就是全量开放。这意味着开发者拿到手就能直接接入生产环境,不需要排队等邀请码。这种魄力在圈子里不多见,看得出他们对自己的产品很有信心。
训练数据规模决定模型智商天花板
这些模型底子到底怎么练出来的?核心就仨字:预训练。预训练的数据量越大,模型见到的语言模式越多,后续的推理能力就越强。GPT-5.5和5.6用的Spud基底大概是4万亿token,这个量级已经能覆盖互联网上大部分公开文本。
但GPT-6的新基底直接跳出了这个框架。他们收集了更多样化的数据源,包括多语言文档、学术论文、技术手册、甚至代码仓库里的注释。这些数据不是简单堆上去就行,还要清洗、去重、标注质量。数据清洗这个活儿特别枯燥,但做不好模型就会学一堆垃圾。
MiniMax Pro那个2.7万亿的参数规模更夸张。参数就像模型大脑里的神经元连接数,数值越大理论上能记住的规律越复杂。但参数多也有副作用,训练成本呈指数级上涨,电费都能烧到让你怀疑人生。而且参数大到一定程度后,收益会递减,怎么平衡规模和效率是门手艺活。
训练策略从蛮力转向巧劲
光堆数据不行,训练策略也得跟上。OpenAI这次在新基底上用了动态批处理,就是让模型在训练过程中自己调整每次学习的数据量。刚开始学得快些,后面稳定了再细调。这种方法比固定批处理更省算力,还能避免过拟合。
Anthropic在Fable 5.1上强化了对比学习。简单讲就是让模型同时看好坏两种答案,然后逼它选出更好的那个。反复这么练,模型就能学会分辨什么回答质量高。这个技巧对安全对齐特别管用,模型不容易被用户问出乱七八糟的内容。
DeepSeek在V4上用了课程学习策略。他们让模型先学简单样本,比如新闻标题、百科词条,再逐步过渡到复杂的长文本和逻辑推理题。这种方法符合人类学习规律,先打基础再盖楼。实验证明课程学习能提升模型在困难任务上的准确率,大概能涨两到三个百分点。
评测跑分背后的心理战
各家模型一发布,评测榜单马上就开始刷屏。大家都在看MMLU、GSM8K、HumanEval这些指标上的数字。MMLU测的是多任务语言理解,GSM8K考数学推理,HumanEval看代码生成能力。分数高不高,直接决定社区讨论热度。
但这些跑分跟用户真实体验之间有不小差距。有的模型刷榜很猛,实际用起来各种翻车,比如长对话里忘掉前文内容,或者生成一堆漂亮但错误的结论。用户不关心你MMLU高了几分,他们在乎的是你帮我把活干好。
所以现在厂商也开始搞对抗性测试。就是专门找模型的弱点去攻击,看它在压力下会不会崩。比如故意给歧义指令,或者把问题绕好几个弯。能扛住这种测试的模型,才算真正有料。这比看跑分更有参考价值。
上下文窗口成新战场
除了参数和训练数据,上下文窗口长度也成了兵家必争之地。窗口越长,模型一次能处理的内容就越多。早期模型只能看几千token,现在主流已经拉到几十万甚至上百万。
Fable系列在长上下文上一直有优势。你能把一整本小说扔进去让它总结情节,或者上传几十页财报让它分析趋势。这在企业场景里特别实用,很多工作流本身就要处理大批文档。
GPT-6的新基底据说在窗口扩展上也有突破。他们用了新的注意力机制,让模型在处理超长文本时不会把开头的信息忘掉。这个技术难度不小,因为注意力计算复杂度跟窗口长度是平方关系,越长越吃显存。能搞定这个等于拿到了企业市场的入场券。
算力军备竞赛谁在买单
训练这些大模型不是闹着玩的。GPT-5.5那一代的训练成本据估算在几千万美元级别,GPT-6的新基底只会更贵。电费、硬件折旧、冷却系统、人力成本加起来能买一栋写字楼。
算力主要靠GPU集群堆出来。一块H100显卡售价几万美金,训练一个大模型得几千甚至上万块并行跑。数据中心里那种轰鸣声,跟矿场没太大区别。而且显卡还不好买,各家都在抢英伟达的产能。
OpenAI跟微软绑得很深,Azure云服务提供算力支持。Anthropic背后有亚马逊和谷歌撑腰。DeepSeek则靠国内的自研芯片和超算中心。这已经不是单纯的算法竞赛了,而是资源、资金、供应链的全方位较量。
总结:GPT-6提前开打,Fable 5.1跟牌,DeepSeek V4入局,万亿参数时代的竞争进入白热化。模型基底、训练策略、上下文窗口、算力资源四大维度全面升级,用户手中的AI工具将在未来两个月内迎来一波质变。