本地小语言模型

Qwythos-9B-Claude-Mythos-5-1M这个这9B模型居然有1M上下文？！Qwythos-9B是个基于Qwen3.5的微调模型，有1M上下文，号称超长推理能力。评论区吵翻了，有人说它真香，有人说它胡说八道。我试了一圈，发现这玩意儿确实有点东西，但也确实有点毛病。

之前对本地模型失望透顶，直到试了Qwen 3.6 27B。这货居然真能在笔记本上跑出接近顶级API的效果，代码生成、创意写作都扛得住。运行它会让你的电脑热到能煎蛋，但为了这性能，值了。 本地模型终于支棱起来了

120亿个聪明脑细胞：为什么Gemma 4 12B是小模型里的拳王。 Gemma 4 12B深度解析：谷歌如何把多模态AI塞进你的笔记本电脑？ 想搞懂谷歌新出的这个叫Ge

这只鸟不讲鸟语，它让AI自己教自己写代码。 你以为是又一款开源模型？错了，这是AI第一次在训练时自己动手改“考卷”的出题思路。当别的模型还在死记硬背标准答案，Ornith已经开始琢磨怎么改考试规则了。它不满足于做解题高手，而是要做那个能随时优化“解

华为开源KV Cache量化技术让大模型上下文提升5倍！ KVarN（Variance-Normalized KV-Cache Quantization）是华为计算系统实验室（HUAWEI Computing Systems Lab）刚刚开源的一套

本地模型运行指南 2026 | Gemma LM Studio Pi 智能体配置教程 本地跑AI模型终于好用了！ 以前本地跑模型又慢又笨，现在真不一样了。我试过Mistral 7B、Gemma 3、Ope

你手机里的超级大脑：Gemma 4 QAT模型让1GB跑AI成为现实！告别云端：本地AI时代来临，Gemma 4 QAT详解！ 2026年最值得玩的本地模型：Google Gemma 4 QAT上手体验：量化感知训练是什么？普通人也能看懂的AI压缩

Uber 34亿美金烧出的教训：你的本地Mac已经是顶级AI服务器！买一千台Mac mini跑AI比租云服务器便宜十倍   Daniel Chen用1000台Mac mini替代H100；技术关键：统一内存架构、内存带宽120GB/s；对比维度：功耗10-

DiffusionGemma：谷歌全新扩散模型实现4倍速文本生成，本地推理的GPU瓶颈突破！别逐字等待：扩散模型如何让本地AI跑出法拉利速度！ 谷歌发布实验性开源模型DiffusionGemma，采用文本扩散技术，在本地GPU上实现高达4倍于传统自

从Gmail里长出来的AI：Gemma如何成为最会聊天的模型！AI说话太塑料？试试谷歌这个小模型，像朋友一样聊天 谷歌Gemma模型凭借Gmail等私有数据训练，在自然语言生成上超越大参数模型。本文用生活化案例解析小模型为何更“像人”，并给出选型指

GPT Realtime 2.0是第一个能一边听你说、一边思考、一边查资料、一边做决定的真·实时智能体。以前所有语音 AI 都卡在“智商不够”，所以只能回个天气设个闹钟。现在智商一上来，17 个以前根本跑不通的创业点子就全活了。 你想一下啊，以前的语音 A

每月省下几十刀，这个开源软件让你的声音随便克隆！ Voicebox 是一个开源、本地优先（Local-first）的 AI 语音工作室，将*语音克隆、文本转语音（TTS）、语音转文字（ASR）、语音代理（Voice Agent）整合到同一个桌面应用

两台电脑跑两个AI，这组合太香了！ 让两个开源模型在同一台电脑上组队干活，比死磕一个超大模型更聪明。一个叫Hermes的中间人负责分配任务，效果出乎意料。本地AI正在从“跑一个模型”变成“组建一支专家小分队”。

花几万配了台Mac跑大模型，结果被GPT-5.5按在地上摩擦 本地推理大模型卡到怀疑人生，换了GPT-5.5后我悟了 花了几千块配了台M4 Pro，装了十几个开源大模型，折腾了无数个通宵，结果连个写文件的任务都能

运行谷歌 Gemma 3 视觉语言模型的卫星在进行星载推理，而无需先将所有数据下传。 Loft Orbital 公司的 YAM-9 卫星搭载了 Gemma 3 系统，据报道这是首个部署在轨的视觉语言模型。与将每张图像都传输到地面进行分析不同，该卫星

微调一个小到只有6亿参数的模型，让它在131道家庭问题测试里答对120道，把准确率从10%拉到92%。听起来像天方夜谭，但这事真有人干了。整个思路就是先把问题分类，再去找答案。过程挺折腾，但结局还挺香。 这个聊天机器人要先学会猜心思