• 阿里千问Qwen 发布了 QwQ-32B - 一个在许多基准测试中性能可与 DeepSeek-R1 相媲美的推理模型。然而，人们一直在经历无限的生成、多次重复、 标记问题和微调问题。我们希望本指南能够帮助调试和修复大多数问题！ 如果你在
  • 我用 Bartowski 的 Q5 和 Q6 测试了 阿里千问模型QwQ。我没发现 Q6 有什么特别大的优势。 Bartowski 的 Q5 和 Q6 是指量化（quantization）方法或模型版本。量化是一种技术，通过降低模型参数的精度（比如从 32 位浮点数降到 8 位整数）来减少模型的大小
  • Mistral Small 3.1 是一个很厉害的、真正优秀的本地模型，用的是 Apache 2.0 许可证。现在的 AI 应用需要很多功能——比如处理文字、理解多种类型的输入（比如图片）、支持多种语言、还能处理很长的上下文内容，同时还要反应快、成本低。 Mistral Small 3.1 是第一个 icon
  • 两款支持大模型本地开发和云部署的新AI计算机发布： 华硕推出了Ascent GX10 AI超级计算机，搭载NVIDIA GB10 Grace Blackwell超级芯片，性能强大，支持高达1,000 TOPS的AI处理能力和128GB内存，适合处理大型AI模型。 英伟达还推出了DGX Spark个人 icon
  • Meta发布三款机型：新款 3.1-405B 以及较小型号的升级版：3.1-70B 和 3.1-8B。如果 405B 真如基准测试所示，那么这将是开源机型首次与最好的封闭机型相媲美——这是一个深刻的转变。 网友评价Llama 3.1-405B： 是与 GPT-4o / Claude-3.5 竞争的开 icon
  • Gemma 3 现已在 Unsloth 中进行微调 - 速度提高 1.6 倍，VRAM 减少 60% Gemma 3 现已在 Unsloth 中支持微调，显著提升了训练效率。Unsloth 通过优化算法和硬件适配，使微调速度提高了 1.6 倍，同时将 VRAM 使用量减少了 60%。这一改进使得在资 icon
  • 这款小巧的机型表现得像一台 Creative 7B，写故事比 Llama3.1 8B IT 好得多。它比 Phi-3 Mini 小。 网友讨论： 1、这是第一个低于 4b 参数的模型，我实际上会用它来完成一些不太复杂的任务，比如总结电子邮件链或文章。我之前使用小模型的经验都很差，所以我只玩了几分钟， icon
  • Aidan McLau 在社交媒体上发表了一条评论： "gpt-4o mini"在"arena"上投票得分第二，这是一个历史性的时刻。 表明普通人无法区分大语言模型和小语言模型了，也就是并不那么聪明，而且这是历史上第一次。 由此，得出结论：AI足够聪明，以至于可以欺骗我们。 （打个比喻：如果你觉得和 icon
  • 我们研究了小型开放权重语言模型是否可通过强化学习达到顶尖推理水平。使用GRPO方法和精选参数训练Qwen模型后，性能显著提升，接近前沿水平且成本更低。仅需16个训练示例，性能提升10-15%。我们分享了任务设计、超参数选择和基于torchtune的训练方法，所有资源免费开放。点击标题见原文。 我们开 icon
  • 谷歌认为自家Gemma 3是“世界上最好的单加速器模型”，在单个 GPU 上比 Facebook 的 Llama、[url= [/url]和 OpenAI 的模型都强，而且在 Nvidia 的 GPU 和专门的 AI 硬件上也跑得更好。 在发布了两款用和 Gemini AI 一样技术做的“开放式” icon
  • 中国的一家大科技公司阿里巴巴，最近推出了一个叫[url= icon
  • 2 周前 苹果发布了 Ferret-UI ： 专为 iPhone/IOS 屏幕打造的全新多模态 LLM ！！ 现在，苹果开发了一种名为 Ferret-UI 2 的全新 AI 系统，可以读取和控制 iPhone、iPad、Android 设备、网络浏览器和 Apple TV 上的应用程序。 该系统在 icon
  • 苹果的人工智能研究团队推出了 CAMPHOR，这是一个新的人工智能框架，旨在在移动设备上本地处理复杂的用户查询，同时保护用户隐私。 苹果的本地 AI 代理框架CAMPHOR为更有用的 Apple Intelligence 铺平了道路。 CAMPHOR（用于多输入规划和设备上高阶推理的协作代理）采用分 icon
  • 亚马逊对Alexa的投入可谓巨大，从200亿到430亿美元不等，且有约10,000人参与其中。然而，尽管如此，Alexa似乎已经落后于市场上的新竞争者，比如由小型3B LLM驱动的Siri。 组织问题：Alexa的阿喀琉斯之踵 （几周前，OpenAI发布了GPT-4 o，为具有 icon
  • Google Deepmind 推出了一个叫 Gemma 3 的新一代开放式 AI 模型。这个模型的特点是占用空间小但性能高，所以它可以在单个 GPU 或 TPU 上运行。 Google Deepmind 说，虽然这些模型体积小，但在初步测试中，它们的表现比[url= icon
  • OpenAI联合创始人Andrej Karpathy（安德烈）解释了新的计算范式： 我们正在进入一个新的计算范式： [list] [*]大型语言模型像CPU一样工作 [*]使用令牌而不是字节 [*]使用上下文窗口而不是RAM。 [/list] 这就是大型语言模型操作系 icon
  • 微软研究院和中国科学院大学的研究人员推出了 BitNet b1.58，这是一种 1 位语言模型，有望在大幅降低成本和功耗的同时实现高性能。 [b]1Bit 大语言模型[/b] 称为1位大型语言模型（1-bit Large Language Models、1-bit LLMs）一类将大语言模型的权重以 icon
  • 一项新研究发现，人工智能语言模型的推理能力存在重大缺陷，尤其是那些规模较小且价格较低的模型。这些模型在解决链式基础数学问题时会遇到困难。 Mila 研究所、Google DeepMind 和微软研究院的研究人员调查了不同的 AI 语言模型在解决小学数学应用题方面的表现。他们创建了一个名为“Compo icon