• 我对在本地运行大型语言模型 (LLM) 的可能性感到兴奋。我决定为此买一张显卡,并想分享我使用 NVIDIA RTX 5060 Ti 16GB 的初步体验。简单来说,这是我的第一张专用显卡。我之前没有任何对比数据,所以一切对我来说都比较陌生。 我在
  • 在各种硬件(3090、4090,以及几台 Mac)上进行了各种速度测试和基准测试,速度比较:4090 VLLM、3090 LCPP、M3Max MLX、M3Max LCPP 与 Qwen-30B-a3b MoE 观察 比较快速处理速
  • Qwen3 现已在 Unsloth 中进行微调 - 速度提高 2 倍,VRAM 减少 70% 大家好!现在,您可 icon
  • [基准测试] 在 Mac Studio M3 Ultra 512 GB (LM Studio) 上对 5 种型号进行快速测试 – Qwen3 表现优异。 我曾是一名大学物理讲师(教了五年书),在购买 Mac Studio(M3 Ultra、128 CPU/ icon
  • 阿里千问发布超强AI大脑全家桶——Qwen 3!这次一口气放了8个型号,从迷你款(0.6B)到巨无霸(235B)全都有! icon
  • 最新消息!谷歌大叔刚刚在HuggingFace这个"程序员菜市场"挂出了Gemma 3的"试吃装"(预览版),看样子是专门给智能手表、智能家居这些"边缘设备"准备的。不过现在只能看宣传单(文件未发布),真正的"零食大礼包"还得再等等! 它有个独门绝 icon
  • Unsloth Dynamic v2.0 是一种超强AI模型压缩技术,专门用来让大语言模型(比如ChatGPT这类AI)变得更小、更快,但几乎不掉智商!减肥神器:原本几十GB的大模型,经过它压缩后可能只剩几GB,但性能几乎不降!加速神器:压缩后的模型跑得更快 icon
  • Qwen3 是一个“推理”模型,所以它每个提示都以一个包含其思维链的区块开头。Qwen3就是个爱动脑筋的'小机灵鬼'!每次你问它问题,它都会先在心里默默嘀咕一阵(就是那个标签里的内容),把解题步骤都想明白了才回答你。 < icon
  • 附完整测试数据+避坑指南 1️⃣ 量化王者:Unsloth版(0.371分)最接近原版BF16模型(0.375分)Bartowski Q4_0(0.352分)速度最快,性价比之选 2️⃣ 意外翻车 icon
  • 前几天我试用了新出的Qwen3-30B大模型,在Ollama上跑得跟蜗牛爬似的!气得我直接换了LM Studio这个软件,结果我的RTX4090显卡直接起飞了,每秒能处理100多个词,快得跟开了挂一样! 经过一顿猛如虎的测试后,我激动得差点从椅子上摔下来— icon
  • Gemini 2.5-Pro最牛的不是写代码多厉害!是它能像吃了记忆面包一样——哪怕你哔哔叭叭说上三天三夜,它每个字都记得门儿清!说人话就是:终于不用像以前聊15分钟就失忆重启了,现在能像打游戏存档一样一直玩下去!(突然激动)求求谷歌把《双城之战》里那种黑科技传给Gemini啊! < icon
  • 小语言模型本地AI能否干翻谷歌大模型Gemini 2.5?实测7款"野生学霸"表现! 参赛选手小模型名单: 通义千问Qwen 3 1.7B 小不点 通义千问Qwen3 4B 三好生 通义千问Qwen3 8B Q6 课代表 < icon
  • 谷歌最近搞了个叫"Project Astra"的智能管家(就像钢铁侠的贾维斯),现在正偷偷给部分测试用户玩呢~这货能把你手机变成会读心术的自行车修理师傅! 比如你满手油污修自行车时,只要喊一嗓子:"Astra!帮我找修车手册!"它就能: icon
  • Phi-4-reasoning是一种最先进的开放权重推理模型,它是在Phi-4的基础上进行微调的,使用的是对思想链跟踪和强化学习数据集的监督微调。 Phi-4推理小能手就像你们班那个数学突然开窍的同学——本来是个普通学生(Phi-4基础版),但老师给他吃了 icon
  • 2025年量化大战:谁家的GGUF最香? “万物背阴而抱阳……” ——《道德经》第42章(翻译:AI们一边藏着黑科技,一边奔向光明未来) 太长不看版: 问:现在谁家的GGUF量化模型最好? icon
  • 我跟你们说个超神奇的事儿!Qwen3这回居然把AI乱编瞎话的老毛病给治了!我每次测试新AI都像老师抽查背书一样,专门让它背法语德语的名诗。结果你猜怎么着?这个2350亿参数的Qwen3明明个头不够大(要知道背欧洲诗歌起码得6000亿参数的大块头),还是个"偏科生"模型(MoE技术让它不能同时用全部脑 icon
  • 这个"SOLO Bench"测试有多变态! 这玩意儿是个专门折磨AI的"造句地狱"——让AI用大约4000个单词的词库,硬憋出250个句子!每个句子必须严格4个单词,还得符合特定语法格式。最狠的是:每个单词全篇只能用一次!(比如"apple"用过一 icon
  • 微软刚刚在 HF 上发布了基于 Phi4 架构的推理模型plus版本(Phi-4-reasoning-plus ) icon