• 人类在说话言语之间其实隐藏着推理,现在OpenAI大模型已经学会了这个技巧:字里行间的推理。 大语言模型1.0时代:注意力机制,也就是基于上下文的模式匹配; 大语言模型2.0时代:字里行间的推理 OpenAI的草
  • Meta发布三款机型:新款 3.1-405B 以及较小型号的升级版:3.1-70B 和 3.1-8B。如果 405B 真如基准测试所示,那么这将是开源机型首次与最好的封闭机型相媲美——这是一个深刻的转变。 网友评价Llama 3.1-405B: icon
  • 昨天,OpenAI 的许多人同时发布了一些神秘消息,然后这个X帐户@iruletheworldmo 就启动了自说自话发帖: icon
  • 在您的计算机上本地运行Llama 3.1的3种方法(100%免费且无需互联网): 1. Ollama + Ope icon
  • 昨日,Reddit网友发现一个奇怪事情:这是什么模型?为什么它突然在 huggingface 上占据第一的位置? 什么是Hugging FaceHugging Face 是领先的机器学习和自然语言处理 (N icon
  • 40 年来,BM25 一直是搜索引擎的标准。然而,它无法满足现代 RAG 应用的需要。 BM42 诞生:语义搜索与关键词搜索的结合 什么是BM25?BM25 是一种排名算 icon
  • IMO是最难的高中数学考试,而IOL是国际语言学奥林匹克: 明天开始!学生被要求纯粹使用逻辑来翻译不太知名的语言。5个问题,6小时。 icon
  • Aidan McLau 在社交媒体上发表了一条评论: "gpt-4o mini"在"arena"上投票得分第二,这是一个历史性的时刻。表明普通人无法区分大语言模型和小语言模型了,也就是并不那么聪明,而且这是历史上第一次。由此,得出结论:AI icon
  • AnthropicAI可解释性团队今天发表了一份漂亮报告:目前大语言模型的可解释性方法可能只是触及神经网络内部的表面,而具有罕见特征的大量“暗物质”和复杂的叠加现象仍然无法理解。 Chris Olah和Adam Jermyn提出了一个观点:尽管他们训练了一 icon
  • 微调大模型提示时: 是在提示中给出相关的例子? 应该给出多少个最佳表现的例子? 如果提供更多,是否会损害性能? 示例的前后顺序重要吗? 这篇Deepmind的新论文回答了所有这些问题, 主要要点:< icon
  • 有趣的项目、工具和库 1、Mem0个性化人工智能的内存层。 icon
  • 发表在著名《Cell》最新文章《在大型语言模型中分离语言和思维》认为: icon
  • 大语言模型LLM 是一种黑盒人工智能系统,它通过对海量数据集应用深度学习来理解和生成新文本。 注意力机制是一种模仿人类认知注意力的机器学习技术,最早在 2014 年的一篇题为“通过联合学习对齐和翻译的神经机器翻译”的研究论文中提出。这标志着现代 LLM 发 icon
  • 故事一:我岳父的故事非常鼓舞人心,他是一位自学成才的电气工程师,通过自己的努力和天赋,在没有接受正规教育的情况下,成功创立了一家芯片制造公司。 他只用汇编语言编写代码。 他自己在建筑警报器上学到了很多东西。他甚至没有上过大学。 icon
  • 谷歌刚刚推出了一位精英人工智能数学家,它是一个神经符号系统,能将问题形式化为 Lean(一种形式语言),并使用经过微调的 Gemini,使用 AlphaZero 风格的搜索来解决这些问题。 在 IMO(数学奥林匹克竞赛) 2024 上解出 4/6,获得银牌 icon
  • OpenAI联合创始人Andrej Karpathy(安德烈)解释了新的计算范式: 我们正在进入一个新的计算范式: 大型语言模型像CPU一样工作 使用令牌而不是字节 使用上下文窗口而不是RAM。 这就是大型 icon
  • 为什么人们对许多(也许是大多数)论文的引言是由ChatGPT撰写感到震惊? 无聊的、仪式化的、无意义的样板文件是由人类还是机器写的,这没有什么区别? 其实,使用AI来撰写这些部分可能并不会显著改变其本质。 icon