• 当你没有意识到上下文时,你永远就被置于上下文中!中国谚语:当局者迷、灯下黑、身在庐山不识庐山真面目。G.K.切斯特顿:每一个高级文明都会因为忽视显而易见的事情而衰败。 Context Context
  • DeepMind 的一篇新论文显示,LLM 在文本、图像和音频等不同模式的数据集上实现了最先进的压缩率。LLMs 是如何压缩数据的?它们又为何如此出色?让我们来了解和讨论论文中的结果。 论文基于预测等同于压缩的观点,即一个好的预测模型就是一个好的压
  • icon
  • 设计模式是经常出现的问题的通用解决方案。它们最初是由建筑师和计算机科学家开发的,旨在为他们的设计创建更高层次的抽象。 在这里,我们将这些概念扩展到细胞生物学,以便为细胞底层反应网络的进化设计提供新的视角。 icon
  • 发表在《自然杂志》组装理论的目标是发展对复杂物质演化的新理解,组装理论提供了一个新的框架来理解选择和进化,融合了物理学和生物学。它不是将物体重新定义为粒子,而是通过它们的形成历史(#事件溯源)来重新定义。 物体对象定义 icon
  • 人类不太擅长逻辑,需要依赖内容直觉进行推理。许多认知研究表明,人类的推理并不是完全抽象的(不是完全的形式与内容分离)。 相反,我们的推理取决于问题的内容: 当内容支持逻辑推理时,我们回答得更准确, 当内容和逻辑冲突时,我们会 icon
  • 大语言模型 (LLM) 具体原理是什么?人们还在探究之中:大语言模型 (LLM)不仅仅是傻傻的下一个词预测者,它们还是有自己的的内在世界观模型,这篇新论文揭示了大语言模型的内在三观模型: 此类系统是否只是学习大量表面统计数据?还是数据生成过程的连贯 icon
  • icon
  • 萨皮尔-沃尔夫假说(Sapir-Whorf hypothesis)认为,一种语言的结构和词汇可以塑造语言使用者对世界的感知和概念。 前苏联心理学家列夫-维果茨基(Lev Vygotsky)认为,虽然思维和语言开始时是不同的系统,但在儿童成长过程中它们会融合 icon
  • 世上本无鬼,鬼是一个没有内容的符号,因为没有内容,它是形式的,类似数学符号、计算机语言符号。 每个人都可以向这个符号里面加入自己的内容和理解,证明自己的存在和思考。 上海万圣节的特点是cosplay这个内容元素的 icon
  • 实用主义是美国哲学中最有影响力的哲学运动。其最基本的原则是实用方法,即在方法论上优先考虑实际后果。 实用主义是一种“一切皆有可能”的哲学,即只要有实际利益,就可以接受某件事并视为“真实”,并且“好的。” icon
  • "每一位优秀的数学家至少有一半是哲学家,而每一位优秀的哲学家至少有一半是数学家"。-- 戈特洛布-弗雷格 人类历史上最具影响力的 5 位逻辑学家: 1) 亚里士多德他可以说是有史以来最伟大的逻辑学家和最有 icon
  • icon
  • 数学家陶哲轩在Lean4形式化证明时发现已发表论文中的错误: 陶哲轩在用Lean4发现了一个小错误:论文论证中出现的表达式 12logn-1n-k-1 在 n=3,k=2 的情况下实际上是发散的。幸运的是,这个问题只影响到较小的 n 值,对于 n≥ icon
  • 数学证明可以表示为计算机程序,反之亦然。这种对应关系被称为库里-霍华德同构,它在逻辑和计算机科学的概念之间建立了等价关系。 逻辑中的命题相当于编程中的类型,证明相当于程序。 具体来说,证明一个陈述为真可以 icon
  • 作为人工智能从业者,我们都希望语言模型能够像人类一样适应和学习。但我们目前的 LLM 却做不到这一点--它们过于依赖已有的知识和硬编码的提示。 这让我们不得不不断调整提示和脚手架任务,给模型喂食。为了让模型完成新任务,我们只能不断地对其进行脆化和操纵,这是 icon
  • 这篇文章的目的是让读者了解: 为什么存在形式化方法以及为什么这些方法在分布式系统领域特别重要。 TLA+ 简介,包括它如何表示数据和时间的概念模型。 从这里开始,您应该能够阅读 TLA+ 上的更多高级内容,并对其内容有一些基本了解。 icon
  • 集合论、范畴论和类型论三种中哪个是数学的基础? 首先,我们希望找到数学基础的定义是什么? NG de Bruijn 做出了非凡的声明我们对“数学”这个词还没有一个可行的定义。(AUT001, icon