Dojo
话题
新佳
订阅
极道
元认知
元逻辑
元设计
元编程
元语言
复杂系统涌现
什么是二极管思维
非好即坏、非黑即白、非正即负、非1即0的简单二元论、二分法,是一种直觉思维,代表了个人认知偏见。 这种思维方式类似二极管,要么通、要么不通。 [list] [*]二极管是一种电子元器件,它允许电流只在一个方向上流动,通常用于整流电路中。 [*]它有一个正极(阳极)和一个负极(阴极),当正极电压高于负
2024年诺贝尔物理奖获得者霍普菲尔德自传
约翰·霍普菲尔德 (John Hopfield) 的精彩职业生涯回顾,英文点击标题,下面是简单总结: 这篇文章是他的自述,讲述了他的科研和教学生涯,以及他如何选择研究问题。霍普菲尔德以自己在不同领域的研究经历为例,展示了如何从物理学转向生物学,并对机器学习产生重大影响。 下是文章的主要内容总结: 早
什么是黑客精神?
这是来自phrack的《召集所有黑客》一文: 我是 cts,也称为 gf_256、ephemeral 或其他一些名称。 我是一名黑客, 现在是一名小企业主和首席执行官。
假设:如果意识也是客观存在会怎样?
《不可简化:意识、生命、计算机和人性》讲述了科学和技术发展的非凡历史,包括计算技术从欧几里得到量子计算、人工智能和其他前沿技术的逐步发展。在这本新书中,费德里科·法金提出了关于意识和自由意志本质的新假设,他认为这些是存在的基本属性。 费德里科·法金是微处理器和MOS硅门技术
计算形式化和表征也有局限性
关于计算形式化和表征方法的局限性,我们应该从休伯特·德雷福斯那里读到什么? 休伯特·德雷福斯是谁? 德雷福斯的工作对于理解人类认知、行为和技能的本质,以及人工智能的局限性都产生了深远的影响。 休伯特·德雷福斯(Hubert L. Dreyfus,1929-2017)是一位
用还原论方法研究大语言模型?
这篇文章(点击标题)介绍了计算机科学家 Ellie Pavlick 的工作,她正在尝试将哲学概念(如“意义”)转化为具体且可测试的想法。 Pavlick 在布朗大学和 Google DeepMind 研究语言模型,探索它们如何理解概念。她的工作经常将哲学与科学相结合。
2024年诺贝尔物理学奖颁给两位AI专家!秒变图灵奖?
2024年诺贝尔物理学奖授予了两位在机器学习领域作出重大贡献的科学家:美国普林斯顿大学的约翰·J·霍普菲尔德(John J. Hopfield)和加拿大多伦多大学的杰弗里·E·辛顿(Geoffrey E. Hinton)。以表彰他们利用人工神经网络实现机器学习的奠基性发现和发明。 约翰·
如何从架构角度应对复杂性?
软件系统中的复杂性永远不会真正消失。就像物理学中的能量一样,它不能被摧毁——只能被转化、重定向或重新分配。我们做出的每一个架构决策要么会转移复杂性,要么会改变其形式。 我们可以做的是影响这种复杂性如何体现并影响我们的系
三体人:不要重构
点击图片 完整视频 [url=
为何神经网络注入能量后就变得智能?
向这些神经网络注入足够的能量(计算量),它们就能实现智能。 但这仍然是一个神秘的现象:如此简单的规则(如梯度下降+反向传播,遵循奖励函数)和大量的能量怎么会导致如此复杂的结果? 这个问题的答案就在我们身边: 生命本身就是这样一个系统。 在物理学中,我们称这些系统为耗散系统。 以进化为例:我们周围任何
AI很难被解释:神经网络中"暗物质"
AnthropicAI可解释性团队今天发表了一份漂亮报告:目前大语言模型的可解释性方法可能只是触及神经网络内部的表面,而具有罕见特征的大量“暗物质”和复杂的叠加现象仍然无法理解。 Chris Olah和Adam Jermyn提出了一个观点:尽管他们训练了一个稀疏自编码器,能够解析出1300万个特征,
布莱恩·约翰逊长寿抗衰的七个“危险”标志
最近亿万富翁抗衰明星约翰逊布莱恩(Bryan Johnson )长寿实验受到了各种流派的批评,其中最主要的是Ray Peat粉丝团。 [b]生物标志物1:低体温[/b] 布莱恩的饮食/补充剂和生活方式的选择导致他的体温在三年内降低了4°F,使其达到94.8° F-归类为轻度低温
生物进化从根本上说是一种计算现象
斯蒂芬·沃尔弗拉姆是一位著名的理论物理学家、计算机科学家和企业家,以其在复杂系统和计算理论方面的工作而闻名。他也是Wolfram Alpha和Wolfram Language的创始
大模型缩放定律已修改
人们已经完全改写了 "缩放定律 scaling laws"的本意: 最初的意思是: 在更多的数据上预训更大的大语言模型LLM会带来更多的智能(这是将 "
Claude 能否冥想?
从 "Claude能否冥想 "的实验中得到的一个重要启示是:意识似乎发生在 "混沌的边缘" Claude是Anthropic公司开发的一款新一代大语言模型,主要特点包括强大的自然语言处理能力、优秀的上下文理解、较高的安全性、友好的交互体验以及持续学习和改进。 [b]什么是混沌的边缘
伸缩架构原理也适用于大模型
谷歌的Griffin论文完美地展示了缩放定律。由于参数扩展了 7 倍,任务性能提高了大约 10%。全部都使用相同的 3000 亿代币数据进行训练。当您跨参数扩展时,模型会获得更高的样本效率或更好的推断。 重点:虽
奥特曼说大语言模型前面没有阻挡
当多家公司的多份媒体报告都报告了收益递减,Open AI奥特曼发推特说:there is no wall. 收益递减一说来自与OpenAI宫斗出局的伊利亚Ilya,他说靠大规模计算资源实现智能涌现的收益已经开始递减,此路不通。 新产品: OpenAI 即将推出“Operator”
什么是AIMS方法?
AIMS 方法可在行为体和相互作用的情况下发生变化,并配备监测器,以检测早期出现的扩大或抑制迹象。 "Aims" 是缩写,代表 "Actants, Interactions, Monitors, and Scaffolding"(行动者、互动、监控和脚手架)。 Actants: Actan
上页
下页