2024年诺贝尔物理奖获得者霍普菲尔德自传


约翰·霍普菲尔德 (John Hopfield) 的精彩职业生涯回顾,英文点击标题,下面是简单总结:

这篇文章是他的自述,讲述了他的科研和教学生涯,以及他如何选择研究问题。霍普菲尔德以自己在不同领域的研究经历为例,展示了如何从物理学转向生物学,并对机器学习产生重大影响。
下是文章的主要内容总结:
早期生涯:
霍普菲尔德在贝尔电话实验室开始了他的职业生涯,那里是晶体管的诞生地。他的博士论文在康奈尔大学完成,之后加入了贝尔实验室的理论物理小组。

我的第一份全职长期工作是在新泽西州莫里山的贝尔电话实验室,那里是晶体管被发明的地方。10年前,那里的理论物理小组雇佣我作为一名技术员工。我的物理学博士论文在康奈尔大学完成,并且完成了所有其他博士学位要求,我于1958年3月初开始工作。第一天的前半天时间都花在了行政细节上。我和几位理论家在自助餐厅吃午饭,然后前往我的新办公室。整理一些书籍和期刊花了一个小时。去五楼的储藏室找到了一些有线记事本、铅笔和一把手持式铅笔刀。我削了几支铅笔。

研究选择:
霍普菲尔德经常面临“现在该做什么?”的问题,即如何选择每天的工作。他倾向于选择那些可能具有重要意义、新颖性且能够解决的研究问题。

每个科学家、学者、作家、艺术家......都面临着这个棘手的问题,即每天要做什么工作。大多数人通过稍微扩展昨天的思路、测量线、情节发展或......来回应。大多数人,如果被迫在更基本的层面上或长期的努力承诺上问“现在怎么办”,会尝试不改变自己一直在快乐地玩耍的沙箱。

跨学科研究:
他的研究跨越了多个领域,包括遗传学、神经科学和机器学习。他的2019年富兰克林物理奖章就是对他在生物学问题上应用理论物理概念的认可。

  • 对于将理论物理的概念应用于提供对重要生物学问题的新的见解,包括遗传学和神经科学,在机器学习领域产生了显著影响,这是计算机科学的一个重要领域。(富兰克林研究所2018年)

这些是因为我经常通过重大的方向改变来回应“现在怎么办”的问题。更科学的引文对于富兰克林奖表明我的两篇研究论文是我获得提名的核心。这篇文章描述了我是如何偶然遇到这些论文所解决或阐明的研究问题的。

选择自由
选择问题是一个人在科学上取得成就的主要决定因素。我在科学问题上的注意力通常比较短暂(请注意,全能型人才和半吊子之间有一条微妙的界线,我经常越界)。因此,我总是在寻找更有趣的问题,要么作为我现在的问题得到解决,要么被我归类为在我的特殊才能下无法解决的问题。

什么是物理学?
对我来说——成长过程中父母都是物理学家——物理学不是学科。

教育,广义上理解 我成长过程中拆卸东西,看它们是如何工作的,修理自行车,在厨房里探索化学(或者更好的是,在地下室里看不见的地方),制作可飞行的模型飞机,晶体管收音机和简单的无线电,玩电池和线圈,并且学会用我的手思考和操纵真实的物体。我最早的记忆之一是一把小螺丝刀,它被放在我母亲使用的脚踏式缝纫机的抽屉里。这是用于小的缝纫机调整的,但我被允许在房子里的任何东西上使用它——只要我把它放回抽屉。如果我偶尔不能重新组装我感兴趣的物体,我父亲会在晚上耐心地这样做。我对成为物理学家的早期概念是一种有点神秘的想法,即在更抽象的层面上继续这种顽皮的探索!

原子、对流层、细胞核、一块玻璃、洗衣机、我的自行车、留声机、磁铁这些都是偶然的主题。

核心思想是世界是可以理解的,你应该能够把任何东西拆开,理解其组成部分之间的关系,做实验,并在此基础上发展出对其行为的量化理解。

物理学是一种观点,认为我们周围的世界,通过努力、巧妙和足够的资源,可以理解为一种预测性和相当量化的方式。作为一个物理学家是对追求这种理解的奉献。

物理学家致力于追求对世界的可预测和可量化的理解。

教育成长
在我父亲的一代,物理学当然不涉及高薪。我父亲在1929年去了柏林,获得了古根海姆奖学金,计划在1930年返回美国从事学术工作。然而,1929年的华尔街崩盘干预了,取消了所有的大学招聘。相反,他接受了一系列的临时职位,包括在1933年芝加哥世界博览会上设立物理展览,我在那里出生。他最终在Libby Owens Ford玻璃公司找到了一份工作,在那里他研究了钢化玻璃和热玻璃,这两种材料都变成了材料科学问题。

我的高中化学老师非常出色,而我的物理老师(回想起来)甚至缺乏对力学和电学的基本原理的理解。因此受到影响,当我在大学申请上列出潜在的专业时,我写下了“物理或化学”。

最终,我必须选择一个特定的研究领域。所以在我的斯沃斯莫尔大学生涯晚期,我开始寻找研究生院的物理学,并考虑我可能专业化的领域。我的教养特别集中在我周围的世界的物理学上,而不是核物理学或宇宙物理学,而是日常世界及其技术的物理学。我最终去了康奈尔大学,而不是普林斯顿,因为在1954年,康奈尔似乎有一个部门对一个叫做固体物理学的领域感兴趣。

它由一些有固体状态标题的课程定义,一个固体状态研讨会,两个在该领域进行理论研究的教员,以及大约四个实验方向。实验问题包括低温热导率、碱金属卤化物中的颜色中心、绝缘体的紫外光谱和X射线吸收。

当时唯一研究4He超流性的一个人肯定不在固体物理学的定义范围内。唐纳德·霍尔库姆,最近从伊利诺伊大学来到,有一台瓦里安核磁共振装置,并且处于边缘。该系的其他既定兴趣是核物理学和粒子物理学、X射线和宇宙学/天体物理学。

在我的康奈尔大学第二年中期,我接近理论物理学家阿尔伯特·W·奥弗豪泽,问他是否会监督我的论文,并帮我找到一个论文问题。通过课程和解决问题,我正在迅速获得理论物理学的工具,但我不知道如何找到一个合适的研究问题。找到一个好问题不是(即使在今天也不是)在课程或研讨会上讨论的主题。

幸运的是,阿尔伯特他有一份长长的有趣的谜题清单。这些通常是以一种悖论的形式出现的:“特定现象在固体物理学中的简单经典理论分析给出了结果A,而实验给出了完全不同的结果B”。例如,被引用最多的论文以奥弗豪泽作为作者的开头两句话是:

离子晶体的介电常数和可压缩性的简单经典理论导致了两个关系,从这些关系中消除了任意参数,被称为Szigeti关系。两者都不满足数据,表明这些简单理论是不充分的。(B. G. Dick 和 A. W. Overhauser,1957年)

这篇论文总结了奥弗豪泽的第二个学生盖尔·迪克的博士论文,描述了消除理论与实验结果之间差异的物理学。

在大多数悖论中,奥弗豪泽自己并不知道是什么导致了常识性理论方法给出的答案与实验现实之间的冲突。我选择了一个与晶体中激子的辐射寿命有关的悖论,冲突在理论本身之内。天真的理论给出了零或无穷大,这两者似乎都没有意义。这成了我的问题,奥弗豪泽从未研究过。他作为倾听者和批评家非常支持,当我去看他的时候,但找到方向和解决理论问题完全是我的问题。他给我的伟大的天赋是拥有一个有趣的问题,以及对研究和进展的完全责任。

有一天,他简单地告诉我,我最好开始写下我的理解,这就是我博士研究的结束。我的论文(Hopfield,1958年)中写的单篇论文(和单一作者)由于激光器、激子凝聚态和现代光子学仍然被高度引用。

第一次真正的就业
有了理论固体物理学的论文,我进入了就业市场。学术界还是工业界?答案从我听过的固体物理学研讨会的演讲者那里很清楚。AT&T的贝尔实验室(Murray Hill)和通用电气(Schenectady)在固体物理学方面有着比任何大学都更广泛、更有活力的研究计划。我从这些实验室的访问回来,对工业界追求的领域和两个实验室相对自由的研究氛围感到非常兴奋。我最终会去贝尔实验室,主要是因为它的实验室行政结构,它已经被重新设计,所以有一个小的理论物理小组并没有直接分配到像磁性或半导体这样的子领域。相比之下,GE在它的固体物理学主题子组中各有两位理论家。

理论家们都在研究与激励奥弗豪泽类似的问题:

  • P. W. 安德森刚刚写了他的“某些随机晶格中扩散的缺失”论文。这将构成他的诺贝尔奖的基础,并是被激励去解释费赫在掺杂硅中的一些悖论电子自旋弛豫结果。
  • 梅尔文·拉克斯正在努力制定半导体二极管中的噪声问题,使其不违反热力学第二定律。(在简单的二极管-电阻电路中,使二极管整流特性导致电容器上的平均电荷为零非常困难。)
  • 康耶斯·赫林正在发明“声子拖曳”来解释掺杂半导体中异常巨大的热电功率。
  • 格雷戈里·万尼尔正在研究“斯塔克梯子”及其在高电场下可能的观察。
对我来说,回想起整个企业,最引人注目的是研究主题是固体物理学的通用问题。理论努力通常基于详细的实验,但它们并不是由AT&T的材料科学和设备需求特别驱动的。当然,贝尔实验室的大部分努力是针对后者的问题,但理论小组(子部门1111)是不同的。

赫林阅读了所有的固体物理学文献,甚至亲自翻译了一些苏联的文献。他每月开一个期刊俱乐部,挑选他阅读中最有趣的内容,分配给相关实验室的科学家进行介绍。很少有人拒绝这样做。这些高度争论性的会议对我的扩展教育和作为介绍贝尔实验室构成的极其多样化的社会是非常美妙的。(banq注:苏联这些科学家的表演成果被美国收获,自己却无法获利而崩溃,这是只有表演没有收获的悲剧)

康耶斯也是理论小组的负责人,看到我挣扎着确定下一个要研究的问题。他建议我拜访实验学家,以我自己的感觉找到有趣的难题所在,我仍然记得许多这些访问。
罗伯特·J·柯林斯向我介绍了在CdS中的“边缘发射”发光,这为我第二篇论文提供了主题。

对吉姆·兰德的子部门的访问,该子部门完全致力于ZnO,让我遇到了化学家大卫·G·托马斯,我们随后的合作为我提供了未来几年的必要难题。然而,当时没有人能猜到光和化合物半导体的结合会有它现在享有的重大技术未来。

职业转变:
霍普菲尔德在1968年离开了凝聚态物理领域,转而研究生物学。他在剑桥大学和普林斯顿大学继续他的研究,并与实验学家合作,探索血液蛋白和核酸。

1968年,我在凝聚态物理学中用完了我似乎有用的特殊才能的问题。我去剑桥大学的卡文迪什实验室做了半年的古根海姆研究员,希望找到新的有趣的途径,但对我来说几乎没有什么。

剑桥大学回到普林斯顿大学和我在贝尔实验室半导体小组的咨询,我遇到了化学家罗伯特·G·舒尔曼,他正在对血红蛋白进行高分辨率核磁共振实验。
他告诉我关于四个铁原子在广泛分离的血红素基团中心的合作氧结合。一个令人难以置信的物理学技术的多样性被用来研究这个分子。核磁共振,电子顺磁共振,光学光谱,共振拉曼散射,X射线结构研究,中子散射,穆斯堡尔光谱——所有聪明的固体物理学实验技术似乎都与血红蛋白有关。

对于一段时间,血红蛋白是物理学家的“氢原子”,用于理解蛋白质的功能。舒尔曼希望理论上的陪伴来帮助解释他的核磁共振结果,通过这些结果他希望理解生理上重要的合作氧结合的物理基础。他知道我通过与贝尔实验室(实验)化学家大卫·托马斯的互动所取得的影响。所以,他非常努力地试图让我对血红蛋白问题感兴趣,以及这类研究将生物学推向成为一个“硬”科学的潜力。

知道我的才能,生物学对我来说是个好地方

生物学研究:
他在生物学领域的研究包括血红蛋白、tRNA和蛋白质合成的动力学问题。他的研究揭示了生物系统中的校对机制,这对于理解生物合成的高准确性至关重要。

血红蛋白为我提供了一个从凝聚态物理学到生物物理学的简单入口。结构和低能激发如何导致实验物理属性是游戏的名称,就像在固体物理学的许多领域一样。生物学给科学带来的一个独特的概念上的补充是“功能”的概念;有一个小的属性子集对生物学非常重要,进化的选择塑造了生物系统,使它们运作良好。“功能”一词特别生物学,出现在生物学和应用科学/工程中,这些领域是为了人类的利益而追求的,但与纯物理学、纯化学、天文学或地质学无关。

我与舒尔曼小组互动了几年,以理解导致血红蛋白平衡氧合作用的合作性的相互作用能量的描述。贝尔实验室对此冒险相当同情。我的咨询从半导体组转移到生物物理学组,只是有人讽刺地评论说,贝尔今年几乎不能提高我的咨询费,因为我正在从一个我是世界专家的领域转移到一个我一无所知的领域。

这是一个公平的评论。我们在解释各种实验中取得了一些成功。这个小组中当时不为人知的一个成员是正夫·小川,20年后,他因利用他在核磁共振和血红蛋白方面的专业知识发明功能性磁共振成像(fMRI)而成名。fMRI可以成像大脑如何处理信息,即大脑的功能

舒尔曼贝尔实验室小组接下来将其努力从蛋白质Hb转移到核酸tRNA:由于没有办法将这样的实验与功能问题联系起来,我对小组对tRNA的实验失去了兴趣。然而,我确实参加了许多来自外部演讲者的研讨会,他们描述了tRNA的功能性生物学方面,而对其结构知之甚少。45年后仍然留在我记忆中的一个是由赫伯特·魏斯巴赫关于蛋白质合成的。充满了对任何物理学家来说都难以记住的太多细节,它包括了一个有趣的电影,学生们扮演氨基酸、RNA、蛋白质等的角色,最后在磷酸和tRNA学生消失在虚无中的同时,形成了一个氨基酸学生的链。我得到的总体印象只是蛋白质合成过程中似乎有大量高能分子的浪费。演讲者只是描述了一个线性生化途径来组装蛋白质,并没有提到我我这个物理学家对能量浪费的看法。

与此同时,我在普林斯顿大学教授我的第一个生物物理学课程,这是为物理学研究生设计的。我在血红蛋白上花费了不合理的时间。不幸的是,血红蛋白是生物学问题的糟糕介绍,因为它最明显的物理学问题是一个平衡问题;而生物学的本质是一个远离平衡的驱动系统的动力。

大约五周后,我坐下来一个晚上,决心开发一个理论处理任何生物学动力学问题。唯一的先决条件是它需要在水平和方式上处理,只需要量子力学的知识和基础的固体物理学。我很快意识到,从物理学的角度来看,生物学中最简单的化学反应是电子转移,几乎没有核运动,没有化学键的重新排列。光合作用的早期阶段和氧化磷酸化过程中的一些重要过程就是这样的性质。所以那个晚上我确定了下周的主题,并粗略地概述了电子转移速率问题的解决方案。

需要稍微休息一下,我通过三周的标准生物物理学讲座来跟随电子转移讲座,这些讲座涉及细胞膜和霍奇金-赫胥黎方程,用于沿神经细胞轴突传播神经冲动。我的陈述中没有原创性或创造性,但讲座准备开始让我在神经生物学方面的基础,这后来证明是非常宝贵的。

对于课程的最后一周,我努力描述一个涉及tRNA的动态(即动力学)问题。选择这类分子主要是因为它是我除了血红蛋白之外唯一知道的生物分子系统。tRNA在将氨基酸组装成蛋白质中起着中心作用,遵循mRNA上的指令。只需要一点点物理学思考就可以得出结论,这在部分上是一个化学动力学问题。

尽管对我的无知,我转向了准确制造蛋白质的动力学问题,作为最后一周的讲座。大多数描述蛋白质合成的生物化学研究和教科书都是基于化学反应的“锁和钥匙”描述,错误的反应是不可能的,因为“错误的氨基酸不适合”。理解生物化学通常被视为一个问题,即绘制“发生了什么”的地图,而忽视了“不发生什么”(幽暗之处不考虑的,灯下黑)。

从物理学的角度来看,大多数生化反应在室温下都是可能的。将只有与类似但不同的反应相关的不同能量,因此有不同的Boltzmann因子决定动力学速率,这种区分实际上基于能量差异。
“生物化学家”的“A发生而B不发生”应该被替换为“A以~exp(-EA/κT)的速率发生,B以速率~exp(-EB/κT)发生。坏速率与好速率的比率必须是exp(-(EB-EA)/κT),其中EB-EA是歧视能量,一个正数。

我设法整理了一些讲座,表明对于准确的生物合成,一个化学反应网络不应该被推动得太快。但这些讲座没有原创的构造,是课堂材料,不是研究。
在讲座准备过程中,我对两种非常相似的氨基酸(缬氨酸和异亮氨酸)进行了粗略的固体物理学类型的估计,它们只在一个甲基基团上有所不同。我计算了大约1/50的最大能力,任何“合理的”异亮氨酸结合位点都能区分错误地使用较小的分子缬氨酸。

不幸的是,当时生物学蛋白质合成的实验数字(来自物理学家R. B. Loftfield(1963年)的优雅工作)大约是1/3000。所以我把估计技巧从一领域转移到另一个领域的能力就这样了。

学期结束后,这个问题仍然困扰着我。一个月后,我意识到可能真的有一个悖论。我的估计可能是大致正确的,Loftfield也可能是正确的。

准确性水平可能不是由一个简单的歧视能量决定的。在宏观层面上,打字员可以校对文档,因此产生一个最终副本,在原始打字中大部分错误已经被纠正。
解释准确性悖论的一种方式是细胞生物学包含一种方法,可以在分子水平上校对生化反应,从而从固有的基本准确性获得一个准确性(1/50)*(1/50)=~1/2500。
可能存在一个研究问题,即寻求理解是否体内生物化学存在着这种校对?我们(即生物化学家)只是没有注意到这个事实,因为我们不知道要寻找。

在接下来的两个月里,我找到了基于已知生化细节的蛋白质合成校对的合理方案,并描述了可以作为校对发生的临界测试的实验类型。对于将一个氨基酸添加到生长中的蛋白质,使用了一种特殊的复合体,其中包含一个GTP分子,一个tRNA分子和一个氨基酸。

当时的范式将描述这种GTP使用和添加的氨基酸之间的正确生物学化学计量比为1:1。任何从这个整数比率的偏差都应该归因于实验研究中的缺陷。我的预测是化学计量不是整数:应该存在滑动,化学计量略大于1:1,即使是添加正确的氨基酸,对于添加错误的氨基酸,比率应该是大的——肯定大于10:1。我不知道如何设计一个真正的实验来测试这个想法。

同样的基本反应方案用于DNA合成、tRNA充电(即将氨基酸连接到其特定的tRNA)和组装蛋白质。我的研究论文(J. Hopfield,1974)描述了这三种非常不同的化学反应的反应方案,作为不同的方式来结合一个简单的统一原则。虽然在1974年的论文之前,对DNA合成的一些“编辑”描述已经被理解,但校对和歧视的一般统一能量和动力学方面还没有被认识到。

即使在发表两年后,这篇论文仍然没有很多分子生物学读者。

  • 为何没有人认可?因为生物化学家通过细节看过程,如果描述中的任何细节都是错误的,他们会拒绝一个想法,他仔细纠正了我在化学命名法中所有无知的错误。这是因为这是我写过的第一篇包含“核苷”或“合成酶”或“异亮氨酸”甚至“GTP”等词的论文。
  • 后来有了读者的原因是:布鲁斯·阿尔伯茨(后来成为美国国家科学院的院长)对最终手稿的帮助。

演讲结束时的第二个问题来自罗伯特·C·汤普森,一个我完全陌生的人。他只是问:“你想听到这样的实验结果吗?”然后他继续描述他的实验(尚未发表)和测量的化学计量比率,这些比率完全支持我的校对想法。他接着描述了链霉素如何通过消除校对来杀死细菌,导致蛋白质中有如此多的错误,以至于细菌无法生存。(R.C. Thompson 和 P. Stone,1977年)这是我科学生涯中最大——也是最愉快的——惊喜之一。

1974年的论文对我来说在处理生物学问题的方法上很重要,因为它让我思考生物学中反应网络结构的功能,而不是分子本身的结构(banq注:1+1>2的原因,复杂系统的涌现)。

  • 一个网络可以“解决问题”或具有功能,这是单个分子和线性路径所无法做到的。
  • 六年后,我在思考神经网络而不是单个神经元的性质时,概括了这种观点。

现在怎么办???继续寻找问题。。。


神经科学:
霍普菲尔德对神经科学的兴趣始于他在麻省理工学院的神经科学研究计划(NRP)的参与。他试图找到一种方法来理解大脑是如何工作的,特别是大脑如何通过动态系统吸引子来计算。

我在1977年秋天在那里教授物理生物化学课程。期待一个网球伙伴的电话,我匆忙接了电话,结果发现是弗朗西斯·O·施密特打来的。他运营着麻省理工学院的神经科学研究计划,将在下周三过境普林斯顿,非常感激我能给出半小时的见面时间。

接下来的一周,弗朗西斯·O·施密特来到我身边。他描述了一个名为神经科学研究计划的实体,主要在波士顿举行小型会议,由20名该计划的常驻成员和20名访客参加。访客被广泛选择,但通常选择的重点是特定会议正在考虑的特殊主题。施密特邀请我去下一个会议发言。我建议我的生物化学课程中的一个物理研究生,他写了一篇关于神经编码的数学论文,可能会发表更有趣的演讲,这个建议被施密特迅速拒绝。我告诉他我对神经科学(他几年前创造的一个词)一无所知。他说那没关系,“只要谈谈你感兴趣的”,所以我谈到了动力学校对和细胞生物合成大分子的准确性问题。

观众——神经学家、神经内分泌学家、心理学家、免疫学家、电生理学家、神经解剖学家、生物化学家——对我所说的话理解甚少。但这并不重要。弗兰克想要增加一个物理学家成员到小组中,希望以某种方式将具有不同科学经验的人带入他的学科,并可能帮助它变得更加综合和更具预测性的科学。

弗兰克是一个信徒,他以狂热者的信仰相信,不知何故,科学将能够弥合分子、大脑、思想和行为之间的差距。他从普林斯顿相对论家约翰·A·惠勒那里得到了我的名字,他(出于我从未理解的原因)一直是我的坚定支持者。惠勒还主持了将我作为物理学教授带到普林斯顿的搜索委员会,因为我在固体物理学方面的研究。这是一项安排好的作品。在弗兰克的领导下,小组投票让我成为一名成员。


我被会议上的演讲所吸引。思想如何从大脑中出现对我来说是人类所提出的最深刻的问题。绝对是一个问题。它正被这个NRP俱乐部的科学家以狭窄的切片——作为问题——追求,他们具有不同的才能和巨大的热情。但在我看来,这个科学家小组永远不可能解决这个问题,因为解决方案只能以适当的数学语言和结构来表达。当时参与NRP的人中没有一个在数学领域轻松驾驭。所以我加入了小组,希望定义、构建或发现我可以用理论物理学的工具做的事情。

我的神经生物学基础教育来自于参加半年度的NRP会议,坐在他们各自领域的世界专家旁边,他们会耐心地向我解释他们对正在发生的事情的解释。尽管施密特尽了最大努力让专家们广泛地演讲,并以综合的方式描述神经科学,但他通常在这项事业中失败了。所以我的介绍包括了一系列不连贯的专家观点,关于从灵长类动物神经解剖学到昆虫飞行行为、电生理学在失用症中的应用、大鼠海马体的学习、阿尔茨海默病、钾通道、人类语言处理等的实验神经科学,以及来自神经科学其他角落的专家的解释性评论。

这些评论通常让一些人对其他子领域的研究细节感到不耐烦,但科学永远是这样,而且无论如何,我寻找的不是细节。我给自己的任务是找到一个综合的观点,试图以某种方式超越从灵长类动物神经解剖学到昆虫飞行行为、电生理学在失用症中的应用、大鼠海马体的学习、阿尔茨海默病、钾通道、人类语言处理等的讲座的不连贯细节,找到我可以有用地用理论物理学工具做的项目。

大脑和机器通过遵循演变的状态轨迹“计算”
简单的数字计算机通过从机器的初始状态开始获得答案,这个初始状态由程序和一些数据隐含地描述。然后它们一次又一次地改变状态,在计算机时钟的每一个滴答中,根据内置在机器硬件芯片中的简单规则。最后,状态改变停止了。一个结束状态已经达到,规则不再产生进一步的状态改变。程序化问题的答案是现在包含在一些特定的内存寄存器中的信息。

细胞自动机是非常特殊的数字计算机,在20世纪70年代末短暂地出现在太阳下。它们涉及一个等效的“细胞”阵列,就像棋盘上的方格(忽略颜色)。每个“细胞”都有一个内部状态,它随着时间以确定性的方式变化,根据只涉及那个“细胞”的内部状态和其邻近“细胞”的内部状态的规则。所有细胞都是等效的,并且同时改变它们的内部状态。

我第一次听说细胞自动机是在阅读《科学美国人》上关于康威的“生命游戏”时,我推测这种基本思想的概括或修改可能有助于理解大脑是如何运作的。

  • 我推测,如果细胞状态转换规则被做得不那么严格结构化,更像提供输入的突触连接网络,并且如果同步时间被放宽以反映神经信号传播和处理的延迟,那么可能有可能弥合数字计算机和神经系统之间的概念鸿沟。

1978年秋天,我开始尝试“生命游戏”的解释,使其更像神经生物学,希望看到它通过遵循状态轨迹来“计算”。不幸的是,我无法进行必要的数学运算来跟踪任何这种模型的演变状态轨迹。我需要编写一个程序来模拟这样的系统,并且进行计算机实验,以深入了解各种模型。很难想象37年前大学计算机和计算机实验室的原始状态。机器很慢,机器时间很昂贵,向计算机输入主要是通过打孔卡,输出写在庞大的打印机上,电视类型的显示终端很少见。计算机能力以微处理器中的晶体管数量来衡量。

普林斯顿的通用计算和普林斯顿的高能物理小组的计算机(物理系唯一的部门计算机)都是以数值计算模式运行的。如果你猜测模型的结构,快速而轻松地探索这些猜测在数字机器上的后果,并希望找到有趣的神经活动演变模型,这个想法对普林斯顿和贝尔实验室的计算机设施和环境来说是陌生的,我也隶属于贝尔实验室。

鉴于我的计算环境,我几乎没有取得进展。我想追求的基本想法是,任何计算机,无论是数字机器还是大脑,都通过从起点(程序和数据)到终点的动态轨迹来操作,轨迹需要稳定,以抵御噪声和系统不完美,以可靠地到达答案。

我确实在NRP上做了一个关于神经生物学作为通过动态吸引子计算的系统的演讲。但是,既没有计算机模拟,也没有数学来支持这个观点。一位年轻的访客在演讲结束后来找我,告诉我这是一个美丽的演讲,但不幸的是,它与神经生物学无关。其他人忽略了它。讽刺的是,我2015年的斯瓦茨奖(来自神经科学学会的计算神经科学奖)实际上是为了这个基本想法。但当然,计算神经科学这个术语的存在意味着现在该领域有许多数学上老练的科学家,而在1979年,这在该领域是非常罕见的。

1978年,加州理工学院校长哈罗德·布朗辞职成为国防部长,加州理工学院再次在市场上寻找物理学家校长。他们转向马文·戈德伯格,一位杰出的理论物理学家,他曾担任普林斯顿物理学的主席。加州理工学院,有德尔布吕克在生物学系的教员,一直在努力加强生物学和物理学之间的联系。戈德伯格看到了我在普林斯顿物理学系努力做生物物理学的挣扎。所以在他的加州理工学院校长的蜜月阶段,他说服了他的教员提供给我一个联合化学和生物学的捐赠教授职位。加州理工学院物理系,由默里·盖尔曼和理查德·费曼的思想主导,当时对我这种方向的教职可没有任何兴趣。

1980年2月。加州理工学院的量子化学计算设施是一个极好的环境,可以尝试模型。它支持多用户实时计算,有CRT显示器和直接键盘输入,没有编译延迟。我的研究是对这种设施预期目的的滥用,但没有人看。它迅速变得明显,前一年关于大脑计算与常规细胞自动机关系的推测是无用的。

放弃一个已经培养了一年的错误的主意是出奇的困难。所以,而不是完全放弃,细胞自动机被变成了一个随机的准神经网络。细胞自动机的规则结构被放弃,转而使用随机选择的连接。复杂的状态转换规则被一个受生物学启发的规则所取代。但是,经过一年的模拟和数学,我终于放弃了随机网络。相反,为什么不尝试一个具有特定结构的网络?

概念上最简单的任务,并且适合通过动态系统吸引子计算的基本计算范式,是联想记忆

  • 联想记忆是相互的——看到某人让你想起了他们的名字(至少在我年轻时是这样),听到他们的名字让你想起了他们的长相。
  • 这一事实可以通过使连接成为相互的来表达在网络结构中。
  • 这样的网络的数学与负责固体中所有复杂形式的磁性的“自旋”系统的数学密切相关。
我通过与贝尔实验室的理论物理学的联系,对这些系统有所了解。突然之间,有了一个神经生物学和物理学系统之间的联系。

神经网络:
他在1982年发表了一篇关于神经网络的开创性论文,这篇论文对后来的机器学习和人工智能研究产生了深远影响。

我先前同意参加一个名为“从物理学到生物学”的研讨会,该研讨会由凡尔赛的Institut de la Vie举办,时间是1981年夏天。这是一个不同寻常的聚会,由Maurice Marois组织,他是一位梦想加强不同科学家之间联系的医生。他很有说服力,能让赞助商信服,对诺贝尔奖得主也很奉承,并且在凡尔赛宫的镜厅里举办了一个豪华而矫揉造作的会议,演讲者们自己则住在特里安农宫酒店。我很高兴(如果有点腐败)接受了这次全包的巴黎之行的邀请。我放弃了之前选择的主题,转而基于最近的工作报告,这使得凡尔赛的演讲成为这个主题的第一次公开演讲。我从未遇到过任何记得听过这次演讲的人。

我写的第一篇关于这项研究的手稿是一份广泛的报告,介绍了我最近的研究成果及其知识背景,计划用于会议论文集。当组织者放弃了书籍项目时,我开始将我的草稿转换成一篇研究文章。我有两个目标受众,物理学家和神经生物学家,所以立即想到了在PNAS上发表:神经生物学家阅读PNAS,可能会看到这篇文章。。而且,尽管在那个时代很少有物理学家定期阅读PNAS,但至少PNAS通常在物理图书馆中都有。

作为一个科学院成员,我可以发表这样的论文,而不需要任何审查(现在这已经不可能了,这是对科学出版和原创性推广的可悲评论)。将我的物质提炼成PNAS是一个挑战,因为有一个绝对的5页限制,两个受众要解决,还有很多要说的。

关于非小说写作,欧内斯特·海明威评论道:
“如果一个散文作家对他正在写作的内容了解得足够多,他可能会省略他知道的东西,而如果作家写得足够真实,读者就会像作家已经明确表述了它们一样,对那些东西有同样强烈的感觉。”(E. Hemingway,1932年)

PNAS的长度限制迫使我在选择说什么和省略什么时非常挑剔。如果海明威是一位物理学家,他会认识到这种风格。事后看来,几乎明显的省略可能增加了论文的影响力。未陈述的成为了邀请他人添加到主题的邀请,从而鼓励了一个贡献者社区来研究这样的网络模型。

这篇1982年的PNAS论文是我首次使用“神经元”一词的出版物。它为许多物理学家和计算机科学家进入神经科学研究提供了一个入口。

进一步的工作将这些网络与联想记忆之外的许多重要应用联系起来。这是我写过的被引用最多的论文《基于大量信号连接的集体决策电子网络》(6800次引用)。即使是AT&T也很高兴(我在这段时间里一直与贝尔实验室有兼职关系),因为这项研究也产生了一个非常频繁引用的专利。

在引言中,我描述了选择要做什么工作是研究生涯中最重要的因素。这篇文章的其余部分描述了导致两个“问题”的经验和调查路径,这些问题被很好地定义,成为了主要的研究领域。在每种情况下,都有一个缓慢的个人积累,由故意的步骤和偶然的事件的影响塑造了我看待科学世界的方式。这种积累将塑造我在可能性路径的下一个岔路口的选择。


科研哲学:
跨学科研究,霍普菲尔德认为,选择研究问题是科研生涯中最重要的因素。他鼓励科学家们勇于提出自己的问题,即使这些问题可能看起来与他们的专业领域不完全相关。

一系列不可预测的事件让我从童年时期受到父母物理学家的“世界作为物理学”的影响,到凝聚态物理学,到康奈尔和贝尔实验室,从那里到蛋白质的化学物理学,最后到教授普林斯顿大学课程,我对此知之甚少。我需要为我的学生们准备讲座主题。

我在科学上所做的一切都完全依赖于专家的实验和理论研究。我非常尊重他们,特别是那些愿意尝试与不是他们领域的人交流的人。


banq总结

  • 霍普菲尔德的大部分精力是在确定要解决什么问题,而且跨学科寻找问题。这是科学创新的幽暗之处。
  • 科学家是从逻辑悖论中寻找突破,苍蝇不叮无缝的蛋
  • 霍普菲尔德从物理学家跳到生物研究,这种科学研究是黑客研究法,直接跳到其他领域上下文,发表论文,结果整篇论文因为一些细节错误被专业人员完全否定。