回顾 2022 年:neuroAI 走向成熟 – xcorr


2022年已经过去了,我们对大脑如何类似人工神经网络一样?粗略浏览了约130份摘要,并阅读了几十篇,以找到最好的、最有影响力的、最有趣的,并提取今年的时代潮流。这不是一个系统性的评论;相反,这些是我对神经智能状态的拙见。希望你能学到一些有用的东西。

到底什么才算得上是神经AI?
神经人工智能是人工智能和神经科学的交集,但这有点模糊不清。我找不到一个很好的关于神经智能的全面调查,来划定什么是神经智能,什么不是,我想限定我的搜索范围。因此,我列举了我在野外看到的所有不同风味的神经智能,并把它们放在一个二维的标尺里。

  • 在横轴上,我们定义了研究者的 "主场 "或 "应用领域"。人工智能(左)或神经科学(右)。通常情况下,论文从外部领域向他们的主场输入想法。你是想了解大脑是如何工作的,还是想制造更好的人工智能?
  • 在纵轴上,我们可以定义一个人是否以应用为动机("做有用的事情","工程",等等),在顶部与底部的好奇心驱动。

在这个框架内,我们可以确定神经人工智能的主要风格:通过挖掘神经科学来寻找使人工智能变得更好的方法。

即使有了这个相当狭义的神经智能定义,今年还是有很多神经智能研究发表了!
我在Twitter和Mastodon上询问人们他们最喜欢的出版物,然后我翻看了我的Twitter书签,然后在Google Scholar上搜索我认识的人。我进行了推理,删除了核心神经智能之外的论文,然后应用了一个完全任意的 "这是否引起了我的兴趣?"的过滤器,最后得到了大约130篇出版物,其中不包括在NeurIPS上举行的SVRHM研讨会的摘要,后者可能会在以后有自己的独立博文。为了整理这些资料,我尝试使用句子嵌入+UMAP来可视化结果,但最终还是采用了久经考验的方法--手工聚类。让我们从大的想法开始。

详细点击标题