AI先驱人物Judea Pearl认为:制造真正的智能机器,必须教它们分析因果关系 - quantamagazine

20-01-28 banq

人工智能的先驱人物朱迪亚·珀尔(Judea Pearl)认为,人工智能已经陷入了长达数十年的困境。前进的处方是什么?教机器学会了解原因。

人工智能归功于Judea Pearl。在1980年代,他领导了使机器能够进行概率推理的工作。现在,他是该领域最犀利的批评家之一。在他的最新著作《为何之书:因果的新科学》中,他指出,人工智能对真正的含义的理解不够全面。

三十年前,人工智能研究的主要挑战是对机器进行编程,将潜在原因与一系列可观察条件相关联。珀尔想出了一种使用贝叶斯网络的方案来做到这一点的方法。贝叶斯网络使机器可以识别:鉴于从非洲回来的患者发烧并出现身体疼痛,最可能的解释是疟疾。他在2011年获得了计算机科学的最高荣誉图灵奖,这在很大程度上是因为这项工作。

但是正如珀尔所见,人工智能领域陷入了概率关联中。如今,头条新闻吹捧机器学习和神经网络的最新突破。我们读了一些可以掌握古代游戏和驾驶汽车的计算机。当今人工智能的最新水平仅仅是一代机器可以做事情的一个增强版本:在大量数据中找到隐藏的规律。珀尔最近说:“深度学习的所有令人印象深刻的成就都等于曲线拟合。”

现年81岁的珀尔在新书中详细阐述了什么才是真正思考的智能机器。他认为:关键是用因果推理来代替概率推理。机器不仅具有将发烧和疟疾进行关系的能力,还需要具有推理疟疾导致发烧的能力。一旦建立了这种因果关系框架,机器就有可能提出反事实问题:询问因果关系在某种干预下将如何改变。珀尔认为这是科学思想的基石。他还提出了一种正式语言来使这种思考成为可能。

珀尔希望因果推理可以为机器提供人类水平的情报。他解释说,他们将能够与人类进行更有效的沟通,甚至可以达到作为具有自由意志和邪恶能力的道德实体的地位。Quanta Magazine在圣地亚哥最近的一次会议上与珀尔坐下,随后通过电话与他进行了后续采访。

以下是这些对话的编辑和精简版本。

可以说,科学已经抛弃了因果关系,这是一个令人震惊的事情。难道这就是科学的全部内容吗?

代数的语言是对称的:如果X告诉我们有关Y的信息,那么Y告诉我们有关X的信息。我说的是确定性关系。

数学还没有发展到捕捉我们的理解是,如果需要的非对称语言X导致Ÿ这并不意味着Ÿ导致X。我知道,反对科学听起来很糟糕。

但是科学却更加宽容:看到我们缺乏对不对称关系的演算,科学鼓励我们去创造一个。这就是数学的用武之地。看到一个简单的因果关系解决了我们这个时代最伟大的统计学家认为不确定或无法解决的问题,这真让我激动。所有这些都可以在高中几何证明中轻松而有趣地找到。

从某种意义上说,一旦我们开发了使机器能够进行不确定性推理的工具,我就离开了竞技场从事更具挑战性的任务:因果推理。我的许多AI同事仍然充满不确定性。有许多研究领域正在继续进行诊断,而不必担心问题的因果关系。他们想要的只是预测好并诊断好。

我可以举一个例子。我们今天看到的所有机器学习工作都是在诊断模式下进行的-例如,将对象标记为“猫”或“老虎”。他们只是想识别一个物体并预测它会随着时间的变化而变化。

当我开发出功能强大的预测和诊断工具时,我已经感到背叛了,这已经是人类智能的窍门。如果我们希望机器推理干预(“如果我们禁止吸烟该怎么办?”)和自省(“如果我读完高中怎么办?”),我们必须调用因果模型。关联还不够-这是一个数学事实,而不是观点。

当我深入研究深度学习的过程时,我发现它们都停留在关联层次上:曲线拟合。这听起来像是牺牲品,可以说,深度学习的所有令人印象深刻的成就都等于将曲线拟合到数据上。从数学层次结构的角度来看,无论您如何熟练地训练数据以及在训练数据时读入了什么数据,这都是一项曲线拟合的练习,尽管很复杂且很简单。

我们没想到纯曲线拟合可以解决这么多问题。事实证明他们可以。但是我在问未来,接下来是什么?您是否可以安排一名机器人科学家来计划实验并找到悬而未决的科学问题的新答案?

未来绝对会拥有自由意志的机器人。我们必须了解如何对它们进行编程以及从中获得什么。

第一个证据是机器人是否会反事实地开始相互交流,例如“您应该做得更好。”如果一组踢足球的机器人开始以这种语言进行交流,那么我们就会知道他们有一种自由意志。“你应该把球传给我-我在等你,而你没有!”“你应该拥有”意味着你可以控制一切促使你去做和不去做的冲动。因此,第一个迹象将是沟通;接下来将是更好的足球水平。(banq注:踢好足球的必要条件是具有自由意志)

 

                   

1
猜你喜欢