计算机伪科学:人工智能的真正危险在于它将比我们更笨! - Edward Feser

19-09-15 banq
              

AI是计算机如何处理符号(符号形式),从键盘上的一类英文字母到更基本的,0和1的字符串,这些字母被编码。这些符号的含义并不是计算机所知道的。(banq注:形式与内容区别,人工智能更注重形式,而人类更注重内容,这两者结合起来才智慧,否则都很愚蠢)。

AI可以对计算机进行编程以检测扫描文本中“背叛”一词的实例,但它缺乏背叛的概念。因此,如果计算机扫描一个不使用“背叛”这个词的关于背叛的故事,它将无法检测故事的主题。如果它扫描包含该词的文本,但没有部署背叛的概念,计算机将错误地将其归类为关于背叛的故事。由于出现“背叛”一词的上下文与部署概念的上下文之间存在粗略的相关性,计算机将松散地模拟理解这个词的人的行为,这就像假设爬树相当于飞行。

同样,图像识别软件对各种物体的大型照片样本(面部,动物,车辆等)中反复出现的颜色,形状和其他特征的细粒度细节很敏感。然而,它从来没有看到过某种形式的面孔,例如,因为它缺乏面子的概念。它仅记录某些统计上常见元素的存在与否。

这些故障表明软件并没有像我们在感知对象时所做的那样做。软件不会整体掌握图像或概念化其对象,而仅仅响应某些像素排列。相比之下,人类将图像视为一张脸 - 即使他无法辨别出单个像素。

史密斯表示,人工智能缺陷的含义不仅仅是哲学上的。

没有看到计算机如何仅仅在不理解符号的情况下操纵符号就会产生严重的经济,医疗和其他实际后果。大多数示例涉及对大量信息进行数据挖掘,以检测趋势,模式和相关性。现代计算机的速度极大地促进了这种做法。但正如史密斯所坚持的那样,得出的结论往往是错误的,而计算机提供数据挖掘的声望只会使提出谬误变得更容易。

在任何大量的数据中,由于巧合,许多统计相关性必然存在 - 它们不值得特别关注。例如,澳大利亚一个不起眼的城镇的温度变化与美国股票市场的价格变化之间可能存在相关性。一个人会知道这两个事件没有联系。与计算机不同,人类可以概念化有关现象,从而判断 - 鉴于澳大利亚天气模式和美国股票价格的性质 - 没有合理的因果关系将它们联系起来。但是,因为计算机只处理符号而没有我们与它们关联的概念,所以它不能这样做。因此,它无法区分虚假的相关性和重要的相关性。

如果应用数据挖掘算法的结果与此示例一样愚蠢,那么任何人类研究人员都会知道要忽略它 - 但许多不那么愚蠢的结果仍然反映了巧合而不是真正的因果联系。例如,掠夺医疗数据库可能会导致某种治疗和恢复之间的统计相关性。挖掘经济数据必然会揭示各种经济变量之间的相关性。大多数这些相关性也只是巧合,但研究人员往往很容易被数据体的大小和产生结果的计算能力所打动。他们经常被愚弄,因为他们急于发现并发布有趣的发现。