ChatGPT语言模型:乔姆斯基和维特根斯坦


ChatGPT已经推动AI转向,从统计模型(理科)转变为语言模型(文科),只有理科背景的人工智能专家已经被职场抛弃:

当前的智能模型建立在图灵测试的基础上。但是还有其他的智能模型:尤其是路德维希·维特根斯坦和诺姆·乔姆斯基。 

让我们从乔姆斯基 2012 年的这篇文章开始——  诺姆乔姆斯基关于人工智能出了什么问题
关键思想之一如下:
可以从三个不同的层次理解一个复杂的生物系统:

  • 第一级(“计算级”)描述了系统的输入和输出,它定义了系统正在执行的任务。
  • 第二层(“算法层”)描述了将输入转换为输出的过程。
  • 最后,第三层(“实现层”)描述了我们自己的细胞生物硬件如何实现算法层所描述的程序。

乔姆斯基强调系统的内部结构使其能够执行任务(基于语言学),而不是系统过去的行为与环境(上下文)之间的外部关联(基于统计观点)。 

维特根斯坦也有类似的观点 :

1)“理解一个句子就是理解一种语言”
语言不仅仅是其各个部分的总和。处理单词和句子的能力并不意味着可以理解语言(以及智能)。语言封装了共享的经验。语言的使用不仅涉及理解句法(规则),还涉及根据我们的主观(和共享)经验创造性地塑造规则。 

2)“图即事实”
我们通过图片即主观体验向我们自己呈现事实。

3)“如果狮子会说话,我们无法理解他”。
即使狮子能以某种方式说我们的语言(或者可以在“狮子语到人类语言”之间开发谷歌翻译),狮子仍然很难向人类清楚地表达他的观点。狮子的话语对我们来说毫无意义,因为不是基于共同的语境。参考这里

同样的想法也适用于人工智能,即随着机器变得更加智能,它们需要体现与我们相同的语境上下文才能真正智能。

ChatGPT(GPT-3 和 LLM)代表了从统计到基于语言学的 AI 模式的根本转变。这是一个根本性的变化。

目前的人工智能专家并不适合这一波新的人工智能浪潮,因为它可能需要一种新的思维方式,而这在当前的招聘浪潮中被排除在外。