凯文·凯利揭秘AI潜在空间:几百GB压缩人类知识并创造新世界


一张几百GB的压缩包装下了人类写过的大部分文字,还能凭空编出莎士比亚新剧本,这种事情听起来是不是比科幻片还离谱。

大语言模型、潜在空间(latent空间)、神经网络、生成式AI,这些名词这两年已经快把互联网塞满了。大家每天都在用ChatGPT问问题、写邮件、改作文,觉得AI就是个超级聪明的问答机器人。但凯文·凯利(Kevin Kelly)提出了一个完全不同的视角:AI真正的价值可能根本不是回答问题,而是它内部那个几乎没人注意到的“潜在空间”。这个东西正在变成一种全新的媒介,像纸、像胶片、像屏幕一样,给人类提供一种从未有过的创造方式。

大模型把整个互联网塞进了一张手掌大小的存储卡

想象一下,把整个互联网上的网页、几十年来扫描的电子书、维基百科里所有词条、社交媒体上公开的聊天记录和论坛帖子,全部堆在一起,需要多大的硬盘空间才能装下?答案是PB级别,甚至更大,足够塞满好几个房间。可是今天最先进的大语言模型,经过训练之后,参数文件通常只有几百个GB。这个体积小到能装进一张巴掌大的存储卡,放在口袋里随身携带。

这里面最反直觉的地方在于,模型里并没有保存任何一本书的原文,也没有保存任何一张图片的原文件。它知道莎士比亚所有戏剧里的经典台词,能模仿他的风格写新剧本,但它从来没存过一行莎翁原话。它知道猫长什么样、狗长什么样,甚至能生成一张从没存在过的人脸照片,但它的代码里没有一张猫狗或人脸的存档。这就好比你认识所有朋友的长相和性格,但你脑子里并没有挂着他们每个人的证件照。大模型记住的是所有事物之间的抽象关系,而不是事物本身。

这种压缩方式在传统计算机科学里几乎找不到先例。过去我们保存知识,就是老老实实把每个字符、每个像素、每个采样点存下来,需要的时候再原样读出来。但神经网络走了一条完全不同的路。它发现猫和狗都有耳朵、尾巴、四条腿、毛发,这些共同属性只保存一次就够了,真正需要记录的只剩下它们不同的那部分。共同部分越多,重复越少,整个知识体系就被压缩得越小。压缩率越高,说明抽象能力越强,而今天最前沿的模型已经把压缩这件事做到了让人目瞪口呆的程度。

所有概念都在同一张地图上并且可以互相推拉

这种极端压缩出来的东西,AI圈叫它latent空间(潜藏/隐藏的压缩空间)。它不是一张平面的地图,而是一个有几十亿维度的超维空间。

每一个概念,不管是具体的东西还是抽象的想法,都对应着这个空间里的一个方向:
狗的方向和猫的方向离得很近,因为它们共享了四条腿、尾巴、耳朵、毛发这些属性方向。
毛茸茸的方向又跟很多哺乳动物共享,所以从狗出发往毛茸茸的方向推一把,就会更接近猫或者兔子。
反过来,从一只鞋出发往猫的方向推,这只鞋就会变得猫里猫气的。

你可以把它想象成一个由几十亿支箭头组成的大脑,每支箭头指向一个概念:
有一支箭头指向"狗",有一支指向"猫"。
相关的箭头挨在一起,所以"狗"和"猫"共享一支"毛茸茸"的箭头,还共享"耳朵""尾巴"这些箭头。
狗的大部分特征跟哺乳动物重叠,这种重叠就是压缩的秘诀——不用重复存"有心脏""会呼吸"这些共同点,只存差异部分。

潜在空间本质上就是大模型内部那张抽象的关系地图。这张地图不是二维的,也不是三维的,而是有几千亿个维度。

所有你能想到的东西,不管是物体、声音、颜色、情绪还是数学概念,都在这一张地图上有自己的坐标。

过去人类从来没有过这样一个能把所有已知和未知同时放在一起的系统。百科全书只能按字母顺序排列词条,图书馆只能按学科分类摆放书籍,但潜在空间把所有领域全部打通了。生物学旁边可能挨着材料学,音乐结构旁边可能连着蛋白质折叠,历史事件旁边可能通向未来模拟。这种跨领域的相邻关系,是压缩过程自动产生的副产品,没有人刻意安排过。

而最疯狂的是,这张地图不是人类画出来的。

训练过程中,神经网络自己读完了海量数据,自己计算出了所有方向之间的相对位置,自己搭建了整套坐标体系。工程师能看到参数数值,但没人能直接读出某个坐标代表什么含义。大家只知道这个东西存在,而且效果惊人。

一个训练好的模型,拿着几万亿个参数,就能在几秒钟之内从任意起点出发,沿着任意方向组合,生成一段从来没有人写过的话,或者一张从来没有人见过的人脸。

语言才是那个隐藏的超级英雄

LLM这个名字里三个词都很关键。"大"指的是规模。模型吞下的数据越多,能力越强,这是目前为止还没看到天花板的规律。它吃了几百万本书、几十亿网页、几十亿社交媒体帖子,规模大到离谱。

但"语言"这部分才是真正的秘密武器。LLM最初被发明出来只是为了做自动翻译,就这么简单。早期的AI研究者试图教机器语法规则,这次他们换了个思路——不教规则,只给机器喂海量人类写的文本,让神经网络自己去挖掘那些藏在几十亿文档里的隐藏语言模式。目标很简单:让AI模仿人类日常使用语言的方式。

结果把所有人都吓到了。AI确实能像人一样翻译,但它还展现出了类似人类的智能。它能用十四行诗的格式写销售文案,能模仿任何作家的文风。有些早期研究者被这种"涌现行为"吓到了,连谷歌内部都有人觉得自家LLM可能藏着某种不该被关闭的内部智能。后来大家慢慢明白,LLM展现出的智能其实来自它所训练的语言本身的逻辑。

这个新型"心智"的形式——就是"模型"这个词所指的东西——就是潜在latent空间。它是一个抽象地图,不是二维的,而是几十亿维的。所有东西都在同一张地图上。一本书在这个空间里既是一个点,也是一段旅程。书里出现的每个概念(窗户、正午散步、街道、小贩、闲聊、愤怒、打斗、宽恕)都是方向,句子堆叠起来,方向不断偏移、交叉。

读故事的体验,本质上就是在latent空间里的一场旅行。而整本书的"总含义"也是一个单独的点或方向。

《伊利亚特》的向量跟《贝奥武夫》《摩诃婆罗多》甚至电影《现代启示录》挨得很近,因为它们都是史诗战争叙事,哪怕具体情节只有零星交集。

AI回答问题的时候其实是在地图上走路

大多数人使用ChatGPT的时候,会想象它的脑子里藏着一个巨大的资料库,你提问之后它先去翻资料,找到答案,再整理成文字回复你。这个想象很自然,因为人类大脑的工作方式大概就是这样。但大语言模型完全不是这么运作的。它没有一个提前写好的答案放在那里等待被翻出来,它是在生成文字的过程中,一边走一边形成答案的。

你的问题本身就是一个起点方向,模型拿着这个方向钻进潜在latent空间,一步一步往前蹭。
每生成一个词,方向就微调一下,就像开车导航,每拐一个弯就重新计算一次路线。
等到模型走到某个位置,发现这个区域的信息跟你的问题匹配度够高,它就把沿途经过的内容翻译成文字吐出来。

所以答案不是被找到的,而是被走出来的。

更诡异的是,思考过程和输出过程是同一件事。模型没有先在脑子里默想一遍再打字,它打字这个动作本身就是思考。它写出第一个字的时候,完全不知道最后一个字会落在哪里。

那么问题来了,模型怎么知道自己写得对不对呢?在潜在空间里,正确性、完整性、连贯性、真实性这些听起来很虚的东西,居然也各自有对应的方向。任何一个事实正确的陈述,都共享同一个“正确”方向。大模型在生成文字的时候,除了要匹配问题方向,还会持续地把输出往“正确”方向推。它不一定每次都推到最准确的点上,但它永远在尝试往那个方向靠。这就解释了为什么同一个问题问两次答案会不一样,因为每次走的路径可能不完全相同,但大方向是趋同的。


跨领域类比成了AI最拿手的本事

人类专家越来越专业,这是好事也是限制。一个研究免疫系统的科学家,很少同时精通建筑设计。一个研究材料科学的人,很少同时理解音乐创作。每个领域都在自己的围墙里越挖越深,跨领域的连接越来越难建立。但潜在空间里没有墙,所有知识都在同一张地图上,不同领域之间天然存在大量隐藏通道。

比如说,一个地质学问题在形状上可能跟某个免疫学问题长得一模一样。两个领域用的术语完全不同,研究工具也完全不同,但潜在空间里它们共享了一组深层结构。这时候就可以把一个领域的解决方案风格迁移到另一个领域去。过去能同时精通两个领域的人类几乎不存在,但AI可以几秒钟之内发现这种深层相似性,然后把方法搬过去。

类似的推拉操作还可以用在风格迁移上。你画了一张潦草的铅笔素描,想让它的笔触变成温斯洛·霍默水彩画的样子,这操作在潜在空间里就是把你画的方向往霍默风格的方向推一把。水彩风格是一个方向,霍默的笔触是另一个方向,素描本身也是一个方向,三个方向叠加之后输出一张新图。

反过来也行,拿霍默的原画往你的个人风格方向推,霍默的画就会带上你的味道。文字领域也一样,罗马人发明火药之后历史会变成什么样,这个问题需要同时精通罗马史和火药化学,然后AI把罗马历史的方向往火药方向推一推,中间产生的所有交叉点就是新的故事线。

向量算术正在重新定义测量

潜在空间提供了一种全新的抽象测量方式。你可以在里面做一种原始的算术。从"国王"这个概念出发,通过加减法可以走到"女王":国王 - 男人 + 女人 = 女王。从国王向量出发,减少男性方向,增加女性方向,最后得到的东西就是我们所说的女王。

这种计算开始提供一种测量或描述两个复杂事物之间距离的方式。

利用潜在空间测量,我们可以量化两个法庭判决有多相似,或者两首民谣旋律有多接近。只要把它们投影到一个共享的latent空间里,然后量距离就行。这个新领域可能会发展出校准标准、误差线和评估极端复杂实体的指标——这正是我们目前缺少的东西。

一个用数百万细胞图像、数十亿气象传感器、数万亿小时交通视频训练出来的模型,会注意到人类从未察觉的模式。潜在空间会在内部为这些模式发明分类,这些模式我们没有名字,因此也没有在寻找。

我们现在可以开始解剖潜在空间,寻找这些未命名的特征,然后倒推这些分类到底在追踪现实世界的什么结构。一门新的科学会描述这些"模式的模式"。一个新职业就是搜索这些在各种领域里持续存在、有潜力的模式。潜在空间变成了标本:你解剖它,从中提取发现。


空白区域成了未来创新的主战场

大模型训练的时候看过的资料越多,潜在空间里的已知区域就越大,但周围永远有一大片空白地带。这些空白不一定是因为不可能存在,很可能只是过去没人往那个方向看过。天文学和占星术之间的空白里有什么?蓝草音乐和芭蕾舞之间的空白里藏着什么风格?公司制度和盖亚理论之间的空隙里会不会有一种全新的社会组织形式?

过去创新主要靠天才突然灵光一闪,想到一个别人没想到的点子。未来创新可能变成系统性地扫描潜在空间的空白区域,每发现一个空白点就是一个新发明的起点。已知材料、已知蛋白质、已知棋谱、已知画法,这些已知的东西只占了整个地图的一小部分,周围的空白可能比已知区域大无数倍。探索者要做的不是凭空想象新东西,而是找到已有东西之间那条还没被人走过的路。

这种探索方式跟过去完全不一样。以前你只能在自己熟悉的领域里打转,换个领域就得从头学起,门槛太高了。现在AI等于给你配了一个全领域翻译官,你可以问它化学问题跟音乐问题有什么共同结构,它会告诉你方向,然后你再决定要不要深入进去。工具变了,创新的方法也会跟着变。

城市探险者喜欢钻废弃建筑和地下基础设施,去那些法律不允许去的地方。潜在空间深处埋着程序化的安全护栏(guardrails),防止模型输出社会不可接受的信息,比如怎么做炸弹、怎么自杀。潜在空间入侵者会试图越狱这些护栏,探索禁区。他们的执念是识别并绘制潜在空间的禁地地图。

平行世界搭建成本正在断崖式下跌

过去创造一个虚拟世界,需要大量人工投入。游戏设计师画地图,美术人员建模,程序员写规则,一个大制作游戏动辄几年时间和几百人的团队。未来情况可能完全不同。你想生成一个重力只有地球三分之一的三维沉浸式世界,只需要把地球这个方向往低重力方向推一把就行。你想构建一个只有一个全球政府的现代世界,同样也是一次方向推拉操作。

漫威宇宙里灭霸第一次就被打败的世界,古代中国提前几百年发展出科学体系的世界,所有那些假设性的分支,在潜在空间里其实都已经有了对应的坐标。因为模型训练的时候看过了足够多的科幻、历史和物理知识,足够支撑这些推演。它生成的不只是一张漂亮的图片,而是一整套可以运行的规则系统。物体会按照物理规律移动,水会流动,材料会变化,生物会成长,社会会演化。

世界建造者这个职业将来可能不再需要学三年建模软件,只需要学会在潜在空间里准确导航就行。成本降下来之后,普通人也能拥有自己的虚拟宇宙。今天玩沙盒游戏已经是很多人的日常,未来自己动手搭建一个完整世界大概会变成一种常见娱乐方式,就像现在拍短视频一样稀松平常。

个人AI会成为每个人的外挂大脑

现在训练一个大模型要花几亿美金,这个价格普通人想都不敢想。但技术发展的规律从来没有变过,从大型机到个人电脑,从专用芯片到手机处理器,成本永远是往下走的。总有一天,从零开始训练一个属于自己的小型AI模型,会变成普通人也能干的事。

到那时候,最值钱的技能可能不是写代码,而是给模型选教材。你把自己写过的日记、画过的画、拍过的照片、没写完的小说、跟朋友的聊天记录全部喂进去,再加上你自己精心挑出来的书单和论文。这样训练出来的模型,写东西时会带着你的口癖,想问题时会带着你的思维习惯,判断审美时会带着你的偏好。它不是你,但它产出的东西带有强烈的“你+AI”的混合印记。

这种个性化不只是换个语音包或者调个语气参数那么简单。你的个人潜空间会像一个固定角度的偏转器,所有输入进来都会被打上你的标签。别人用通用模型生成一张图,跟你用自己的模型生成同一段提示词,输出的结果会有系统性的差异。这种差异化会变成新的品牌价值。未来的设计师、写作者、艺术家,核心竞争力可能就是自己那个独特的潜空间。

潜空间正在改变知识本身的定义

过去人类认为知识就是信息。一本书是一堆文字,一张照片是一堆像素,一段音乐是一堆采样点。但潜在空间展示了一种完全不同的可能性,知识真正重要的部分可能不是内容本身,而是内容之间的关系。一首音乐和另一首音乐为什么相似,一种材料和另一种材料有什么共同结构,两个科学问题为什么拥有类似解决方式,这些隐藏关系才是创造力的核心来源。

人类大脑其实也在做类似的事情。孩子学动物的时候不会把所有图片存进脑子里,他会形成概念,知道什么叫四条腿、什么叫毛发、什么叫奔跑、什么叫生命。AI潜在空间某种程度上模拟了这种抽象过程,把世界压缩成了一张关系网。这可能是人工智能最深刻的变化,过去计算机擅长保存,互联网擅长连接,搜索引擎擅长寻找,而潜在空间开始尝试理解。

几十亿美金烧出来的压缩包最后可能只是给人类当了个地图APP,但这张地图跟之前所有的工具都不一样。它不告诉你东西在哪里,它告诉你东西和东西之间能怎么走。真正改变世界的往往不是工具本身,而是工具打开的新可能性。潜在空间这张地图把真实世界和所有可能的世界放在了一起,区别只在于真实方向和历史方向的刻度位置。罗马人发明火药的世界在坐标上离真实历史只差几个单位的偏移量,灭霸第一次就输掉的世界也是同样,AI做这些推演的时候并不觉得自己在幻想,因为它分不清真实和可能的边界,整个坐标轴对它是连续的。

站在这个时间点上,最值得关心的问题可能不是AI什么时候取代人类,而是这张地图能带我们走向哪些从未出现过的地方。

一个几百GB的压缩包能装下全人类的知识,还能在空白区域里挖出新东西,潜在空间这张地图正在让创造从灵感变成导航。

凯文·凯利(Kevin Kelly) 73岁了还在预言未来,而大多数人连潜在空间是啥都没搞懂——这差距本身,可能就是latent空间里最远的那两个点。

作者单位背景:Kevin Kelly,《连线》杂志联合创始人,科技作家,未来学家