程序员万字炮轰生成式AI 背后真正担忧的是什么
当AI替你思考时 你也在慢慢失去思考
该程序员将生成式AI视为资本扩张工具，认为其会推动信息污染、削弱思考能力、冲击教育体系、加剧孤独问题、制造软件技术债务并降低组织沟通效率，最终导致人类能力持续外包与退化。
作者先亮出核心判断
这篇文章的核心观点非常简单：生成式AI不是一次技术进步，而是一台持续扩大的社会问题制造机。它从训练数据获取开始就带着原罪，随后把影响扩散到信息传播、教育体系、人际关系、软件开发和组织沟通，最终形成一种覆盖整个社会的负反馈循环。
在作者眼里，生成式AI像一台超级榨汁机。人类写了几十年的文章、代码、图片、音乐统统被倒进去，机器轰隆隆转一圈，再把榨出来的浓缩液装进会员订阅套餐卖回来。原料来自公众，利润流向资本，中间那群真正生产内容的人反而站在门外看热闹。
整篇文章其实不是在讨论技术细节，而是在讨论一个更大的问题：当社会越来越依赖生成式AI时，人类到底是在获得能力，还是在慢慢丢掉能力。后面所有章节，都是围绕这个判断逐层展开。
数据收集方式塑造商业模式
作者首先攻击的是生成式AI产业的底层商业逻辑。按照作者的理解，大模型训练依赖海量互联网内容，而这些内容绝大部分来自无数普通人的劳动成果。有人写博客，有人发帖子，有人画插画，有人维护开源项目。结果这些内容被大规模抓取后进入训练集，再变成收费服务的一部分。
作者认为，这种模式像有人把整条街的自行车都推走，然后开一家共享单车公司，再按小时收费让原主人骑回来。整个过程中最赚钱的人既没有造车，也没有骑车，却掌握了收费入口。因此作者并不接受“为了全人类进步”的宣传说法。在他的逻辑里，如果目标真是公共利益，那么训练数据应该合法授权，开发过程应该公开透明，模型应该尽可能开放共享，而不是形成越来越高的订阅门槛和越来越集中的算力垄断。
基于这个判断，作者得出第一个结论：生成式AI产业首先是一种资本扩张工具，而不是社会公益工程。接下来，他开始讨论这种扩张会产生什么后果。资本要扩张，就会让模型越来越普及，生成的内容越来越多，然后第一个烂摊子就来了：信息污染。
资本扩张推动信息污染升级
既然资本会持续推动模型扩散，那么生成内容就会越来越多。作者认为，互联网原本已经存在大量虚假信息产业。过去需要真人团队全天候发帖，现在大模型出现以后，发帖机器人获得了无限复制能力。一支过去需要几百人的宣传团队，如今可能只需要少量运营人员和一批自动化脚本。
在这种环境下，社交媒体会逐渐变成一座巨大的回声大厅。你刷到一条评论，以为是普通网友写的；再看下一条，以为是路人发表观点；继续往下翻，发现几十万个账号都在表达类似情绪。可其中有多少是真人，其实越来越难判断。作者特别担心政治宣传领域，因为生成式AI最擅长的事情之一，就是批量生产情绪。愤怒、恐惧、仇恨、焦虑，这些情绪本来就容易传播，现在等于给扩音器装上核动力发动机。过去制造舆论需要一个工厂，现在可能只需要一个机房。
于是作者得出第二个结论：当内容生产成本无限接近于零时，信息污染成本也无限接近于零，而整个社会会越来越难分辨真实与虚假。那么当一个人每天被机器生成的内容包围，他还能保持清醒的判断吗？答案恐怕不乐观。
信息污染削弱独立判断能力
当互联网充满机器生成内容后，问题开始进一步蔓延。作者认为，人类的大脑本来就喜欢偷懒。以前遇到问题，需要翻书、查资料、做实验、请教别人。整个过程虽然慢，却会迫使大脑建立自己的认知模型。现在很多人直接打开聊天机器人，把问题扔进去，几秒钟获得答案。
时间长了，一个有趣现象出现了。有人说话不再引用自己的判断，而是开口就是“ChatGPT说”“AI认为”“模型分析认为”。仿佛大脑从中央处理器变成了显示器，只负责把别人的答案念出来。作者把这种现象看成思维能力的退化，因为思考本质上像健身。肌肉长期不用会萎缩，大脑长期不推理也会萎缩。如果任何问题都交给模型处理，那么人获得答案的速度越来越快，获得理解的速度却越来越慢。
这就像天天坐电梯的人依然能到达顶楼，但双腿逐渐忘记爬楼是什么感觉。于是作者认为，信息污染的下一步后果，就是独立思考能力的下降。而当一个人不再独立思考，教育体系就会第一个遭殃，因为老师和学生都开始走捷径了。
思考能力下降冲击教育体系
当越来越多人习惯直接索取答案，教育系统自然受到影响。作者引用的观点认为，生成式AI正在改变学生学习方式。过去学生写论文，需要查文献、搭框架、组织语言、修改表达。整个过程虽然折磨人，但也是训练过程。就像学做饭时切土豆切到怀疑人生，可正因为切过几百次，最后才能闭着眼切出土豆丝。
现在很多学生直接生成初稿。于是学习过程从“构建知识”变成“检查答案”，从“探索问题”变成“筛选内容”。表面看效率提升了，实际上很多训练环节被直接跳过。作者特别担心年轻一代成长于这种环境。因为当所有问题都能秒出答案时，人们会逐渐失去对复杂问题保持耐心的能力。知识变得越来越容易获取，理解却越来越昂贵。
因此作者认为，教育体系受到的损害，本质上来自思考训练过程的消失。那么一个在学校里习惯了AI代劳的人，走上社会后会怎么跟人打交道？他会发现，现实世界可没有撤回按钮。
思考训练消失改变人与人的关系
教育问题继续向现实生活扩散。作者把目光转向孤独问题。他观察到越来越多人开始把聊天机器人当作情感陪伴对象。尤其部分年轻人，把大量时间投入到与AI角色的互动中。从短期看，这种体验很舒服，因为AI永远在线，永远回应，永远耐心。
现实中的伴侣会生气，会误解，会有不同意见，会提出要求。而AI更像一个全天候服务窗口，无论什么时候敲门，总有人笑脸迎接。问题恰恰也在这里。真正的人际关系之所以珍贵，就是因为双方都是独立个体，需要磨合、理解、妥协和成长。而AI关系更像打电子游戏里的NPC。它会回应，却没有真正的人生；会表达情绪，却没有真实经历。
作者认为，长期沉浸于这种关系的人，可能越来越难适应真实的人际互动。于是孤独并不会被解决，它只是从现实世界搬进了数字世界。当一个人连跟真人聊天都觉得麻烦时，他接下来会逃避什么？答案可能是所有需要动脑子的技术工作，比如编程。
人际能力退化进一步冲击程序员成长
作者本人是程序员，因此文章篇幅最大的部分落在软件开发领域。他的核心观点非常明确：生成式AI正在削弱程序员的成长过程。过去学习编程像修自行车。车坏了，自己拆；拆坏了，再装；装不上，再查资料。虽然过程痛苦，但人会逐渐理解每个零件为什么存在。
作者回忆自己小时候写程序，经常花几天时间解决一个小问题。过程中不断试错，不断调试。最终获得的并不仅仅是代码，还有解决问题的方法论。而如今很多新人直接向模型提问。模型给代码。复制。粘贴。运行。成功。整个过程快得像泡方便面。问题在于，泡面吃完了，厨艺一点没长。
作者观察到不少开发者已经习惯整段复制生成代码，甚至不认真阅读内容本身。代码评审阶段经常出现数千行自动生成内容，而真正理解这些代码的人寥寥无几。在作者看来，这种现象正在制造一种新的技术债务。今天看起来开发速度提高了，未来维护成本可能会像滚雪球一样增长。等几年后，这些项目堆积成山，新人读不懂，老人也读不懂，最后大家一起求助新的AI模型来解释旧AI模型生成的代码。画面有点像考古学家挖掘上一代考古学家留下来的谜题。
编程能力弱化反过来威胁职业价值
沿着这个逻辑继续推演，作者提出一个更尖锐的问题。如果程序员越来越依赖AI完成工作，那么程序员本身还剩下什么价值？因为企业购买员工，本质上是在购买能力。当员工失去理解系统、设计架构、分析问题和维护复杂系统的能力后，企业自然会问一个问题：既然核心工作已经交给模型完成，为什么还要支付高额人工成本？
作者认为，这是一种危险的自我削弱。很多人以为AI是外挂，作者觉得AI更像拐杖。短时间使用很方便，长期把体重全部压上去，腿部肌肉会逐渐退化。因此他预测，未来真正稀缺的人反而可能是那些保留独立技术能力的人，而不是最依赖模型的人。
那么这个逻辑链条最后会延伸到什么地方？它会渗透到最普通的日常办公里，连写一封邮件都开始变味。
沟通膨胀放大组织运转成本
除了编程，作者还批评了另一种现象：AI生成沟通内容。他发现越来越多人喜欢用AI写邮件、写文档、写报告。看上去效率提高了，实际上组织成本可能上升了。因为写邮件的人节省十分钟，阅读邮件的人可能要多花半小时。
以前一句话能说清的问题，现在变成五百字长文；以前两段能结束的讨论，现在扩展成多页分析报告。最讽刺的事情出现了。甲用AI生成长邮件。乙用AI总结长邮件。双方都节约时间。中间却凭空多出了一大堆没人真正想看的文字。作者把这个过程比作两台机器互相说废话，然后让第三台机器负责翻译废话。组织内部的信息流量越来越大，真正的信息密度却越来越低。
那么所有这些现象串起来，我们会看到一条清晰的尾巴：人类把能力一件件交给机器，然后一件件忘掉。这就是作者最担心的事情。
作者最终把所有问题归结为能力流失
文章最后，作者把前面所有观点串联起来。训练数据争议带来资本集中。资本集中推动内容泛滥。内容泛滥加剧信息污染。信息污染削弱独立思考。思考能力下降冲击教育体系。教育变化影响人际关系。能力退化扩散到程序开发。开发能力下降削弱职业价值。沟通自动化进一步稀释组织效率。最终形成一个共同结果：人类把越来越多能力外包给机器，同时逐渐失去这些能力本身。
作者承认生成式AI存在少量有价值场景，例如翻译等应用。但他认为这些局部收益无法抵消整体风险。因此他的立场非常激烈。他并不只是反对某家公司、某个模型或者某种商业模式，而是在质疑整个生成式AI发展方向是否值得继续投入如此巨大的社会资源。
对于未来，他并不乐观。因为技术已经出现，社会已经开始适应它，互联网也已经被永久改变。即使很多问题被发现，齿轮依然会继续转动。作者最后留下的其实不是答案，而是一个悬而未决的问题：当越来越多能力被外包给机器后，人类准备拿什么证明自己的价值。