程序员的科技道德修养 - idlewords


擅长软件设计的人相信自己拥有从基本原理理解任何类型系统的独特能力,无需事先培训,这要归功于自己卓越的分析能力。这种在人为构建的软件设计世界中的成功促进了一种危险的信心(自大)。
作为计算机程序员,我们形成性的智力经验是使用由其他人设计的确定性编程语言系统,这些可能非常复杂,但复杂性不是我们在自然界中发现的那种。这种复杂性最终总是易于处理的。找到正确的抽象,画个框图就可以了。
当发现了解决难题的巧妙方法时,不由自主滋生了一种胜任感、控制感和愉悦感,这是让计算机程序员有时感到愉快的原因。但任何与技术人员合作过的人都知道,这种知识背景也可能导致傲慢。
 
今天,我们开始了一个伟大的项目,让计算机成为日常生活的一部分。正如马克·安德森 (Marc Andreessen) 令人难忘的那样,“软件正在吞噬世界”。我们这些编写软件的人希望被视为解放者。
我们的意图简单而明确。首先我们会检测,然后我们会分析,然后我们会优化。
但现实世界是一个顽固的地方。它以抵制抽象和建模的方式复杂。它会注意到我们试图影响它并做出反应。我们也不能指望从外面客观地审视它。
将世界视为软件问题是一种分类错误,导致我们陷入了一些可怕的思维习惯。
 
不良心理习惯
首先,程序员被训练去寻求最大和全局的解决方案。当您可以为所有人解决所有时间的一般问题时,为什么要在一个地方解决特定问题?我们不认为这是一种傲慢,而是一种值得称赞的努力经济,而大风险、大回报的创业资金文化鼓励了这种浮夸的思维方式。
其次,将世界视为一个软件项目让我们有理由自私。古老的格言说,如果给你十分钟的时间砍一棵树,你应该用前五分钟来磨砺你的斧头。我们习惯于在解决问题之前将自己引导到最大影响力的位置。在现实世界中,这导致了科技行业最大限度地提高自身舒适度的病态。
第三,将世界视为软件会促进控制的幻想。最坏的控制是没有责任的控制。我们作为数百万人使用的软件作者的独特地位赋予了我们权力,但我们不认为这应该让我们承担责任。我们是程序员——还有谁会编写运行世界的软件?
 
被算法和机器人绑架
幸运的是,我们是聪明人,已经找到了摆脱这种困境的方法。我们声称我们已经不再依赖算法,这样我们就不会被指责为我们的利益而操纵算法,我们将责任推给了机器学习,这是一种对任何事情免责的巧妙方法。机器学习就像洗钱的偏见。它是一种简洁的数学工具,赋予现状以逻辑必然性的光环。数字不会说谎。
当然,痴迷于控制的人最终不得不面对自己灭绝的事实。科技界对死亡的反应也是热烈的,死亡也可以修复,例如,Google Ventures 正在认真资助关于永生的研究,当你指出永生是妄想时,他们的首席 VC 会称您为“死亡主义者”。
这种控制的幻想伴随着黑暗的一面。见证当前对人工超级智能的焦虑,或者埃隆马斯克 显然真诚地相信我们生活在模拟中。对于计算机程序员来说,这是最终的失控。你本身其实就软件,而不是编写软件。
我们沉迷于这些虚假的问题,同时创造了一些真实的问题。
在我们试图用软件为世界提供食物的过程中,技术人员建造了世界上有史以来最强大的监控设备。我们一开始是偶然收集这些信息的,作为我们实现一切自动化项目的一部分,但很快意识到它具有经济价值。我们可以用它来使这个过程自筹资金。因此,机械化监控已成为现代科技产业的经济基础。
 
监控经济与个人隐私
监控经济市场的博弈是一种零和游戏,收集的数据的实际价值尚不清楚,但收集的数据比竞争对手多绝对是一个优势。由于人类对新形式的跟踪和操纵会产生免疫反应,因此保持成功的唯一方法就是不断寻找新的方法来窥探人们的私人生活。而且由于大部分监视经济都是由投机者资助的,因此有动力尝试吸引投机者的想象力并吸引他们的钱的华而不实的东西。
这产生了一种棘轮效应,越来越多的人的行为被更密切地跟踪,收集的信息被保留,希望能从中挤出更多的钱。
就像工业化制造改变了劳动力和资本之间的关系一样,监视资本主义正在改变私人公民与进行跟踪的实体之间的关系。我们关于个人隐私和同意的旧观念不再适用于以工业规模收集个人数据的世界。
那些从无视隐私的受益者正试图以自由旗帜来误导我们,就像早期的工厂主谈论合同法的神圣性一样,他们坚持认为工人应该有权同意任何事情,从每天工作 16 小时到不安全的工作条件,就好像工厂主和工人处于平等的地位一样。
进行监控的公司也在尝试同样的心理技巧。他们声称我们自由分享我们的数据以换取有价值的服务。但是选择退出监视资本主义就像选择退出电力或你喜欢的零食一样,理论上你可以自由地这样做,在实践中,退出则会影响你的生活,选择退出监视资本主义意味着选择退出大部分现代生活。

banq注:老子道德经说:慈、俭、不敢为人先是三宝,不为人先不是不创新,如果你不创新,你就不知道什么是“先”,你就一直在倒退,你必须一直位于“先”,但是不能吃独食,吃相不能难看,这些称为“不敢”,当你掌握技术优势,处于技术领先地位,需要有“不敢”的敬畏心理,这只是一种人生赎罪立功的机会而已。