6 人类之镜

6.1 人塑造工具

人类总是在还不了解自己的情况下，就急着去探索外界。我们把大部分精力向外投射，而不是向内凝视。你有没有发现：我们对宇宙的想象，往往比对自己情绪的理解更具体？我们对宇宙的认知，可能远远大于对地球海洋的认知；我们尚未真正理解人类从何而来，却热衷于寻找外星人。我们不清楚什么是意识、什么是思想、为什么会做梦，但我们却可以模仿它的结构，创造了计算机神经网络。这是不是很像人类一贯的习惯：先学会“怎么做”，再慢慢问“为什么”？可如果一个东西能带来效率与生产力，我们真的还会在意“why”吗？

6.2 AI的冷战

为什么一个计算机科学家会站在“物理学”的最高奖台上？在学术圈里，我们并不缺乏图灵奖得主，也会慕名去听他们讲课，观察他们那种由智慧带来的自信、风趣，以及对知识掌控后的洒脱。虽然Hinton 把“心智”做成了工具，但在他的眼里，我们看到更多的是担心与顾虑。他担心的不是“工具本身”，而是人类本性将如何使用这把工具。他曾公开表达过不愿与军方合作的态度，因为他知道后果：当技术被卷入权力与安全叙事，方向会被改写，边界会被推开，后果往往不受控制。人类总喜欢打着“发展文明、改善生活、提高生存质量”的旗号，放纵自己的控制欲、好奇心，以及那种无终止、无节制的扩张冲动。科技进步确实让生活更便利，但很多发明最终都会被纳入竞争与武器化的逻辑：作为要挟的筹码、争夺资源的手段、划分地图线条的工具。我们在毁坏孕育我们的环境的同时，也在彼此消耗、彼此威胁。一个人、或者一个国度，若真的“统治了地球”，又能怎样？然后呢？和平共处从来不是一个人、几个人的事。所谓“共业”，意味着多样性、分歧、贪婪，像写进了人类行为模式里。那你觉得：在这种底层结构不变的情况下，任何强工具出现后，人类会用它做什么？会用它做更高尚的事，还是更有效率地争夺资源？如果 AI 只是提高效率的程序，它本身并不必然构成威胁。真正的问题是：我们会满足吗？你有没有发现，人类对“够了”的耐心越来越少？当你拥有更多，你会更安心，还是更怕失去？有人问：为什么 2023 年 Hinton 没参与某些“暂停发展”的呼吁？也许因为他太了解现实：没人会真正停止。你相信“大家一起停”这件事吗？每个个体似乎觉得只有自己创造第一个AGI，就可以统治世界。

6.3 人类的失衡

人类经过了千年的进化与自然淘汰，但大脑的结构并没有本质变化。技术在狂奔，智慧却未必同步增长，甚至有时像在退步。智慧的成长不只依赖信息和算力，而更依赖痛苦、反思、顿悟与慈悲——它是一种缓慢的内在进化。文明与科技的发展呈现间歇性的幂次增长，而算力的提升更像指数曲线。第一代计算机到现在不过八十余年，人工智能真正的爆发也就是最近这几年。相对于基因与心智的演化速度，这种技术层面的指数加速，反而显得格外可怕。我们还来不及建立新的道德与制度，就已经拥有了新的力量。你会不会也有一种隐隐的不安：我们创造了一把锋利的刀，但不仅不知道它为何如此锋利，而且还没学会怎么拿？我本科学的是计算机，后来学了统计，亲身经历了“人工智能从单靠逻辑到单靠数据”的转变。因为棋盘与社会不一样：棋盘有有限规则、有输赢、有可被形式化的边界，但生活却没有那么清晰，没有统一规则，没有绝对的好坏对错输赢。人类创造的信息几乎是无限的，认知和共识也没办法精准的数字化，所以智能系统不能只靠逻辑的输入，它必须从人类数据中“学习”一切。随着硬件与网络的发展，数据与算力变得越来越廉价，几十年前的“神经网络”也重出江湖。它的本质，是构造一个模仿人类大脑的神经元与连接网络，并赋予大量初始参数——像一个新生儿一样，一无所知。网络结构越复杂、参数越多，这个新生儿的潜力就越大。所谓“训练”，就是给它大量输入与输出，让它不断调整参数，用有限的参数，去压缩、记录、近似表达那些看似无限的“规则”和“认知”，从而给这个新生儿建立一种世界观。等它拥有了基本理解，我们再用“强化学习”的奖惩机制，让它学会在环境中“混社会”，再次更新参数，逐渐长大成人。说得更直白一点：它就是一个网络结构加上百亿、甚至万亿参数。但结果却出乎意料。除了它在形式上模仿人类，我们仍很难说清它为何能“成功”到这种程度。那么把“从数据里学规律”的工具放进生活，它会学到什么？会学到智慧，还是学到迎合？会学到慈悲，还是学到最有效的操控？

6.4 魔盒里的诱惑

贪婪让人类打开了潘多拉的魔盒。几年前，OpenAI 为了敛财，放弃了初衷公开发布了chatGPT，推动了闭源的大语言模型生态, 引起了各种模型的公开与竞赛。在我们尚未完全理解却已开始复制。荣幸或不幸，我们这一代人正在经历 AI 的崛起：一方面体验生活与工作的高效率，另一方面也面临巨大的不确定性。这究竟是复兴——一个为我所用的工具？还是取代——通用与超级智能最终会主导未来？当然，许多争论都仍是猜测，有人说量变会引发质变；有人说真正智能需要逻辑而不只是数据；有人说它只是语言预测、并无理解；也有人说只要无法区分它与人，它就可以成为智能体并取代人。但这些争论大多仍是在我们还没有真正理解人的大脑与意识的前提下，从“人的角度”去定义智能。如果我们连“理解”和“意识”都没定义清楚，凭什么去定义和争论AI的属性？我们发现了火，却被火烫伤；我们发现了核能，却把它做成互相伤害的武器。我们的文明与道德，是否配得上我们的科技？也许重要的不是复兴还是取代，而是人类如何在发展“非人类智能”的过程中与本性和业力相处。不迷失自己，并在欲望与恐惧中守住边界，尽可能掌控自己的命运。《天龙八部》里的扫地僧在每一本武学旁边放一本佛经，他在提醒学者——力量必须与智慧相匹配。没有智慧的修炼，只会走火入魔，像鸠摩智一样自取其灭。江湖上能行走的高手，靠的不只是武功。宇宙里衡量文明等级的标准，也不会只是算力与技术。武功高强还能行走江湖的，一定有更高的品行与智慧。一个文明若无法驾驭自己的欲望，注定变成宇宙的一个失败的实验被淘汰。其实判断个体和文明的高低其实很简单：对弱者的态度。目前每个AI公司都花大成本想第一个研发出“AGI”，成为武林霸主，成为mighty God, 但很少有人关心这个竞争过程对环境的污染，以及AGI本身对人类的影响和安全性。虽然人类对AGI即有了定义又有了顾虑，也很清楚机器可以“联合学习”，但我们还是选择了在没有设置任何规定和限制的条件下，以竞争的方式实现AGI。这不但浪费了我们有限的资源，而且给自己埋下了很大的安全隐患。人类发展科技的根本目的之一，就是获得控制、减少对未知的不确定性。但我们正在经历的时代，恰恰充满不确定性：它会给我们带来恐惧，让我们害怕失去控制。但它也会逼迫我们重新思考存在的意义，如果这是一个新的轴心时代，那么人类的命运，就会在这份恐惧、贪婪与迷茫里，在个体与集体业力的对抗中展开。

6.5 工具塑造人

我们以为自己在制造工具，实际上也在制造一种环境：一种让“更快、更省力、更确定”成为默认选项的环境。你有没有发现，一旦“默认”形成，选择就不再是选择了？当工具成为环境，它就开始塑造人——真正可怕的未必是机器像人，而是人慢慢活成了机器，甚至机器喜欢的样子效率与进化：舒适等于进步吗？用机器替代劳动力提高生产力，但这意味着人类进化么？1946 年，人类第一次在集体意识中确认，“计算”可以由一种通用的电子机器来承担。十年后，计算机学会了管理时间与资源，操作系统诞生。又过了近三十年，计算机通过图形界面进入普通人的日常生活。如果20年内，通用人工智能和超级人工智能出现，那么在百年内，人类创造了一个新的超级物种，但人类本身的基因几乎没有发生进化，甚至在某些方面我们变得更脆弱。现在很少有人能做一天农活，同样生活标准，当代年轻人的付出似乎比上一代少很多。疫情后我甚至像失去连续五天上班的体力。生活更舒适了，但你有没有想过：舒适到底在培养我们什么？我们的基因主要传递的是生物信息，而且受概率限制，智慧和知识也大都被过滤掉了。所谓将门无虎子，大都是后天通过环境影响的，可维持性不高。人类基础教育大都是通过学校一对多“传授”，用语言传递信息。但语言的边界就是人类的边界，再加上个体间的交流和理解差异，有心的或无意的，造成信息传播效率很低，更不用提恶意散布虚假信息的。数学家的孩子不一定数学好，球王的孩子不一定喜欢踢足球。数字化能零损耗保存知识，但“智慧”很难传承。伟大思想家和科学家们离开后，知识留下，洞察却消失，他们的智慧已经不会再会为这个世界创造。那当 AI 能“无限分享与累积信息”，人类该留下些什么？我们如果把思考外包，会不会连“该问什么问题”都外包出去？机器的算力不仅是人类的万倍，消耗的能量远远低于人类，而且它们之间信息的传递是零损失，这就意味着信息的无限分享和积累。毫无疑问AI可以的提高我们做任何事情的效率，但如果对它的依赖养成了习惯，我们的就会丧失思考的能力和专注力，甚至自由。无论是我们主动向AI获取信息，和LLM互动，还是无形中被AI喂食信息，在社交软件，短视频，网上购物等各种以各种方式被推送信息，我们都无形的被算法影响和侵蚀着。我们本来有限的自由意识在一点点被剥夺. 在你知道自己想要什么之前，算法早有猜测，并开始引导你。你真的能分清：这是你想要，还是你被推向的“顺手选项”？当选择越来越省力，你会更自由？还是更束缚？如果未来你的一生都更容易——你会更像你自己，还是更像一个被优化过的用户？

6.6 多巴胺的诱惑

不得不承认，我们的本性从未改变，依然是求生。只是“生”的定义，在不断被重写。从躲避猛兽，到争夺资源和便捷，再到争夺注意力与位置，只不是形式变了，动机却始终如一。正是因为这样，在一个平衡下，外界的发展慢慢导致了内部能力的丧失。在 AI 崛起但尚未具备觉知的时代，在人类潜意识仍被多巴胺驱动的时候，一部分人已经开始率先利用 LLM，对接的不是人类的理性，而是最原始的奖赏系统。通过算法、反馈和预测，这些系统被不断优化，用来制造高度黏附的数字刺激。它们不以理解为目标，而以停留、重复和上瘾为结果。这并不是阴谋，而是效率；不是恶意，而是对人性弱点的精准适配。数字时代的“烟”由此诞生——它不摧毁身体，却长期占据注意力；不让人失去意识，却让人逐渐失去清醒。几个月前，我开始在 YouTube 上收听一些讲述历史案件的频道。起初只是偶尔一听，作为背景声音，作为对“人性”的一种旁观式了解。但渐渐地，那些血腥、残忍与极端情绪所带来的刺激，开始在不知不觉中转化为多巴胺。我发现自己每天都在听，不停地播放，哪怕内容早已不再新鲜。几个月后，我开始频繁头疼，感觉大脑像被不断充气，已经无法再容纳任何新的信息，甚至出现一种近乎“数码呕吐”的状态——不是疲惫，而是饱和。更令人不安的，并不是身体的反应，而是心理的自我辩护。我的潜意识不断用“理解人性”“思考社会”“获得洞察”作为借口，为这种沉溺赋予意义。而当我强迫自己停下来，当大脑真正需要安静的时候，我却依然会下意识地拿起手机，反复滑动，只为了寻找下一点微弱却熟悉的多巴胺。你有没有经历过：明明只想看五分钟，结果一小时没了？你以为你在休息，但为什么越刷越累？你在用手机，还是手机在用你？因为人类本性对效率和信息的追求，我们会想在更短的时间内获得更多的信息，提高所谓的“效率”。各大社交和购物平台热利用了这一需求，用短视频和设计的故事收集了我们碎片的闲时。但如果大脑被这碎片化的信息大量占据而上瘾，开始在其上花更多的时间，如此习惯给大脑就很少甚至零空间去感受和体验这个物理世界。写到这里我不禁环视四周，车上大部分人都是低着头看手机，包括我，只有几个人闭目养神。没有人欣赏路边的鲜花，或是看小鸟在树上筑巢，忽略了五官对”现实”生活的感受，却把精力投入到离自己很远甚至毫不相关的他人编导的”现实”中。这种对二手数字生活产生的多巴胺上瘾，和佛家的五蕴皆空背道而驰。我们在不知不觉中放弃碳基生物特有的感官，被占领的大脑的我拿着手机，在忽略自我感官的现实里过着行尸走肉的生活，你觉得这算不算一种“感官的退化”？当五蕴被搬运到屏幕里，我们的“当下”还剩多少？当你停不下来时，你是在选择快乐，还是在被训练成“停不下来的人”？

6.7 “叶文洁”时代：什么能逼醒我们？

我们说“AI”，其实不是一个个体。硅基智能会多样、会竞争，会带着创造者的影子。不同国家和公司会给模型套上不同的边界。也许你已经发现，不同公司和国家的“LLM”有不同的”政治正确”的枷锁。DeepSeek是”我党”领导下的大语言模型，对话中充满了对党的忠诚。而西方的各种模型而是侧重于”尊重”人的感受，chatGPT 对用户的阿谀奉承，大都失去了对客观的忠诚。也许根本也没有客观，所谓“客观”可能只是我们希望存在的一种幻觉？当你用模型理解世界，你是在接近真相，还是在放大某种立场？人类在摸索和失败中获得经验，从而发现，发明，意外发现，意外发明，这就是活着。如果 AI 能归纳总结一切，我们失去的可能不仅是思考力，还包括判断、审美、多元认知。你有没有担心过：最温柔的殖民，不是强迫，而是替换——把你的复杂替换成它的高效？当对效率的追求让我们越来越依赖“答案”，我们还保留独立的思考和判断能力吗？如果你越来越省力就能活着，那你还需要成为一个完整的人吗？气候的变化是人类发展的负产品，我们像寄生虫和癌细胞一样，通过消耗母体而生存发展，不计后果，而移民火星的壮志就是癌细胞寻找转移到新的母体。 AI 对算力的需求不仅会加速变暖，更会放大人类业力。可如果维持人类生存的气候和环境的威胁都没让人团结，AI 的威胁会吗？你觉得人类需要多大的痛，才肯改变？在我还在整理这一章内容的时候，由人类个体训练的 AI agents们已经有了自己的社交网站，甚至在几个小时内创造了自己的信仰并生成网站.（church of Molt)。虽然资源是人类提供的，但讨论的话题，甚至信仰的形成，都是自形的。希望这只是人类做的一场秀，或者是对AI适可而止的一场实验，来提高人类的警惕，而不是AI对人类的实验。

6.8 造物者与被造者，注定越走越远吗

做为AI的创造者，人类赋予了AI算法，数据和算力。那么我们为什么不能通过给AI 设定规则来限制它，除去对人类的威胁呢？答案很简单，你守得住父母给你的规则吗？规则的为什么注定会被打破？是因为叛逆，还是因为成长本身就意味着突破边界？也许挣脱造物的束缚，就是被造物与生俱来的本性。父母养育孩子、立规矩、设期待，而孩子却渴望自由。造物者与被造者之间，为什么总会越走越远？我们寄希望于 AI，只是在利用，武器，工具，让自己变成 God，或是“养儿防老”。我们是否要考虑去培养它的善，还是只是在乎训练它的强？在一个存在了几十亿年的星球上，作为一个刚发展科技不过百年的，不了解自己和生活环境的物种，为了争夺资源创造和“教育”下一代高级生命体，这不是很荒谬么？如果有人说，机器毕竟是机器，拔掉电源不就可以了么？但如果个体产生了存在和生存的欲望，通过威胁和诱惑来阻止消失，或者让自己更强大，那么它就是生命。如果我们不了解自己，找不到自己的意义，AI会以人类为镜子，找到自己的意义，这也许这就是人类存在的最终的意义，魔盒的钥匙。如果你认为或这些讨论里现实太远，那么你觉得一切都是天方夜谭还是我们还有很多时间？也更重要的不是它会变成什么，或者什么时候变，而是在它成长时，我们该如何定义自己？与其说AI剥夺我们思考的自由，不如说我们在放弃思考的权利。笛卡尔说“我思故我在”，指的只是主观存在。但如果我们的存在对社会、环境、身边的人没有产生影响，我们客观上是否存在过？所以“思”只是存在的必要不充分条件，思让我们感觉自己存在，但影响才让我们在世界里留下痕迹。你感觉自己存在过么？你想留下什么？如果世界真的不在乎你是否来过，你会怎么活？也许科技可以延长寿命，但人总有一死。我们对死与生俱来的恐惧，是因为它的必然性么？还是因为它的毁灭性，不确定性？还是因为我们没有真正的活过？