万维钢 著｜北京联合出版公司
一、ChatGPT究竟是什么
1.1 大语言模型（LLM）的本质
GPT = 基于经验 + 使用直觉 + 进行预测
大模型训练完成后，给它新输入，它会给出相当不错的输出，这个过程就是"预测下一个词"
GPT的本质跟人脑一样，是"神经计算"——不是形式逻辑，而是说不清道不明的感知过程
人脑从感知到行动也是无数神经元共同参与的过程，这个过程说不清中间步骤，但就是能感觉，而且是快速感觉
1.2 "开悟"与"涌现"
2021年前后，GPT经历了一次"开悟"（Grokking），自动拥有了"小样本学习"能力
"涌现"（Emergence）：当模型规模超过某个阈值，会突然长出意想不到的能力
这跟人脑神经网络的运作方式高度一致——参数足够多，智能就"涌现"出来了
1.3 GPT已经抓住了"月亮"
禅宗《指月录》：佛经是指向月亮的手指，你想要的不是手指而是月亮
GPT训练的语料是"手指"，但GPT抓住的"月亮"是语料背后那个真实的世界
GPT通过海量文本，自己摸索出了真实世界的运作规律，包括颜色关系、物理常识、情感逻辑……
2023年3月，GPT-4看懂了那张"VGA插头插手机"的错位笑话——它理解了真实世界
二、当AI进入人类社会
2.1 AI的商业逻辑
通用技术三个阶段：点解决方案 → 应用解决方案 → 系统解决方案
先发优势：AI产品一旦被广泛使用，会形成"护城河"和"飞轮效应"
超级延展性：AI产品的边际成本趋近于零，这是人类历史上从未有过的商业模式
数据护城河：用户越多 → 数据越多 → 模型越好 → 用户越多（正反馈循环）
2.2 AI会取代哪些工作？
规律发现型工作：翻译、初级编程、客服、数据分析……这些"规律已被人掌握"的工作，AI做得更好更便宜
精确计算型工作：会计、税务……这些有固定规则的，AI更可靠
不会被取代的：需要"身体在场"的（厨师、理发师、外科医生）；需要"信任关系"的（心理咨询师、领导）；需要"创造性破坏"的（真正的企业家、艺术家）
核心判断：AI擅长"神经计算"（规律发现），不擅长"形式逻辑"（精确计算）——但GPT-4已经开始擅长形式逻辑了
2.3 AI时代的教育该怎么做？
抛弃"训练AI式"的教育：刷题、死记硬背，这些AI都能做，而且做得更好
培养"门槛领导力"：静心沉思、具身智能、自主思考、增长意识
"调用力"：知道遇到什么问题该调用什么工具（AI、人、数据库……）
去"训练式思维"：教育的目标不是"被AI训练"，而是"训练AI"
三、置身智能，你更像你
3.1 情感计算为什么这么难？
检测情感非常困难："微表情"学说已被证伪，人的情感表达因文化、场景、个人经历而极其复杂
情感学习需要身体：AI没有肉体，它不能通过"摸爬滚打"来学习理解别人的情感
情感有"不可言说"的部分："感质"（Qualia）——你无法向一个盲人解释"红色"是什么感觉
结论：AI在短期内无法超越人的情感智能，这是人在AI时代的核心竞争力
3.2 "门槛领导力"的四个途径
静心沉思：通过冥想/反思，理解自己是谁、团队是谁、客户是谁
具身智能：通过身体去体察自己和别人的情感（百度的例子：派人去跟用户聊，而不是只看数据）
自主思考：人因为有身体，才有"不可控性"，才有真正的独立思考；如果每个人都活得像AI，AI就没有新训练素材了
增长意识：培养"爱"的能力——超级人工智能时代，唯一不能被取代的就是"真人的爱"
3.3 存在智能（Existential Intelligence）
这是霍华德·加德纳"多元智能理论"之外的第三种智能（除了IQ和EQ）
关于"大问题"的智能：我为什么活着？什么是爱？什么是意义？
AI短期内无法具备存在智能，这是人类最后的堡垒
"门槛"的含义：把"新"和"旧"结合起来，把"心灵"和"大脑"结合起来
四、用已知推理未知
4.1 计算不可约性（Computational Irreducibility）
沃尔夫勒姆的核心思想：任何复杂系统本质上都是不可约化的——你无法用简单公式完全预测复杂系统的行为
推论1：AI不可能被完全"管住"——你永远无法用有限条规则限制住一个足够复杂的系统
推论2：世界永远会有意外和惊喜——这正是人生的意义所在
推论3："道可道，非常道"——凡是可以写下来的规则，都不是终极真理
4.2 拟人化（Anthropomorphism）与"伊丽莎效应"
伊丽莎效应：1966年，MIT的约瑟夫·维森鲍姆做了一个简单的聊天机器人"伊丽莎"，结果同事们纷纷对它倾诉隐私，坚信它"理解自己"
核心警示：人们会无意识地把计算机拟人化——给它赋予动机、意图、情感……但这些都是人们脑补出来的
反拟人化："Nothing Personal"——很多让你不爽的事情，根本不是针对你个人的，只是系统运作的结果
汉隆剃刀："能用愚蠢解释的，就不要用人恶意"（Never attribute to malice that which is adequately explained by stupidity）
4.3 共存，而非统治
降临派：AI将主宰人类 → 错误
拯救派：科技公司将找到保护机制，确保人类永远控制AI → 不可能（计算不可约性）
幸存派：AI太强了，人类只能苟活 → 过度悲观
万维钢的立场：共存——计算不可约性保证了永远会有意外，永远需要人的判断和选择；人的价值在于"历史"——我们是亿万年演化的产物，这是AI短期内无法具备的
五、实战，让AI为你所用
5.1 三条"咒语心法"
准确表达需求：越具体越好——不要只说"写首诗"，要说"以《春天》为题写一首七言绝句，不能有'春'字，要表达时光飞逝、奋发努力的心情"
给足情境（Context）：谁在说？说给谁？在什么场合？用什么风格？要达到什么目的？——这5个方面给得越详细，GPT输出质量越高
帮助GPT思考："请一步一步想"——这句话能明显提高GPT回答准确率；遇到数学题，先让它"列举所有质数再数一数"
5.2 对话式学习
万维钢亲身演示：用ChatGPT学习康德《纯粹理性批判》——两小时内搞懂"先验结构""物自体""感性/知性/理性"等核心概念
优势：可以追问、可以要求举例、可以让它出题考你、可以质疑它——这是"有来有往"的学习
风险：GPT会"幻觉"（Hallucination）——对不知道的东西，它不说"我不知道"，而是编一个听起来合理的答案（尤其冷门知识）
5.3 用GPT-4编程（自然语言编程）
万维钢零基础用GPT-4做了一个"成语连线题生成器"——整个过程他只负责提需求、运行程序、把报错信息反馈给GPT-4
关键感悟："能工摹其形，巧匠摄其魂"——万维钢用了GPT-4，但GPT-4并没有替代他的判断；判断是否接受最终结果、是否继续迭代，这个决策权始终在人手里
自然语言编程时代已经到来：你不需要记住具体的程序语句，只需要会说人话，AI就能帮你写代码
六、更大的大局观
6.1 炼丹：大语言模型是怎样炼制的？
四步：架构 → 预训练 → 微调 → 对齐
架构：Transformer（GPT系列）、Diffusion（Stable Diffusion）、两者结合（Sora）
预训练：喂语料——算力就是王道；拼命增加参数个数，拼命增加训练数据量
微调：让模型"说人话"——教会它如何根据指令生成内容
对齐（Alignment）：让AI的输出符合主流价值观——"超级对齐"（Superalignment）问题：如何确保比人聪明的AI不会作恶？
6.2 惯性：如何控制和改写你自己的神经网络？
人脑本质上也是由若干个神经网络组成的——所以"仿AI学"对我们自身有巨大启发
控制惯性反应的策略：
暂停：姚明罚篮前运5下球——用仪式创造暂停空间
替换默认模式：不是取消惯性，而是用"好的惯性"替代"坏的惯性"（帕里什的思想）
建立标准："标准会变成习惯，习惯会变成结果"——对平庸说不
自我问责："成熟的基础是，即使事情不是你的错，也不意味着不是你的责任"（凯文·凯利）
四个要训练的神经网络：自我认识、自控、自信、自我问责
6.3 狂人：山姆·阿尔特曼的系统性野心
OpenAI CEO，1985年出生，创业天才
五大野心：
实现和管理AGI（人工通用智能）
用核能、生物科技和AI全面升级现代生活方式
成立由企业家组成的超级组织，改善资本主义经济
建立一个"宪章城市"，测试未来的基础设施和管理方式
给普通人提供全民基本收入（UBI）
给创业者的启示（来自阿尔特曼《如何成功》）：
复利：做的事情要有积累效应
自信：但要建立在现实基础之上
专注：搞清楚什么是最重要的事，然后排除万难做好它
自驱：做这件事是因为自己想做，而不是为了让别人看得上
冒险："做难的事情其实比做容易的事情更容易"——因为难的事情会吸引别人来帮你
七、拐点已至
7.1 AGI（人工通用智能）已至
GPT-4已经非常接近AGI了——请问有几个人敢说自己在某个领域比GPT-4更聪明？
AGI的三个标准（来自GPT-4的自我描述）：独立学习、跨领域知识、逻辑推理和创造力
超级人工智能（ASI）：在所有领域（包括科学发现和社交技能）都远超人类——这可能在我辈有生之年到来
7.2 文明的新阶段
这不仅仅是一次技术革命——这是人类文明阶段的切换
工业时代：人=劳动力
信息时代：人=知识工作者
AI时代：人=决策者+判断者+"人"本身的不可取代性（爱、信任、存在智能）
"轴心时代"的重启：AI把一部分人从劳动中解放出来，让他们可以整天想事情——这恰恰是孔子、苏格拉底那个"轴心时代"出现的条件
7.3 你该怎么办？
接受现实：AI已经来了，而且比你想象的更厉害
找到自己的"不可替代性"：情感、身体、信任、存在智能、判断力……
学会"调用力"：AI是你的工具，你的任务是判断该调用哪个工具、怎么调用
拥抱"共存"：不是"AI vs 人"，而是"人+AI vs 问题"
保持谦逊和好奇：每时每刻都可能有新东西冒出来——"拐点"的意思是：变化正在加速，而且加速度本身也在加速
附录：万维钢的核心论断
"直觉高于逻辑"：AI的本质是神经计算（直觉），而不是形式逻辑（理性）——这对社会有深远影响
"算力就是王道"：在无穷的算力面前，人类的知识只不过是一些小聪明
"人有人的用处"：在AI时代，人的根本作用是"选择未来发展的方向"——只有我们才有价值观，只有我们才能决定"想要一个什么样的未来"
"拐点已至"：这不是结束，甚至不是结束的开始——但可能是开始的结束