当你按下“发送”，大模型并不是先在脑中想好一句话，再把它完整说出来。文字会先被切成 token，经过 attention 等计算，形成下一枚 token 的候选概率，然后一个接一个地生成答案。

这一期从训练与推理的区别讲起，解释 token、attention、logits、采样、prefill 和 decode，并说明：知道机器怎样计算，和回答它是否“理解”，其实是两个不同层次的问题。

时间戳：

- 00:00 开场：按下发送后发生了什么

- 01:46 训练是把模型定下来，推理是把它用起来

- 03:26 模型先把文字切成自己的积木

- 05:21 attention 是一套信息混合规则

- 07:39 模型给出的是候选表，不是一整句话

- 09:28 prefill 是读题，decode 是逐步作答

- 11:54 计算机制与“理解”不是同一个问题

本节目只做阅读、思考和教育分享，不构成投资、医疗或其他专业建议。