大语言模型到底是什么？用预测下一个词一次讲透
先说说我的困惑
我一开始也搞不懂这个词，总觉得大语言模型是不是特别聪明的程序，甚至以为它像搜索引擎一样在网库里“查答案”。后来真正拆开看才发现，它的核心动作简单到有点反直觉：它只会做一件事——根据上文，预测下一个最可能的词。
听起来平平无奇对吧？但把这一个动作重复几百上千次，就拼出了你看到的长篇回答。这篇文章我就围绕这一个动作，把大语言模型讲透。
一、一句话定义
大语言模型（Large Language Model，缩写 LLM）是一个在海量文本上训练出来的超大神经网络程序，它学会的是“文字的接龙规律”：给一段上文，输出下一个最合理的词，然后不断重复。
要点：
- 它不是在数据库里“搜”到现成答案，而是“现场生成”答案
- 它处理的基本单位不是字，而是 token（词或词的一部分）
- 它输出的每个词都是基于概率选出来的，不是推理出“真理”
二、为什么强调“大”
“大”主要指三样东西都大，缺一不可：
| 维度 | 小模型 | 大语言模型 |
|---|---|---|
| 参数量 | 通常百万量级 | 通常亿到千亿量级 |
| 训练语料 | 少量特定文本 | 全网规模的多语言文本 |
| 计算开销 | 普通电脑可跑 | 需要大量显卡集群 |
| 表现 | 只会单一任务 | 能举一反三，多任务通吃 |
关键点：参数可以理解成模型内部可调节的“旋钮”，旋钮越多，能记住和表达的语言规律就越复杂。具体各模型的参数规模以官方公布为准。
三、核心原理：预测下一个词的四步循环
这是全文最重要的部分，建议慢读。
第 1 步：切词。 输入的文字先被切成一个个 token，比如“今天天气很”会被切成若干小块。
第 2 步：算概率。 模型根据前面所有内容，给词表里每个候选 token 计算一个概率。
第 3 步：选词。 按照一定的采样策略选中一个 token，策略可以偏向选最高概率，也可以适当加入随机性让回答更多样。
第 4 步：拼接并重复。 把选中的 token 接到上文末尾，回到第 2 步，直到生成结束标记。
用一段伪代码感受一下这个循环（只是示意，不是真实模型调用）：
prompt = "人工智能正在"
for step in range(5):
# 模型根据当前上文，给候选词算概率
candidates = get_probabilities(model, prompt)
# 按概率选一个词
next_token = sample(candidates)
# 拼回上文，继续下一轮
prompt = prompt + next_token
print(prompt)
你看，所谓的“智能对话”，底层就是这个循环跑了很多轮。它的聪明程度，取决于它在海量文本里学到的语言规律有多丰富。
四、它是怎么炼成的：训练三步走
大语言模型不是直接拿来聊天的，一般要走三个阶段：
| 阶段 | 干什么 | 解决什么问题 |
|---|---|---|
| 预训练 | 在海量文本上反复做“预测下一个词” | 学会语言规律和世界知识 |
| 指令微调 | 在大量“问题加答案”的数据上继续训练 | 学会听懂人话、按要求回答 |
| 对齐训练 | 引入人类偏好反馈，奖励更好的回答 | 学得更有用、更安全、更诚实 |
要点提醒：预训练给了它知识底子，但刚预训练完的模型只会“续写”，不会“答题”。是后两个阶段让它变成了你现在聊天的助手。
五、能力边界：它擅长什么、不擅长什么
这部分是我最想强调的。搞清楚边界，才不会用错。
| 擅长 | 不擅长 |
|---|---|
| 改写、翻译、总结、润色 | 给出绝对可靠的最新事实 |
| 写代码草稿、解释概念 | 长时间精确记忆整本书细节 |
| 头脑风暴、生成多种方案 | 无误的精确数学计算 |
| 模仿文体和格式 | 替你做最终决策 |
一个重要概念叫“幻觉”：因为它本质是按概率接词，有时会非常自信地编出看似合理但错误的内容。所以涉及事实、数字、引用时，关键信息一定要自己核实，以权威来源为准。
六、零基础立刻上手的三步
看完原理，你可以马上这样做：
第 1 步：选工具。 找一个主流的大模型对话产品，注册并直接开始用，官方文档和帮助中心是最可靠的信息来源。
第 2 步：学会下指令。 把你的身份、任务、背景、要求的格式说清楚，比含糊一句“帮我写一下”效果好得多。下次我会专门展开这块。
第 3 步：验证输出。 把模型的回答当成一个“很博学但会口误的助手”的初稿，关键事实自己查证后再使用。
常见误区小结
- 它不是百科全书，不会自动上网查最新信息，除非产品明确提供了联网功能
- 它没有固定记忆，多数对话工具在新对话里不记得你之前说过什么
- 它答错时，通常不是“使坏”，而是接词机制天然带来的概率性错误
把这三点记住，你就已经比很多初学者更会用它了。