第 2 课 · 模型基础
LLM 为什么会说，也为什么会自信地错
把流畅表达与可靠事实分开，是安全使用大模型的第一道质量门。
本页目录
学完这一篇，你应该能够
- 用通俗语言解释大模型的生成方式
- 识别流畅回答中的事实风险
- 为不同任务选择合适的核验方式
大模型首先是一台语言生成器
大模型根据当前可见的文字和其他输入，连续预测接下来最合适的内容。大量语言模式让它能总结、改写、分类、解释和规划，也让输出读起来很像人的表达。
这种能力很强，但它并不等于数据库查询，也不自动意味着每个数字、引用和结论都已经核验。
流畅与真实是两条不同的轴
模型可以在资料不足时补出一个连贯答案。对创意草稿，这种补全可能有帮助；对合同、财务、医学、法规或客户承诺，它可能造成严重误导。
因此要把输出拆成事实、推断和建议。事实需要来源，推断需要说明依据，建议需要标明适用条件和责任人。
- 事实：能回到原文件、官方页面或可复算数据
- 推断：明确写出由哪些已知信息推出
- 建议：说明目标、假设、代价与决策人
模型选择先看任务匹配
不要把品牌排行榜当作永久答案。实际选择要看任务需要文字、图片、长文档、代码还是工具操作，也要考虑速度、成本、数据边界与可用地区。
同一个产品中的不同模型也可能各有侧重。先用一组代表性样例测试，再根据结果选型，比凭印象追逐“最强模型”更可靠。
把核验设计进流程
重要输出不应只依靠一句“请检查准确性”。更有效的做法是让模型引用输入位置，用计算工具复算数字，用规则检查必填字段，并把低置信度项目单独列出。
当任务可能影响付款、签约、合规或外部沟通时，最终决定仍应交给有权限的人。
- 来源核对：关键结论附文件名、页码或段落
- 结构检查：字段完整、格式有效、单位一致
- 独立复核：计算器、脚本或第二位审核人验证
- 人工批准：高风险动作执行前明确确认
动手练习
找一段 AI 生成的工作建议，用三种标记区分事实、推断和建议。为每条事实补一个可核验来源；没有来源的内容改成待确认。
完成标准
- 不会再把语言流畅直接等同于事实可靠
- 能为一项任务写出至少两种核验方法
- 知道哪些结果必须停下来交给人确认
资料说明
根据 PandaUp 2026-09 课程资料重新编写。本文是面向公开发布的原创整理，不是课程逐字稿；涉及产品能力、政策或外部事实时，请以使用当日的官方资料为准。