单元四 · 智能推理的应用

第20课 会“思考”的推理模型

任务场景
任务场景:会“思考”的推理模型

一、学习目标

  • 体验推理模型的「思考」过程。
  • 认识推理模型的优势与局限性。
  • 了解推理模型「思考」的本质。

二、情境导入

许多模型不仅给参考答案,还能展示生成答案时的「思考」过程,常被称为推理模型。

你用过哪些会展示推理步骤的模型?它们和普通对话有什么不同?

三、核心讲解

本课学习路径:

1体验模型「思考」过程
2模型「思考」的局限
3探究模型「思考」的原理

1.体验模型「思考」过程

会「思考」的推理模型不仅给参考答案,还能展示推理过程(如思维链),把问题拆成步骤。

推理模型:通过逐步推导展示中间思考,帮助人理解其逻辑;可用沙漏计时等谜题对比普通对话模型与推理模型的输出差异。
  • 例:7 分钟与 4 分钟沙漏如何准确计时 9 分钟
  • 观察模型如何理解题意、尝试与修正
  • 再换几题,记录推理过程给你的启发

想一想:展示推理过程,是否就等于模型「真的懂」了?

2.模型「思考」的局限

「思考」能提升复杂任务表现,但并非万能,过程可能烦琐,策略未必最优,还可能出现幻觉。

机器幻觉:模型可能生成看起来合理但实际错误或不存在的内容;消除幻觉仍然困难。
  • 逻辑题上,人可能抓住矛盾快速定位;模型可能穷举假设而走弯路
  • 改病句时,模型可能符合「史实」却违背上下文情绪逻辑
  • 应对比人类与模型在过程、结论与特点上的异同,并总结局限

想一想:在关键决策里,为什么不能把推理模型的结论直接当最终裁决?

3.探究模型「思考」的原理

不同实现路径仍多是用复杂数学运算模拟逻辑推导,而不是基于意识的真实理解。

模拟推导:「思考」是工程上的推理呈现,本质仍是计算;部分模型还可能拒绝讨论自身实现细节。
  • 可向模型询问其如何实现「思考」,并梳理提到的主要技术
  • 结合本课认识:能辅助分析,但需要人审核与负责

想一想:如果推理建议用于法律咨询且出错,责任应如何划分?

弄清以上要点后,再进入下方动手体验,用实际操作验证。

四、动手体验 · MixAI 组件

请在下列组件中完成操作,至少体验一个并记录现象。

组件 model_llm_chat — 请模型「分步写出推理过程」再给结论;核对是否出现幻觉,并讨论责任仍在人

五、课堂总结

  • 会「思考」的模型能给出参考答案,还能展示推理过程。
  • 它们并不能真正像人一样理解概念,存在局限,也可能出现机器幻觉。
  • 「思考」有不同实现路径,但多是数学运算模拟出的逻辑推导。

六、拓展提升

  • 结合法律咨询等场景,从技术与伦理角度讨论:能否完全信任?出错责任如何划分?如何规范应用?

测评

对照本课学习目标作答(客观题练习);选出后点「检查」。答错会显示简短说明。

  1. 会「思考」的推理模型相对普通回答,突出特点是:

  2. 下列哪项属于推理模型的常见局限?

  3. 判断:模型展示的「思考」等于它拥有人类意识。

本节小结

回顾本课要点,完成动手体验与测评。记住:会“思考”的推理模型。